Probabilistische Gegevensbanken een korte inleiding

Transcriptie

1 Probabilistische Gegevensbanken een korte inleiding Maarten Fokkinga DB groep, afd Informatica, fac EWI, Universiteit Twente Versie van 8 november 2005 Inleiding. Gegevensbanken kennen we allemaal: zonder gegevensbanken zou de wereld niet kunnen functioneren zoals ze nu doet. (O, wat geeft me dat een heerlijk gevoel van onmisbaarheid... ) Bijvoorbeeld, de UT heeft gegevensbanken nodig om de studenten te administreren. Vliegmaatschappijen gebruiken gegevensbanken om plaatsboekingen te registreren. De bibliotheek gebruikt gegevensbanken om het boekenbestand vast te leggen, en de uitleningen te registreren. En zo voorts, en zo voorts. Al deze voorbeelden hebben één ding gemeen: er wordt van uit gegaan dat iedere waarde die vast gelegd moet worden, of als antwoord opgeleverd moet worden, geheel bekend is of helemaal niet (in geval van Null). Maar in de wereld om ons heen is er veel onzekerheid, dubbelzinnigheid, onnauwkeurigheid, vaagheid, en zo voorts, tezamen onbepaaldheid genoemd. De vraag komt dus op hoe we daar mee om kunnen gaan. Ons uitgangspunt is dat gegevensbeheer niet aan ad-hoc toepassingsprogrammatuur overgelaten moet worden, maar beter door special purpose databasesystemen gedaan kan worden; en dat geldt ook als de gegevens in meer of mindere mate onbepaald kunnen zijn. Er zijn vele voorstellen gedaan voor het omgaan met onbepaaldheid in gegevensbanken. Eén ervan is het idee van probabilistische gegevensbanken. Dat idee willen we hier duidelijk maken. Dat doen we door eerst van de klassieke gegevensbanken een voorbeeld te geven, dan aan de hand van dat zelfde voorbeeld probabilistische gegevensbanken te definiëren, en tenslotte wat toepassingen (het nut ervan) te laten zien. Klassieke gegevensbanken. Een gegevensbank is een verzameling feiten; een feit wordt gerepresenteerd als een rij in een tabel. Het antwoord op een vraag aan de gegevensbank is, weer, een verzameling feiten. In het klassieke geval dat alle waarden volkomen bepaald zijn, is een feit wel of niet waar; een tussenweg is niet mogelijk. Hier is een voorbeeld van een gegevensbank; zeven feiten verdeeld over twee tabellen: Naam Adres Hobby f 1 = (Apers, Hengelo, postzegels ) f 2 = (Jonker, Verwegistan, suikerzakjes) f 3 = (Apers, Hengelo, munten ) f 4 = (Peter, Enschede, volleybal ) Groep Naam f 5 = (DB, Apers ) f 6 = (DB, Jonker) f 7 = (ES, Hartel ) Door deze gegevensbank wordt één wereld gedefinieerd; in die wereld zijn precies alle feiten van de gegevensbank waar (en geen andere!): wereld feitenverzameling w = {f 1, f 2, f 3, f 4, f 5, f 6, f 7} 1

2 In deze wereld, w, worden vragen als volgt beantwoord: Welke hobby s hebben DB-leden? Waar wonen de DB-leden? Verzamelt Apers munten? postzegels, suikerszakjes, munten Hengelo, Verwegistan ja Probabilistische gegevensbanken. Bij probabilistische gegevensbanken is een feit met zekere waarschijnlijkheid waar (+) of niet waar ( ); de + en waarschijnlijkheden zijn samen 1.0. Hier is een voorbeeld van zo n probabilistische gegevensbank; er staan dezelfde feiten in als in de vorige, maar nu voorzien van een waarschijnlijkheid: Naam Adres Hobby + f 1 = (Apers, Hengelo, postzegels ) f 2 = (Jonker, Verwegistan, suikerzakjes) f 3 = (Apers, Hengelo, munten ) f 4 = (Peter, Enschede, volleybal ) Groep Naam + f 5 = (DB, Apers ) f 6 = (DB, Jonker) f 7 = (ES, Hartel ) Van sommige feiten is de +-waarschijnlijkheid op 1.0 gesteld; wanneer van alle feiten de +- waarschijnlijk 1.0 is, hebben we de klassieke gegevensbank weer terug. (Alleen de +-waarden hoeven opgeslagen te worden; de -waarden kunnen daaruit berekend worden. Voor de eindgebruiker zijn de waarschijnlijkheidskolommen niet zichtbaar.) Semantiek. We definiëren een wereld weer als een verzameling feiten, want voor dergelijke werelden weten we hoe we een vraag er over kunnen beantwoorden. De aanpak is nu dat een probabilistische gegevensbank niet één maar een stel werelden definieert, ieder met een zekere mate van waarschijnlijkheid. Bijvoorbeeld, een wereld kan het feit f 1 = (Apers, Hengelo, postzegels) bevatten, met een waarschijnlijkheid van 0.6, of kan dat feit niet bevatten, met een waarschijnlijkheid van 0.4. Aangezien er in ons voorbeeld 7 feiten zijn, die elk wel of niet in een wereld als wáár kunnen worden aangenomen, zijn er 2 7 = 128 verschillende werelden. Eén van de mogelijke werelden is de wereld waarin feiten f 1, f 2, f 6, f 7 wel en f 3, f 4, f 5 niet gegeven zijn, wereld w 099 in Figuur 1 verder op. Voor iedere wereld is de waarschijnlijkheid ervan gelijk aan het product van de +-waarschijnlijkheden van de feiten die er wel in zitten en de -waarschijnlijkheden van de feiten die er niet in zitten. (Door simpelweg het product te nemen, gaan we er van uit dat de feiten onafhankelijk zijn!) De zojuist genoemde wereld heeft waarschijnlijkheid f 1 + f 2 + f 3 f 4 f 5 f 6 + f 7 + = = Figuur 1 toont een opsomming van alle werelden met waarschijnlijkheid 0 (dus f 2, f 6 en f 7 er wel in), zestien werelden in totaal. 2

3 wereld feitenverzameling waarschijnlijkheid w098 = { f 2, f 6, f 7} = w099 = {f 1, f 2, f 6, f 7} = w102 = { f 2, f 3, f 6, f 7} = w103 = {f 1, f 2, f 3, f 6, f 7} = w106 = { f 2, f 4, f 6, f 7} = w107 = {f 1, f 2, f 4, f 6, f 7} = w110 = { f 2, f 3, f 4, f 6, f 7} = w111 = {f 1, f 2, f 3, f 4, f 6, f 7} = w114 = { f 2, f 5, f 6, f 7} = w115 = {f 1, f 2, f 5, f 6, f 7} = w118 = { f 2, f 3, f 5, f 6, f 7} = w119 = {f 1, f 2, f 3, f 5, f 6, f 7} = w122 = { f 2, f 4, f 5, f 6, f 7} = w123 = {f 1, f 2, f 4, f 5, f 6, f 7} = w126 = { f 2, f 3, f 4, f 5, f 6, f 7} = w127 = {f 1, f 2, f 3, f 4, f 5, f 6, f 7} = Figuur 1: De werelden gedefinieerd door de probabilistische gegevensbank. Alleen de werelden met positieve waarschijnlijkheid zijn hier opgesomd. Om de semantiekdefinitie te voltooien moeten we ook nog aangeven hoe vragen aan de gegevensbank worden beantwoord. Dat doen we aan de hand van deze voorbeeldvraag: Welke hobby s hebben DB-leden?. We beantwoorden deze vraag door in iedere mogelijke wereld de vraag te beantwoorden; bedenk dat een wereld volkomen bepaald is, en dus geen principiële moeilijkheden geeft in de beantwoording: In wereld, met waarschijnlijkheid, is het antwoord. w098 = {f 2, f 6, f 7} suikerzakjes w099 = {f 1, f 2, f 6, f 7} suikerzakjes w102 = {f 2, f 3, f 6, f 7} suikerzakjes w103 = {f 1, f 2, f 3, f 6, f 7} suikerzakjes w106 = {f 2, f 4, f 6, f 7} suikerzakjes w107 = {f 1, f 2, f 4, f 6, f 7} suikerzakjes w110 = {f 2, f 3, f 4, f 6, f 7} suikerzakjes w111 = {f 1, f 2, f 3, f 4, f 6, f 7} suikerzakjes w114 = {f 2, f 5, f 6, f 7} suikerzakjes w115 = {f 1, f 2, f 5, f 6, f 7} postzegels, suikerzakjes w118 = {f 2, f 3, f 5, f 6, f 7} suikerzakjes, munten w119 = {f 1, f 2, f 3, f 5, f 6, f 7} postzegels, suikerzakjes, munten w122 = {f 2, f 4, f 5, f 6, f 7} suikerzakjes w123 = {f 1, f 2, f 4, f 5, f 6, f 7} postzegels, suikerzakjes w126 = {f 2, f 3, f 4, f 5, f 6, f 7} suikerzakjes, munten w127 = {f 1, f 2, f 3, f 4, f 5, f 6, f 7} postzegels, suikerzakjes, munten 3

4 Sommeren we voor ieder antwoord de waarschijnlijkheden van de werelden waarin dat antwoord opgeleverd wordt, dan krijgen we de volgende lijst: postzegels, suikerzakjes ( = ) suikerzakjes ( = ) postzegels, suikerzakjes, munten ( = ) suikerzakjes, munten ( = ) Deze lijst is het beste antwoord dat gegeven kan worden, maar heeft wel één groot nadeel: zo n lijst kan 2 n veel regels bevatten, wanneer er n items in een antwoord kunnen voorkomen. Dat is veel te veel voor practisch gebruik. Practischer is het om voor ieder van de n items aan te geven met welke waarschijnlijkheid het in een antwoord voorkomt. Dat levert de volgende lijst (gerangschikt naar afnemende waarschijnlijkheid): suikerzakjes ( = ) postzegels ( = ) munten ( = ) Deze uitkomst geeft aan dat met zekerheid suikerzakjes gespaard worden door DB-leden, dat postzegels gespaard worden met waarschijnlijkheid , en munten met waarschijnlijkheid (Opgeteld zijn deze waarschijnlijkheden uiteraard meer dan ) Nog meer voorbeeldvragen. beantwoord met: Net zo als hierboven wordt de vraag Waar wonen de DB-leden? Hengelo, Verwegistan (= ) Verwegistan (= ) Op de vraag Verzamelt Apers munten? is het antwoord is ja in de acht werelden waarin f 3 zit, met gezamenlijke waarschijnlijkheid , en nee in de acht werelden waarin f 3 niet zit, met gezamenlijke waarschijnlijkheid : nee ja Deze uitkomst vind je ook direct uit de eerste van de twee gegeven tabellen van de probabilistische gegevensbank; want de tweede tabel zegt niets over hobby s. Toepassingen. Er zijn verscheidene manieren waarop de waarschijnlijkheden in de tabellen en antwoorden tot stand komen en uitgebuit kunnen worden: Dubbelzinnigheid, tegenstrijdigheid. Wanneer twee gegevensbronnen worden samengevoegd (je synchroniseert het elektronische adresboek op je PDA met die van je PC), kan één bron aangeven dat Apers postzegels verzamelt terwijl de andere bron zegt dat Apers munten verzamelt. Zelfs in geval dat personen hooguit één hobby hebben, worden beide feiten opgenomen, maar ieder met een waarschijnlijkheid van 0.5. (Zo doende kunnen we met tegenstrijdige gegevens omgaan.) Als er méér dan twee bronnen meedoen, kunnen de waarschijnlijkheden van 0.5 afwijken, of als één van de bronnen om wat voor reden dan ook voorrang krijgt kan de waarschijnlijkheid van beide feiten ook anders zijn dan half-half. 4

5 Wanneer twee bronnen worden samengevoegd, kan het zijn dat de bedoelde interpretatie van schema s van de bronnen verschillen: bij de één betekent naam de voornaam van een persoon terwijl bij de ander de achternaam bedoeld wordt. Hmmmmmmmmmm, hoe leidt dit tot probabilities? Onnauwkeurigheid. Wanneer de gegevensbank gevuld wordt met sensorgegevens die de locatie van iemand aanduiden, kan het zijn dat de sensorgegevens niet geheel nauwkeurig zijn. Bij een GPS localisering van Apers kan enerzijds Hengelo als locatie gevonden worden en anderzijds Enschede. Beide locaties kunnen in de gegevensbank opgenomen worden, ieder met 0.5 waarschijnlijkheid, of een andere waarschijnlijkheid als daarvoor andere aanwijzingen zijn. Overeenkomstigheid. Wanneer van Peter Apers het adres gevraagd wordt, kan, bij de voorbeeldgegevensbank, van zowel Peter als ook van Apers het adres gegeven worden, ieder met een waarschijnlijkheid van 0.5, of met grotere waarschijnlijkheid voor het adres van Apers, wanneer bekend is Apers veel onderscheidener is dan Peter. Overeenkomstigheid. Wanneer van Aders het adres gevraagd wordt, wordt in het klassieke geval niets opgeleverd, terwijl bij probabilistische gegevensbanken de adressen van Apers, Jonker en Peter opgeleverd kunnen worden, ieder met een waarschijnlijkheid die berekend wordt uit de mate waarin Aders overeenkomt met de naam (dus een hogere waarschijnlijkheid bij het adres van Apers dan bij het adres van Jonker). Door deze manier kan de gebruiker in veel van de gevallen nog een zinvol antwoord gegeven worden waar in het klassieke geval het antwoord leeg is. Voorkeur. Wanneer een gebruiker een vraag formuleert, kan dat in het klassieke geval alleen maar een exacte vraag zijn, zonder onbepaaldheid er in. Maar we kunnen nu ook benaderingen toestaan, zoals ongeveer 4 en ongeveer 500 euro. De beantwoording van een vraag begint dan met het toekennen van scores aan feiten in de database; de scores geven aan hoe goed het feit past bij de vraag. Die scores worden verder precies zo behandeld als de waarschijnlijkheden. Dus het antwoord wordt in een probabilistische gegevensbank uitgerekend, en bestaat weer uit een opsomming van mogelijkheden, ieder voorzien van de score (waarschijnlijkheid) van de mate waarin het antwoord aan de exacte vraag voldoet. Rangschikking. Bij probabilistische gegevensbanken zullen de antwoorden al gauw grote opsommingen zijn. Niet alleen worden die opgesomd in volgorde van afnemende waarschijnlijkheid, maar ook kun je afspreken dat alleen de top-10 wordt opgeleverd (en op verzoek pas de rest). Onderzoek. Probabilistische gegevensbanken zijn al lang bekend, maar pas recentelijk echt in de belangstelling komen staan door twee redenen. Ten eerste is de behoefte aan het beheer van enigszins onbepaalde gegevens recentelijk enorm gegroeid door het karakter van toepassingen. Ten tweede zijn er recentelijk theorieën en technieken ontwikkeld die een efficiënte beantwoording van vragen soms, maar nog lang niet altijd, mogelijk maakt. Veel onderzoek is nog nodig om tot beter begrip van toepasbaarheid te komen, en in méér gevallen ook vragen efficiënt te kunnen beantwoorden. Bronnen. Voor deze uiteenzetting is gebruik gemaakt van het werk van Dan Suciu. 5