NLP technieken voor Question Answering College Natuurlijke Taalinterfaces Januari 2003
1 Question Answering Vraag: Door wie werd WebTV Networks overgenomen? Antwoord is een (deel van een zin)uit een document: Het bedrijf van miljardair Bill Gates heeft daartoe WebTV Networks voor zo n achthonderd miljoen gulden opgekocht. WebTV Networks is gespecialiseerd in systemen die internet zichtbaar maken op het televisiescherm. WebTV heeft eerder de licenties voor zijn systeem verkocht aan het Nederlandse Philips Consumer Electronics en het Japanse Sony. De overname van WebTV Networks lijkt daarbij een strategisch zeer belangrijke zet.
2 Typisch QA systeem: analyseer (parse) de vraag, classificeer de vraag (naar persoon, tijdstip, hoeveelheid geld, etc), selecteer relevante documenten (IR), selecteer (parse) relevante (passages), zinnen, zinsdelen uit relevante documenten.
3 Analyse van Vragen Analyseer de vraag: Parse de zin, Wat is de vraagconstituent, Wat voor soort vraag is het?
4 Analyse van Vragen Waar werd Gerrit Zalm geboren? In welk jaar werd Gerrit Zalm geboren? Gerrit Zalm werd geboren op 6 mei 1952 te Enkhuizen. In welke stad is Gerrit Zalm geboren? In welk land werd Ruud Gullit geboren? Op welk adres is het Rekencentrum gevestigd? Antwoord is een locatie-stad, locatie-land, locatie-adres,...
5 Analyse van Vragen Wat is de afstand tussen Groningen en Maastricht? Hoeveel kilometer is het van Groningen naar Maastricht? Hoe ver ligt Groningen van Maastricht? Geef de afstand Groningen Maastricht, in kilometers. Noem het aantal kilometers van Groningen naar Maastricht....
6 Information Retrieval Zoek relevante documenten, Query = Vraag - Vraagwoorden Wat is de afstand tussen Groningen en Maastricht? Query = {afstand, de, en, is, Groningen, Maastricht, tussen}
7 Information Retrieval Filter Stopwoorden: hulpwerkwoorden (hebben, zijn, worden), voorzetsels, lidwoorden, etc. { afstand, de, en, is, Groningen, Maastricht, tussen}
8 Google: Afstand Groningen Maastricht ter vergelijking, de afstand Groningen-Maastricht is ongeveer 240 kilometer, Van Groningen naar Maastricht is 260 km over de aarde, Een trein rijdt met een snelheid van 60 km. per uur vanuit Maastricht naar Groningen. De afstand is 300 kilometer, Groningen - Maastricht,... (met overstap in Utrecht) liggen de Martinitoren en het Vrijthof 371 kilometer.. 478 kilometer van Pieterburen in de provincie Groningen tot aan de Sint Pietersberg onder Maastricht,
9 Taalkunde voor Information Retrieval Stemming Query Expansion Named Entity Classification Pronoun Resolution
10 Stemming Breng woorden terug tot de stam { WebTV, overgenomen overnemen } Microsoft nam WebTV over voor...( overnemen) N.b. zowel vraag als documenten moeten gestemd worden. Alternatief: alle vormen van een woord aan de query toevoegen: { WebTV, overgenomen, overnemen, overneem, overneemt, overnamen, neem, nam, over}
11 Query Expansion Query = woorden uit de vraag + Synoniemen Wie is de baas van de NS { baas, directeur, chef, voorzitter, topman} De handtekeningen worden binnenkort aangeboden aan NS-topman Huisinga Han Noten, sinds kort NS-directeur zo zegt NS-president-directeur J. Huisinga Vereist: woordenboek/thesaurus (WordNet, EuroWordNet)
12 Query Expansion met EuroWordNet baas: 5 betekenissen... baas/1 synoniemen: leider, meester, meesteres, baas/4 synoniemen: man, kerel, knaap, mannetje,... baas/5 synoniemen: joekel, kanjer,... Hyperoniem : superbegrip, zoogdier is een hyperoniem van hond. baas/2, baas/3 hyperonymen : bezitter, drager, eigenaar
13 Query Expansion met EuroWordNet Hyponiem: subbegrippen, poedel is een hyponiem van hond. baas/1 hyponiemen, niveau 1 : aaanvoerder, president, voorzitter, bandleider, bedrijfsleider, bestuurder, regent, bevelhebber, commandant, dirigent, fractieleider, heerser, hoofd/4, regisseur, ploegleider,... baas/1 hyponiemen recursief : vele honderden... hoofd/4 hyponiemen : chef, blokhoofd,... procureur-generaal, directeur,
14 Zoek antwoorden in relevante documenten Vind zinnen die met query matchen, Zoek naar constituent die bij de vraag past, Waar... De in 1927 in Amsterdam geboren...
15 Named Entity Recognition/Classification Herkennen van namen, b.v. om wie-vragen te beantwoorden. Wie is de directeur van de NS? De NS-directeur denkt wat aan het verzuim te kunnen doen door het personeel beter te begeleiden Han Noten, sinds kort NS-directeur, bekritiseert het eigen bedrijf.
16 Named Entity Recognition/Classification Probleem 1: Hoe herken je namen van personen, locaties, organisaties? (Woordenboeken zijn onvolledig...) Probleem 2: Hoe onderscheid je personen van locaties, en organisaties? Woordenlijsten en dergelijke zijn onvolledig, Veel gewone woorden zijn ook namen (Noten),
17 Veel gebruikte methode voor NER/C Ad-hoc script om namen te herkennen (hoofdletters, acronymen, getallen,...). Classificatie is echte probleem: Zoek/Maak een lijst eigennamen (Seed-list), Doorzoek een corpus op contexten, Gebruik de contexten om nieuwe namen te vinden
18 Named Entity Classification Seed-list: Huisinga, Hoogervorst Contexten: NS-directeur Huisinga, Staatssecretaris Hoogervorst ontkent RSI terwijl probleem onrustbarend stijgt. Nieuwe namen: wat kan volgen op Staatssecretaris? Oud-staatssecretaris Bartels, Staatssecretaris Kalsbeek
19 Pronoun Resolution Staatssecretaris van Defensie H.A.L. van Hoof. De staatssecretaris is verantwoordelijk voor de krijgsmachtzaken. Curriculum Vitae Hendrikus Andreas Lambertus (Henk) van Hoof werd geboren op 9 november 1947 te Nijmegen. Na het eindexamen HBS-A was hij van 1965 tot 1968 adelborst aan het Koninklijk Instituut voor de Marine (KIM) te Den Helder. In 1981 trad de heer Van Hoof in dienst bij de Vereniging van Hoger Personeel