De combinatie van verrijkingen, machine learning en crowd sourcing

Transcriptie

1 Verbetering vindbaarheid en bruikbaarheid van de digitale content van de KB De combinatie van verrijkingen, machine learning en crowd sourcing Theo van Veen,

2 Theo van Veen, Verrijken: Doel, middel en resultaat beter vindbaar en bruikbaar maken van content, vooral krantenartikelen, door verrijken van tekst of onderdelen van een tekst met gerelateerde informatie dat betreft meestal linked data (bijv. namen gelinked aan DBpedia) dat als contextinformatie kan dienen en geavanceerde zoekvragen mogelijk maakt

3 Theo van Veen, Hoe verbetert de vindbaarheid en bruikbaarheid door het linken van namen (aan o.a. DBpedia)? Door identificatie kan beter onderscheid gemaakt worden tussen de objecten met dezelfde naam (thesaureren) Op basis van identifiers/links kan bij het presenteren van content context informatie over objecten verkregen worden Bij het indexeren kan gerelateerde informatie als onderdeel van het object mee-geïndexeerd worden zodat daar ook op gezocht kan worden Door identifiers van beschrijvingen mee te indexeren kan op basis van semantisch relaties gezocht worden 1. Identificatie 2. Contextinformatie 3. Indexering 4. Semantisch zoeken

4 Theo van Veen, Aanvullende motivatie en hogere doel Bibliotheken zijn steeds meer integraal onderdeel van de buitenwereld. Verbetering van de vindbaarheid en de bruikbaarheid vereist het intelligent koppelen van content met de buitenwereld. Content bevat kennis die niet via gewone zoekopdrachten in de tekst gevonden kan worden. Dit vereist intelligente verwerking vooraf. Gerelateerde informatie moet niet eerst door gebruikers gezocht hoeven te worden maar moet direct aangeboden kunnen worden. Onze software moet onze content integraal gelezen en geanalyseerd hebben voor de gebruiker!!

5 Theo van Veen, Wat is er nodig? LINKS!! We moeten doen: d.w.z. links genereren. Voor de bibliografische informatie uit de GGC worden die links op een presenteerblaadje aangeboden: via PPN kan vanuit bibliografisch record het thesaurus record en het VIAF record opgevraagd worden en via VIAF dus informatie uit veel nationale catalogi over de hele wereld en Wikipedia. Voor tekst (kranten e.d.) moeten we de links naar personen, plaatsen, gebeurtenissen, etc. nog genereren.

6 Theo van Veen, Hoe moeten we links bij named entities genereren? Door namen van dingen te herkennen (named entity recognition) Die namen moeten geïdentificeerd worden. Hoe? Door namen te zoeken in en vervolgens te linken naar Wikipedia/DBpedia beschrijvingen Maar die namen zijn ambigu: hoort Einstein bij Albert Einstein of Alfred Einstein? Dus. we moeten software maken om de juiste links te vinden. Conventionele if then else software is niet geschikt: het vereist machine learning Maar dan worden er nog steeds veel fouten gemaakt en niet alles zit in DBpedia Dus we hebben gebruikers feedback nodig voor correcties, toevoegen links voor niet herkende namen en voor extra training van de software

7 Theo van Veen, Type verrijkingen Linked NE s Geodata Links Text features User annotatio n DBpedia Wikidata Street, place, latt., long. Place, latt., long. Web pages Classification (bijv. genre) VIAF Images Relevance Tags Artikelen linken aan Polygoon journalen met krantenartikelen Named entities linken aan DBpedia (en VIAF, Wikidata etc.) Plaats-straat combinaties in krantenartikelen Image enrichmen t Face recognition Video Sentiment Stories Emotion detection Geonames Sound Interestingness Etc. Nu beschikbaar Images uit Geheugen van Nederland bij krantenartikelen

8 Machine learning for matching newspaper articles and Polygoon news reels Theo van Veen,

9 Theo van Veen, Titel presentatie Naam en/of datum Matchen van krantenartikelen d.m.v titel, beschrijving en datum van Polygoon videos

10 Theo van Veen, Matchen op basis van kenmerken No match Match

11 3-D feature ruimte Theo van Veen,

12 Entity Linking Theo van Veen,

13 Theo van Veen, Named Entity Linking Search entity Solr Index DBpedia DBpedia Wikidat a List with Einsteins VIAF Etc. Named Entity recognitio n Get entities process article Enrichme nt and training Find the best candidate Store article id + resource ids Enrichmen t database

14 Theo van Veen, Indexing resource identifiers Wikidat a Semantic search providing wikidata id s Newspaper index search wikidata id s Get text for article X Text + Viaf id + Wikidata id etc. Indexing Get enrichments for article X Enrichmen t database

15 Theo van Veen, Enrichment infrastructure using SURFsara HPC cloud KB research environment SURFsara HPC environment articles Enrichme nt database Named entity recognitio n disambiguation Enrichment process search DBpedia index

16 Theo van Veen, Quality / confidence (%) phases: All DBpedia titles searched in news articles Named Entities searched in DBpedia Speedup by using HPC cloud SURFsara Using context and machine learning Timeline for enriching the newspapers 0 1 Article number 108 mlj

17 Theo van Veen, Van conventionele entity linking naar deep learning algorithm accuracy link recall link precision link F-measure Rule based Machine learning Neural network Neural network (extra features) More features???? Crowdsouring????

18 Theo van Veen, Hoe bieden we verrijkingen aan in Delpher? Links naar Wikipedia? Image uit Wikipedia toevoegen aan tekst? Abstract uit Wikipedia bij mouseover? Gebruiker mag het zelf bepalen? Voorlopig gebruiken we een research portal (xportal) voor verrijkt zoeken en een browserextensie om aan Delpher verrijkte informatie toe te voegen.

19 Naam en/of datum Theo van Veen,

20 Theo van Veen,

21 Naam en/of datum Theo van Veen,

22 Naam en/of datum Theo van Veen,

23 Naam en/of datum Theo van Veen,

24 Research portal with semantic search options Theo van Veen,

25

26 [member of The Beatles] Identification Context Co-indexing Semantic search

27

28 Theo van Veen, Wikidata as universal thesaurus for libraries Current situation: many to many links (many identifiers for single resource) Proposed: everything links to Wikidata (same identifier for single resource)

29 Theo van Veen, Heel Holland verrijkt, te beginnen bij de KB! Om de automatisch gegenereerde verrijkingen aan te vullen en te verbeteren is gebruikersfeedback nodig. Deze feedback kan weer gebruikt worden om onze disambiguation software te trainen om het beter te doen.

30 no link

31 1. Select name in tekst 2. Correct and search 3. Select correct entry

32

33 Theo van Veen, Conclusie en vervolg De combinatie van machine learning en het gebruik van Wikidata identifiers is veelbelovend voor het verbeteren van de toegang en bruikbaarheid van kranten en andere digitale content We moeten de betrouwbaarheid van de links opvoeren door meer kenmerken te gebruiken We hebben crowdsourcing nodig om de overblijvende fouten eruit te halen en de software beter te trainen Onze software moet onze content integraal gelezen en geanalyseerd hebben!

34 Vragen?