Oriëntatie Kunstmatige Intelligentie

Transcriptie

1 Oriëntatie Kunstmatige Intelligentie Representatie en Geheugen Niels Taatgen

2 Representatie en Geheugen n Kunstmatige Intelligentie: bestudeer Intelligentie met formele systemen n Formeel systeem: verzameling afspraken n Vraag: Wat is de beste afspraak om menselijke kennis op te slaan? n Methode: Probeer te ontdekken hoe mensen hun kennis representeren: bestudeer Geheugen

3 Inhoud n Drie benaderingen Informatica (3.1, 3.2, 3.5, 5.3) Cognitieve Psychologie ( ) Neurowetenschap (2) n Komen samen in Neurale netwerken (3.5, 5.3, ) ACT-R ( )

4 Zes 6 VI 110

5 Betekenis Representatie

6 Representatie Eh.. Zestien plus vijfentwintig is.. eenenveertig Lichaam-geest probleem

7 Representatie van Handelingen pen_omlaag herhaal met x van 10 naar 50 stap 10 herhaal 4 vooruit(x) rechts(90) einde herhaal einde herhaal pen_omhoog Dit is echter niet de manier waarop mensen kennis in hun hoofd opslaan!

8 Het probleem van representatie n Wat is betekenis nu eigenlijk? n Hoe representeren mensen feitenkennis? n Hoe representeren mensen kennis over handelingen,, d.w.z. kennis over hoe je iets moet doen?

9 Geheugen n Behavioristen (begin vorige eeuw): b.v. Pavlov

10 Geheugen n Behavioristen (begin vorige eeuw) Stimulus? Respons

11 Geheugen n Behavioristen (begin vorige eeuw) Stimulus Als het belletje gaat rinkelen, Dan komt er vlees Als er vlees komt, dan moet ik alvast wat extra speeksel aanmaken Respons Bel Rinkelt Kwijlen

12 Atkinson & Shiffrin (1968) Rehearsal Sensorische Registers Korte Termijn Geheugen Lange Termijn Geheugen Gebaseerd op 7±2 exp Miller

13 Een geheugenexperiment n Je krijgt zometeen een aantal woorden te zien (het zijn Engelse woorden). Probeer deze zo goed mogelijk te onthouden. (Niet opschrijven!!!!)

14 Avocado

15 Hexagon

16 Cinnamon

17 Broccoli

18 Electron

19 Flamingo

20 Aardvark

21 Boyhood

22 Crevice

23 Gazette

24 Anatomy

25 Bourbon

26 Nu komt de test De bedoeling is dat je de woorden afmaakt die zometeen op het scherm verschijnen. Steek je vinger op als je het woord herkent (of denkt te herkennen)

27 AL N_C

28 AN _MY

29 B CC I

30 BE VI

31 _OYH_O_

32 B ZI_R

33 Einde van de test n Sommige woorden stonden op de lijst, anderen niet n In een echt experiment (met meer woorden), scoren proefpersonen: 50% goed op woorden uit de lijst 30% goed op woorden die niet op de lijst stonden

34 Nu komt nog een tweede test Indien het woord dat op het scherm verschijnt in de lijst stond, steek dan je vinger op, anders niet.

35 Aardvark

36 Flamingo

37 Cockatoo

38 Ellipse

39 Gazette

40 Airspace

41 Einde van de test In een echt experiment hebben proefpersonen na een uur ongeveer 60% goed op deze test, waarbij inbegrepen is de gokkans.

42 Experiment van Tulving e.a. 96 woorden Test na een uur Test na een week Recognition Completion studied words Completion new words 0 1 hour 1 week

43 Uit een ander experiment Als je hetzelfde experiment met amnesiepatiënten nten (d.w.z. geheugenverlies) doet blijkt: n Amnesiepatiënten nten zijn heel slecht in herkenning n Ze zijn echter net zo goed als proefpersonen in het afmaken van woorden.

44 Conclusie Tulving & co. n Mensen hebben twee soorten lange- termijn geheugen Expliciet, bewust geheugen (herkenningstaak) Impliciet, onbewust geheugen (woorden afmaken)

45 Squire & Knowlton (1995) Geheugen Expliciet Impliciet Episodisch Geheugen Semantisch Geheugen Procedureel Geheugen Priming Geheugen Klassieke Conditionering

46 Probleem van geheugenonderzoek n Hoe ver moeten we gaan met het opsplitsen van geheugen? n Hoe is kennis in elk van deze geheugensystemen gerepresenteerd? n En hoe werken al deze geheugens samen?

47 Conclusie psychologisch onderzoek n De psychologie levert een grote verzameling feiten over het geheugen, waarvoor we uiteindelijk een verklaring moeten bieden vanuit onze geheugentheorie n De psychologie biedt betrekkelijk weinig theorie voor de vraag hoe kennis nu echt gerepresenteerd is

48 Geheugen is onderdeel van de hersenen n Hersenen vormen een netwerk van miljarden neuronen n Elke neuron is verbonden met honderden anderen n Neuronen communiceren met elkaar door middel van chemische stoffen, neurotransmitters

49 Vragen n Waar zit dan het geheugen? n Hoe kunnen hersencellen (symbolische) kennis representeren? n Hoe kunnen ze deze kennis leren?

50 (advertentie) Hier begint de Kunstmatige Intelligentie Informatica Psychologie Antwoorden! Neuro Wetenschap

51 Neurale netwerken n Neuronen hebben twee soorten verbindingen Exciterend: als de ene cel actief is, wordt de cel die ermee verbonden is ook meer actief Inhiberend: als de ene cel actief is, wordt de activiteit van een andere cel onderdrukt

52 The Jets and the Sharks Name Gang Age Edu Married Occup Art Jets 40's J.H. Sing. Pusher Sam Jets 20's Col. Sing. Bookie Lance Jets 20's J.H. Mar. Burgler Ralph Jets 30's J.H. Sing. Pusher Rick Shark 30's H.S. Divorc Burgler

53 Lance Ralph Art Sam Rick 20 s 30 s 40 s Burglar J.H. Col. Pusher Bookie H.S. Jet Single Married Shark Divorce

55 Vraag aan het netwerk n Wat zijn de eigenschappen van Lance?

59 Vraag aan het netwerk n Wie is in de dertig en is een pusher?

64 Vraag aan het netwerk n Wat voor iemand is nu een Jet?

71 Vraag aan het netwerk n Wie heeft de volgende eigenschappen: J.H., Jet, married, pusher en 30 s?

76 Eigenschappen neuraal netwerk n Kan snel dingen opzoeken, door parallellisme n Kan prototypes afleiden: een typische Jet n Kan omgaan met fouten en onvolledigheden in de invoer

77 Andere eigenschappen (niet in dit voorbeeld) n Gedistribueerde representatie: Informatie wordt opgeslagen door meer dan één n cel en met meer dan één verbinding Neurale netwerken kunnen zelf hun kennis leren door ervaring

78 ACT-R n Is een zogenaamde hybride architectuur Gedeeltelijk gebruik makend van symbolen Gedeeltelijk gebruik makend van activatiewaarden e.d., hetgeen ook wel sub-symbolisch wordt genoemd

79 ACT-R heeft 2 soorten geheugen n Een declaratief geheugen: een geheugen voor feiten n Een procedureel geheugen: een geheugen voor handelingen

80 Declaratief geheugen n ACT-R s s geheugen voor feiten lijkt wel een beetje op het Jets en Sharks netwerk Voor elk feit is er een knoop (een chunk ) Chunks zijn met elkaar verbonden Chunks hebben een activatie, die ze kunnen doorgeven via hun verbindingen aan andere chunks

81 Korte-termijn geheugen n In veel theorieën n over geheugen is sprake van een apart korte-termijn geheugen (ook wel werkgeheugen), bijvoorbeeld de Atkinson en Shiffrin theorie n Kenmerkend is een vaste capaciteit (vaak 7±2) 7 n Is het verschijnsel korte-termijn geheugen echter niet te verklaren zonder het theoretische construct korte-termijn geheugen?

82 Korte-termijn geheugen in het Lange-termijn geheugen First Second Third Nodes that represent positions Nodes that represent numbers Fourth

83 memorize numbers First Second three Third Fourth

84 memorize numbers First Second three six Third Fourth

85 memorize numbers First Second three six two Third Fourth

86 memorize numbers First Second three six two four Third Fourth

87 First recall the list memorize numbers Herinneren van een lijst van twee cijfers Second three six (op volgorde) Third Fourth

88 First recall the list memorize numbers Vier i.p.v. twee Herinneren cijfers betekent van hogere een kans lijst op van foutenvier cijfers Second three six two four Third Fourth Activatie is lager omdat meer tijd verstreken is. Met vier verbindingen wordt de activatie per knoop minder

89 Resultaten van dit model n Volgens dit model is repeteren niet toegestaan n Als dit wel mag, komt er Miller s zeven ± twee uit low average high Number of items

90 Waarom is een theorie zonder Korte-Termijn geheugen beter? n Hoe meer theoretische constructies, des te zwakker de theorie n In tegenstelling tot Atkinson & Shiffrin en Squire Is ook echt kennis gerepresenteerd in het geheugen Kunnen geheugenprocessen gesimuleerd worden, zodat we nieuwe inzichten krijgen

91 Een verklaring voor Tulving s geheugentaak ANATOMY A N T O M Y ANTONYM A N T O N Y M

92 Experiment Memorize anatomy Activatie wordt aangegeven met kleur: geel is laag, rood is hoog, oranjes zitten er tussenin ANATOMY A N T O M Y A ANTONYM N T O N Y M

93 Experiment Rehearsal Memorize anatomy ANATOMY A N T O M Y A ANTONYM N T O N Y M

94 Na een uur Experiment Memorize anatomy Stond Anatomy op de lijst? ANATOMY A N T O M Y A ANTONYM N T O N Y M

95 Na een uur Experiment Memorize anatomy Maak af: AN _ MY ANATOMY A N T O M Y A ANTONYM N T O N Y M

96 Na een week Experiment Memorize anatomy Stond Anatomy op de lijst? ANATOMY A N T O M Y A ANTONYM N T O N Y M

97 Na een week Experiment Memorize anatomy Maak af: AN _ MY ANATOMY A N T O M Y A ANTONYM N T O N Y M

98 Resultaten van het model Model Data Recognition Recognition 75 Completion studied words Completion new words 75 Completion studied words Completion new words hour 1 week 0 1 hour 1 week

99 Kennis van handelingen (in ACT- R maar ook andere systemen) n Door middel van regels n Voorbeeld in het boek 5.3 ( ) Aftreksommen in kolommen Negen regels kunnen de hele vaardigheid Zes regels kunnen het zonder lenen Eén n regel kan eenvoudige aftreksommen

100 Conclusie: gebruik van formele technieken Oud: Nieuw:? Werkgeheugen? Impliciet Geheugen? Expliciet Geheugen Declaratief Geheugen incl. Representatie Representatie?