Het Belang van Grounding

Transcriptie

1 Het Belang van Grounding Peter van Hees & Dewi Harten Begeleider: Reinhard Blutner Nieuwe Doelenstraat 15, Amsterdam Universiteit van Amsterdam 1 juli 2005

2 Samenvatting De kunstmatige intelligentie heeft als doel om een intelligente machine te maken. Maar wat is intelligent? En wat is er nodig voor intelligentie? In deze scriptie zullen deze vragen behandeld worden, maar een definitief antwoord is er tot op de dag van vandaag niet. Een theorie beweert dat grounding nodig zal zijn voor intelligentie. Grounding is het betekenis geven aan een symbool door het te verbinden met iets in de werkelijke wereld. In het chinese kamer argument kan bijvoorbeeld geen intelligentie in het systeem zijn, want het systeem heeft de chinese symbolen niet geground. Maar waarom zou grounding dan zo belangrijk zijn voor intelligentie? Hebben wij wel verbintenis met de echte wereld nodig om intelligent te zijn en wat voor soort problemen komen uit deze aanname voort? Op al deze vragen zal door middel van een discussie een vorm van antwoord worden gegeven. Ook zal nog een voorbeeld gegeven worden van toegepaste grounding in de AI. Peter van Hees & Dewi Harten,

3 Inhoudsopgave Dankwoord... p 3 Inleiding. p 4 Wat is intelligentie?... p 5 Wat is grounding?... p 7 Het chinese kamerargument... p 8 Is grounding belangrijk voor intelligentie?... p 12 Color categories een voorbeeld van toegepaste grounding. p 13 Conclusie en future work... p 17 Referenties.. p 18 Bijlagen... p 19 Peter van Hees & Dewi Harten,

4 Dankwoord Wij zijn veel dank verschuldigd aan de docenten die hebben meegeholpen aan ons onderzoek. Zij hebben voor ons tijd vrij gemaakt om op enkele van onze vragen antwoord te geven. Het viel ons op hoe wel overdacht de antwoorden waren en hoe enthousiast de docenten aan ons interview deelnamen. Vandaar dat wij Maarten van Someren, Remko Scha, Ingmar Visser, Maricarmen Martinez, Frank Veltman en Henk Zeevat enorm willen bedanken. Verder willen wij Stijn van Balen en Jeroen Joukes bedanken voor het maken van hun poster voor het project van vorig jaar. Wij hebben hun afbeelding als basis voor onze kaft gebruikt. En natuurlijk willen wij onze begeleider Reinhard Blutner ook ontzettend bedanken voor zijn coaching tijdens het maken van deze scriptie. Peter van Hees & Dewi Harten,

5 Inleiding Al vanaf de oudheid wordt er gedacht over wat intelligentie is en wat nou het verschil maakt tussen beesten en mensen. Een van de huidige theoriën is dat grounding 1 het verschil maakt. Grounding zou er voor zorgen dat mensen intelligenter zijn dan dieren. Voor alle mensen die zich met artificiële intelligentie bezig houden, is dit natuurlijk een zeer belangrijke discussie. AI draait er namelijk om om computers intelligent te maken en daarvoor is inzicht in menselijke intelligentie onontbeerlijk. Vandaar dat wij in dit artikel de discussie over of grounding belangrijk (en misschien zelfs noodzakelijk) zal zijn voor intelligentie voeren. Voordat we deze discussie kunnen voeren moeten we echter ook weten wat intelligentie is en wat grounding precies inhoudt. Verder zullen we het chinese kamer argument bespreken, omdat dit volgens velen de noodzaak van grounding aantoont. Tot slot geven we een voorbeeld van toegepaste grounding, dat aan elke AI er duidelijk zou moeten maken dat het mogelijk is om grounding toe te passen en dat het zeer behulpzaam kan zijn. Tot slot is het handig om onze werkwijze uit te leggen. Ons onderzoek is een tweeledig onderzoek. Allereerst halen we heel veel informatie uit artikelen. Dit zijn artikelen van gerenommeerde wetenschappers in dit vakgebied. Het nadeel aan deze wetenschappers is, dat zij zich vaak met een heel specifiek vakgebied bezig houden, terwijl AI juist breed zou moeten zijn. Vandaar dat wij ook interviews hebben gehouden met AI'onderzoekers aan de UvA. Deze mensen zien AI als een samenkomst van verschillende disciplines, die samen meer vormen dan de optelsom van de delen. Deze onderzoekers hebben ons een zeer goed inzicht in het probleem gegeven. Bovendien geeft dit soort empirisch onderzoek al snel een goed beeld van de verschillende meningen (zo blijkt Scha een echte computerfunctionalist te zijn, terwijl van Someren een embodied cognition aanhanger is). Voor deze interviews hebben we geprobeerd een doorsnede van AI-populatie te nemen. Wij hebben tien mensen aangeschreven met het verzoek tot een interview. In deze brief gaven we ook al onze vragen aan en enige achtergrondinformatie. Uiteindelijk heeft met zes onderzoekers een interview plaatsgevonden. Met alle informatie die we uit deze twee bronnen gehaald hebben, hebben we onze eigen mening gevormd. In dit artikel zult u zowel de overtuigingen van de internationale- als de UvAonderzoekers horen, maar natuurlijk ook die van ons. 1 Symbolen aan de werkelijke wereld verbinden. Zie voor meer informatie het hoofdstuk Wat is grounding?. Peter van Hees & Dewi Harten,

6 Wat is intelligentie? Inleiding Een eenduidig antwoord op deze vraag is (nog) niet mogelijk omdat er te veel verschillende defenities zijn. In de van Dale staat: intelligentie = verstandelijk vermogen, waarbij verstandelijk weer; met het verstand, tot het verstand behorend => cognitief, intellectueel, rationeel, redelijk betekent. Deze omschrijving omvat veel maar wat er nou precies bedoeld wordt is niet duidelijk. Ook het antwoord, intelligentie is dat wat je meet met een intelligentietest is niet erg veduidelijkend, al wordt deze defenitie wel door mensen aangehouden, zo ook Alan Turing. Cartesianism is een stroming die wordt aangevoerd door Descartes, deze groep mensen gelooft dat het lichaam maar een deel van de mens is, en dat er ook nog een ziel bij hoort, iets wat niet fysiek grijpbaar is. Deze mensen achtten het dan ook onmogelijk om ook maar iets wat op intelligentie lijkt na te maken, omdat je altijd de ziel zal missen. Omdat deze groep, om voor de hand liggende redenen, niet interessant is voor de AI, zullen we deze hier niet bespreken. Verder zijn er twee hoofdgroepen te onderscheiden; de computerfunctionalisten (bijvoorbeeld Turing) en de embodied cognitivisten (bijvoorbeeld Brooks). Deze groepen hebben ieder een verschillend beeld van wat intelligentie is, binnen iedere groep zijn weer verschillende opvattingen over hoe je intelligentie moet bereiken. Computerfunctionalisme Computerfunctionalisten geloven dat iets intelligent is als het zich zo gedraagt. Als je niet meer door hebt dat je met een machine te doen hebt, dan is deze machine intelligent. Als iets slaagt voor de TuringTest(TT) dan is het voor een computerfunctionalist intelligent. Searle is het hier niet mee eens, hij vind dat je zonder intensionalteit niet intelligent kan zijn. Ze kunnen bijvoorbeeld hun interne representaties niet linken aan externe objecten. Verder maakt het computerfunctionalisten niet uit hoe een intelligent systeem geïmplementeerd is. Mayo stelt bijvoorbeeld dat een physical symbol system bestaat uit gegrounde symbolen en regels om gegrounde symbolen te combineren [Mayo, 2003]. Echter een voldoende goed gegrounde robot heeft geen regels nodig, en een robot zonder regels zal dan ook het begin zijn van een robot met begrip. Een zeer bekend voorbeeld van computerfunctionalisme is het project Cyc. Cyc (Lennat, aangehaald door Anderson [Anderson, 2003]) is een project waarbij een knowledge base wordt gemaakt met daarin een enorme hoeveelheid aan fundamentele mensen kennis, bestaande uit vuistregels, feiten en redeneer heuristieken. Dit is een poging om een systeem een representatie mee te geven van hoe de wereld in elkaar zit, een soort basiskennis, van hieruit zou het systeem dan zelf verder moeten kunnen leren. Maar dit systeem is onvoldoende dynamisch, als het bezig is met het ene wereldbeeld, is de wereld in werkelijkheid al weer anders. Je zou dus alle veranderingen in de wereld willen bijhouden, maar aangezien dit niet zinnig en niet haalbaar is, wil je onderscheid maken tussen de relevante veranderingen en de niet relevante. Dit is momenteel helaas nog verre van realiseerbaar. De oplossing is om sneller, met kleinere stapjes, te leren, door vaker naar de wereld kijken en met selectieve representatie. Een voorbeeld van een computerfunctionalist aan de UvA is Henk Zeevat. Zijn definitie is dan ook: Intelligentie is een soort waarde oordeel, een beoordeling van iemands capaciteiten. [Bijlage 6]. Embodied Cognitivisme De Embodied Cognivistische benadering gaat ervanuit dat de turingtest doorstaan moet kunnen worden en dat de symbolen geground moeten zijn [Harnad, 1990]. Intelligentie draait om een soort van representatie, door deze representatie te formaliseren kan men met regels verdere Peter van Hees & Dewi Harten,

7 samengestelde symbolen maken. Voor grounding zijn echter zintuigen nodig. Vandaar dat deze embodied cognitivisten geloven dat iets alleen intelligent kan zijn, als het in een lichaam zit, als het dus embodied is. Dit is ook de mening van Brooks [Brooks, 1991]. Hij vind dat de basis voor ontwikkeling van intelligentie wordt gelegd door mobiliteit, acute vision en de mogelijkheid overlevings gerelateerde taken uit te kunnen voeren. Ook vind hij dat menselijke intelligentie te complex is om het (nu) te ontleden in kleinere deeltjes. Maar dat is volgens hem wel de manier waarop onze intelligentie is opgebouwd. Daarom vind hij dat we eerst met makkelijke intelligente systeempjes moeten beginnen en die moeten ontleden in al hun deelprocessen. Als dit lukt kunnen we de deeltjes samenvoegen tot een groot intelligent geheel. We moeten niet proberen de wereld na te bootsen, we moeten de wereld zelf gebruiken als omgeving voor onze inteligente instantiaties. Daarom is volgens Brooks Cyc dus de verkeerde weg en moet je een systeem dus sensors geven wil het intelligent worden. Of, zoals Pfeifer en Scheier zeggen in een artikel van Ziemke [Ziemke, 1999]: Intelligence cannot merely exist in the form of an abstract algoritm but requires a physical instantiation, a body. Peter van Hees & Dewi Harten,

8 Wat is grounding? inleiding Een symbool is geground als het betekenis of inhoud heeft door zijn eigenschappen en relaties met dingen waar het naar verwijst; of als het goed gerelateerd is aan gegrounde symbolen [Chrisley, 2003]. Om te kunnen grounden moet je dus op een of andere manier in de wereld kunnen kijken. Hiervoor kan je zicht, geluid, tast, geur of zelfs smaak gebruiken. Zicht is echter de meest belangrijke. Om deze dingen te kunnen waarnemen heb je een soort van zintuigen nodig. Een systeem dat zintuigen heeft noemen wij embodied, en omdat wij mensen ook zintuigen hebben denken we dat we met embodied systemen op de juiste weg zijn om intelligente systemen te maken. Ziempke omschrijft 5 vormen van embodiement [Ziemke, 1999]: - structural coupling, een systeem moet autonoom zijn. - Historical embodiement, een systeem moet in de wereld groeien, daarvoor is het verleden ook van belang. - Physical embodied, een systeem moet werkelijk bestaan, en niet slechts een gesimuleerd iets zijn. - Organismoid embodiement, het systeem moet gedeeltelijk op een organisme lijken, bijvoorbeeld twee oren op een bepaalde afstand van elkaar. - Organismic embodiement, alleen levende wezens kunnen intelligent zijn. Geen grounding, kan dat ook? Semantiek kan door statistische methodes uit dagelijks taalgebruik worden afgeleid. Blinden kunnen immers ononderscheidbaar spreken over dingen die alleen maar te zien zijn, zoals kleuren. Begrip van semantiek leidt niet noodzakelijk tot begrip, al kan het wel als er genoeg onderdelen zijn geground. Tot op heden werken de meeste programma s die met taal werken beter zonder grounding dan met. Dit geeft ons de vraag of mensen überhaupt aan grounding doen. Hoe krijg je grounding? Er zijn meerder theorieën over hoe grounding tot stand komt. Deacon (1997, aangehaald door Joanna Bryson [Bryson, 2004]) gelooft dat er eerst concepten worden geleerd, deze worden vervolgens pas gelabeld en als laatste krijg men semantiek. Bryson daarentegen gelooft dat concepten en semantiek tegelijkertijd worden geleerd waarna sommige semantische termen geground worden met concepten [Bryson, 2004]. Embodied AI(EAI) laat zien dat grounding noodzakelijk is, of zoals Ziemke zegt [Ziemke, 2001]: A system is embodied if it has gained competence within the environment in witch it has developed. Peter van Hees & Dewi Harten,

9 Het chinese kamerargument De achtergrond Searle heeft het chinese kamer argument om twee redenen bedacht: 1. Hij wilde uitzoeken of intentionaliteit een effect was van causal feitures van onze hersenen 2. Hij wilde bewijzen dat het opstarten van een computerprogramma niet genoeg is voor het creeëren van intentionaliteit. Zijn basisidee hierbij was de vraag Kunnen computers denken?. Veel aanhangers van de sterke AI (strong AI 2 ) menen van wel. Searle wil dit weerleggen. Het argument Stel je voor: Er zit een man in een afgesloten kamer. Hij krijgt een verhaal te lezen in het chinees, maar hij kan zelf geen chinees. Als hij het verhaal gelezen heeft, krijgt hij vragen over dit verhaal, die hij moet beantwoorden. Omdat de man geen chinees kan, begrijpt hij niets van het verhaal of van de vragen. Om toch de vragen te kunnen beantwoorden heeft hij alle syntaxregels van het chinees in een boek. In dit boek staat in het engels (wat de man wel spreekt) uitgelegd wat hij met bepaalde symbolen moet doen. Hij kan de symbolen alleen aan hun vorm herkennen. Met behulp van dit boek beantwoordt de man alle vragen in perfect chinees. De persoon buiten de kamer die de antwoorden leest, zal denken dat de man chinees spreekt en het verhaal begrepen heeft, want alle antwoorden zijn helemaal perfect. Toch moge het duidelijk zijn dat de man in de kamer alleen maar symbolen aan het verwerken is en helemaal niets van het chinees snapt. Hieruit kunnen we de conclusie trekken dat alleen symbool verwerking niet genoeg is voor begrip [Searle, 1980]. 2 De aanhangers van Strong AI zijn ervan overtuigd dat de computer uiteindelijk intelligent zal worden. De aanhangers van Weak AI zien de computer meer als een hulpmiddel om het menselijk brein beter te begrijpen. Peter van Hees & Dewi Harten,

10 De Discussie In zijn artikel geeft Searle aan wat de tegenwerpingen waren van AI-onderzoekers, toen hij zijn artikel schreef en geeft hier ook meteen zijn antwoord op. Hieronder zullen we enkele van die tegenwerpingen en Searle s antwoorden bespreken. [Searle, 1980] - The systems reply De systems reply houdt in dat het klopt dat de persoon in de chinese kamer het verhaal niet begrijpt, maar het gehele systeem, waar de man deel van uitmaakt, begrijpt het verhaal wel. Searle antwoordt hierop dat je het hele systeem in de man zou kunnen stoppen. Hiervoor zou de man alle regels die in zijn syntaxboek staan uit zijn hoofd moeten leren. Als hij dat gedaan heeft, dan kan hij nog steeds perfecte chinese antwoorden geven, maar snapt hij het nog steeds niet. Harnad zegt hierover: there is in general no way( )of confirming or disconfirming that the system does or does not have a mind except by being the system [Harnad, 2001]. Je kan dus alleen zeker weten of een systeem iets begrijpt, als je zelf dat systeem bent. Frank Veltman ziet dit nog iets anders. Hij zegt: Er moet sprake van grounding zijn (voor intelligentie, red.) en in dit geval zijn de instructies geground. Een computer vind ik niet intelligent, maar de Chinese kamer als geheel is misschien wel intelligent [Bijlage 4]. Ons inziens geeft Searle een geldig antwoord. Want hoewel degene die het syntaxboek heeft opgesteld wel chinees begreep, heeft hij dat niet overgebracht naar de kamer. De semantiek zit namelijk niet in het boek. Vandaar dat de man + het boek + de kamer, net zo weinig van de semantiek (en dus van de betekenis) weten als de man alleen. - The robot reply Het robot-antwoord houdt het volgende in: Stel je voor dat we een computer in een robot stoppen. Deze computer zal niet alleen symbolen als input en output hebben, maar zal ook de robot besturen. Deze robot zal in zijn omgeving kunnen rondlopen en dingen via zijn zintuigen kunnen waarnemen. De computer wordt zo de hersenen van de robot. Zo n robot zal het chinees begrijpen. Searle antwoordt hierop dat de toevoeging zintuigen en de mogelijkheid tot begwegen, niets toevoegt aan het begrijpen. Hier zijn wij het niet mee eens. Wij zijn van mening dat het toevoegen van zintuigen veel uitmaakt. Nu kan de computer in de robot namelijk zijn omgeving in zich opnemen. Hij snapt dan waarschijnlijk ook meer van het chinese verhaal, want hij kan de intonatie van de verteller horen en zien hoe de verteller kijkt. Dit laat al een groot deel van de inhoud van het verhaal zien. Op deze manier zou een robot de symbolen die hij krijgt, kunnen verbinden aan bepaalde dingen (dingen waar de verteller naar keek, of emoties die de verteller liet zien). Zo krijgen die symbolen dan toch nog betekenis. Maarten van Someren zegt hierover het volgende: Vaak is een symbool niet geground door het met een woordbetekenis te verbinden, maar door het met een visuele waarneming te verbinden. (...)Vandaar dat ik denk dat je alleen met zintuigen intelligent kan zijn. [Bijlage 3]. Ditzelfde geldt voor de robot. Hij zal de chinese symbolen niet met een woordbetekenis verbonden hebben, maar wel met een zintuiglijke waarneming. - The brain simulator reply Een volgend idee om het argument van Searle te weerleggen is het brain simulator reply. Dit houdt in dat als we de hersenen van een chinees die het chinese verhaal hoort compleet kunnen nabouwen, inclusief alle synapsen ed, dat we dan een begrijpend intelligent systeem hebben. Peter van Hees & Dewi Harten,

11 Searle antwoordt hierop dat als wij de hersenen nabouwen in communicerende vaten en dat we 1 persoon instrueren om die vaten te besturen, we dan nog geen intelligent systeem hebben. Immers, er wordt alleen maar water heen en weer gestuurd, dus waar kan het begrip zijn? Persoonlijk vinden wij dit een zeer slecht antwoord. Als wij naar de hersenen van mensen kijken, dan zien we dat er informatie over en weer wordt gespeeld, maar zeggen waar het begrip zit, kunnen wij niet. Vandaar dat wij dit als een nonargument beschouwen. Of zoals Ingmar Visser het zegt: Ik denk ( ) dat de toeschrijving van intelligentie aan een systeem op den duur een empirische vraag is terwijl Searle stelt dat onze kennis over de interne structuur van zo'n systeem hem doet concluderen dat het systeem niet intelligent kan zijn. [Bijlage 5]. Gelukkig geeft Searle nog een tweede antwoord. Stel je voor dat de persoon die geen chinees kan, de structuur van de communicerende vaten internaliseert. Dan kan hij in gedachten alle neuronen die over en weer vliegen nabootsen. Als hij dit doet, dan geeft hij goede antwoorden, maar kan hij nog steeds geen chinees. Dit is een lastig, doch incorrect, antwoord. Stel je voor dat je met jouw hersenen volledig die van de chinees imiteert. Hoe kan je dan nog zeggen dat de één de verhalen wel begrijpt en de ander niet? Er gebeurt immers precies hetzelfde. - The other minds reply The other minds reply vindt Searle de plank compleet mis slaan. Wij denken echter dat dit argument misschien wel het eerste argument is dat bekeken had moeten worden. Dit raakt namelijk de essentie van het probleem: Wanneer weten we of iemand iets begrijpt? Wanneer noemen we iets of iemand intelligent? Het argument houdt in dat we alleen weten of iemand iets begrijpt, door naar zijn gedrag te kijken 3. Omdat wij van andere personen zeggen dat hij iets begrijpt, als hij zich begrijpend gedraagt, moeten wij dat ook van een computer zeggen. Wij zijn het volledig met dit argument eens en hebben er ook nog geen goed argument tegen kunnen vinden. Zolang wij bij mensen alleen maar op het gedrag af kunnen gaan, zullen wij genoodzaakt zijn dit bij computers ook te doen. Samenhang met grounding In het Chinese kamer argument wordt het grounding problem nog niet zo genoemd. Searle heeft het over het probleem van intentionaliteit en intrinsic meaning. Hiermee bedoelt hij echter hetzelfde 4. Het woord grounding wordt door Harnad geintroduceerd en in verband gebracht met de chinese kamer [Harnad, 1990]. Harnad zegt hier onder andere over: if the meanings of symbols in a symbol system are extrensic, rather than intrinsic like the meaning in our heads, then they are not a viable model for the meanings in our heads: Cognition cannot be just symbol manipulation. Hiermee zegt hij, dat in het geval van het chinese kamer experiment, de betekenis van de symbolen niet in de symbolen zelf of in het systeem zaten, de betekenis was dus extrinsiek. De lezer buiten de kamer kon de symbolen wel begijpen, bij hem was de betekenis intrinsiek. Hieruit kan je concluderen dat de betekenis van symbolen niet in de symbolen zelf schuilt, maar in de combinatie tussen de symbolen en andere symbolen of de werkelijke wereld. Die combinatie hebben we zelf aangemaakt en onthouden, die combinatie zit dus in ons hoofd. Wat Harnad (en Searle ook, maar niet zo letterlijk) beweert is dat de persoon in de kamer het chinees niet begrijpt omdat hij niet geground is. Hij kan de chinese tekens met niets in de echte wereld verbinden. 3 Het is dus een computerfunctionalistisch argument 4 Dit claimt Harnad in zijn artikel The symbol grounding problem, 1990 Peter van Hees & Dewi Harten,

12 De volgende vraag is dan: Is het gehele systeem ook niet geground, of zit de grounding in de boeken met regels? De meeste mensen zullen van mening zijn dat een boek met puur syntactische kennis geen grounding kan hebben. Hiervoor is semantiek nodig. Maricarmen Martinez brengt hier echter een nuance aan: I believe that, while content words like tree, have to be grounded in the real world, some other words, like and and or, can be grounded (at least partially) in observed relations among other symbols. This means that some of the Chinese symbols might become at least weakly grounded for the the person in the Chinese room, after repeatedly observing how they are used (purely formally) [Bijlage 1]. Hieruit blijkt dat door middel van het boek, de persoon toch grounding heeft. Deze grounding zal echter nooit genoeg zijn om de taal te begrijpen. Hiervoor heb je ook de grounding van alle zelfstandignaamwoorden en werkwoorden nodig. Peter van Hees & Dewi Harten,

13 Is grounding belangrijk voor intelligentie? Inleiding Net zoals je de opvattingen over intelligentie in twee groepen kan indelen, kan je ook de opvattingen over of grounding belangrijk is voor intelligentie in twee groepen indelen. De groep die embodiement belangrijk vindt voor intelligentie, is ervan overtuigd dat grounding ook belangrijk is voor intelligentie. Deze noemen we embodied cognitivisten. De groep daarentegen die vooral naar het gedrag van mensen en machines kijkt om te bepalen of deze intelligent zijn, zijn meestal ook de mensen die zich wel een vorm van intelligentie kunnen voorstellen zonder dat er grounding plaatsvindt. Deze groep noemen we de computerfunctionalisten. Hieronder volgen de redenaties van beide partijen. Redenatie van Embodied Cognitivisme Harnad zegt dat voor intelligentie, iemand zich intelligent moet gedragen en dat deze persoon geground moet zijn. Het moge duidelijk zijn dat door de embodied cognitivisten grounding dus noodzakelijk geacht wordt voor intelligentie. Maricarmen Martinez verwoordt t op deze manier: I think that understanding is necessary for high levels of intelligence, and that grounding is absolutely necessary for achieving true conceptual understanding. Dit is heel kort samengevat de redenatie van de embodied cognitivisten. Redenatie van Computerfunctionalisten Sommige computerfunctionalisten zijn ook van mening dat grounding belangrijk is voor intelligentie, maar het is niet noodzakelijk. Zoals het argument van Searle laat zien, kan een systeem de Turingtest doorstaan, zonder geground te zijn. Het nadeel van dit experiment is echter dat het zich altijd binnenkamers afspeelt. Maarten van Someren merkte al zeer terecht op dat de man binnen de kamer geen antwoord kon geven op de vraag wat voor weer het was. Hiervoor moet hij input van buiten de kamer krijgen en die omzetten naar een antwoord. Hiervoor is grounding nodig, want vaak is een symbool niet geground door het met een woordbetekenis te verbinden, maar door het met een visuele waarneming te verbinden, aldus van Someren. Remko Scha beweert echter dat er ook intelligentie kan zijn zonder grounding: stel dat je een zwevende wiskunde computer hebt. Deze is niet geground, maar verzint de meest geniale wiskundige theoriën. Zo n computer zouden we intelligent moeten noemen. Computerfunctionalisten zijn dus van mening dat grounding niet noodzakelijk is voor intelligentie, maar dat grounding wel noodzakelijk is voor communicatie (die over de werkelijke wereld gaat). Conclusie De conclusie die we hieruit kunnen trekken is dat alle wetenschappers het erover eens zijn dat als je een systeem in de werkelijke wereld intelligent wil laten functioneren, dat grounding dan absoluut noodzakelijk is. Dit is omdat een computersysteem communicatie nodig heeft om in de werkelijke wereld te kunnen functioneren. Toch kunnen computerfunctionalisten zich systemen voorstellen die los van de wereld staan, niet geground zijn en toch intelligent zijn. Zelf zijn wij er allebei van overtuigd dat grounding noodzakelijk is voor intelligentie, omdat intelligentie alleen kan ontstaan als het ingebed is in de werkelijke wereld. Wij scharen ons dus achter de embodied cognitivisten. Toch heeft deze aanname redelijk verstrekkende gevolgen: Als grounding noodzakelijk is voor intelligentie en grounding vindt plaats via de zintuigen, is iemand die blind of doof is dan minder intelligent? En een mens die zonder zintuigen geboren is, is die dan niet intelligent? Peter van Hees & Dewi Harten,

14 Het zou zeker interessant zijn om in de toekomst te doen naar grounding bij mensen met een handicap. Hebben (bijvoorbeeld) blinde mensen dezelfde dingen geground? En op welke manier dan? Peter van Hees & Dewi Harten,

15 Color categories een voorbeeld van toegepaste grounding De achtergrond Nu we onderzocht hebben of grounding belangrijk is voor intelligentie in het algemeen en AI in het bijzonder, is het natuurlijk interessant om uit te zoeken of grounding wel toepasbaar is in de AI. Luc Steels en Tony Belpaeme (van de Vrije Universiteit Brussel) hebben hier onderzoek naar gedaan [Belpaeme, 2001; Steels&Belpaeme, 2002; Steels 1995a; Steels, 1995b; Steels, 1996]. Wij zullen hun onderzoek naar de creatie van kleurcategoriën in een populatie van robots als voorbeeld gebruiken. De centrale vraag van hun onderzoek was: Hoe komt het dat hele bevolkingsgroepen op dezelfde manier geground zijn? In de literatuur komen hiervoor drie mogelijkheden naar voren [Steels en Belpaeme, 2002]: 1. Nativisme De categoriën zijn aangeboren. Ieder mens heeft ze al in zich, maar moet er als het ware alleen nog aan herinnerd worden. 2. Empiricisme De categoriën worden gemaakt aan de hand van de omgeving. Alles wat statistisch gezien veel voorkomt, zal ook een categorie hebben. 3. Culturalisme De categoriën worden voornamelijk beinvloed door taal en cultuur. Elk van deze theoriën bouwt voort op de voorgaande theoriën. Dit onderzoek zal moeten uitwijzen welke theorie (of combinatie van theoriën) de juiste is. Om nativisme te creëren, zullen we genetische evolutie moeten simuleren. Om te testen of het empiricisme het juiste idee is, hebben de agenten een mechanisme nodig waarmee ze de categoriën uit hun omgeving kunnen leren. Daarom zijn ze uitgerust met neurale netwerken om de statistische kennis uit de wereld te leren. Deze netwerken zullen ze ook nodig hebben om de relatie tussen namen en categoriën te kunnen leren. Om het culturalisme te testen, zullen we onze agenten met elkaar moeten laten communiceren, zodat ze samen op gemeenschappelijke categoriën komen. De theorie Voordat we agenten kleur kunnen laten herkennen en categoriseren, zullen we inzicht moeten verkrijgen in hoe mensen kleur zien. Mensen hebben drie verschillende soorten photoreceptors die ieder een aparte golflengte opvangen (kort, middel en lang), die overeenkomen met de rode, groene en blauwe kleuren. Mensen zijn dus trichromatic. Toch blijkt uit onderzoek bij makaken (een apensoort) dat kleuren vaak in paren worden geordend: zwart tegenover wit, groen tegenover rood en blauw tegenover geel. Uit werk van Berlin en Kay (1969) blijkt dat mensen over het algemeen het kleuren continuum in elf basiskleuren opdelen. Het minimum aantal basiskleuren is twee. Het nederlands kent alle elf de basiskleuren: rood, geel, groen, zwart, wit, blauw, grijs, oranje, paars, bruin en roze. Als een taal slechts 2 basiskleurenkleuren kent, dan zullen dit zwart en wit zijn. De opstelling In dit onderzoek wordt gebruik gemaakt van een kleine populatie, bestaande uit 10 agenten. Uit overig werk van Steels [Steels, 2002] bleek namelijk dat de reacties die in deze groep plaatsvinden dezelfde is, als bij een grote groep (van duizenden agenten). Iedere agent heeft in principe de mogelijkheid om kleur waar te nemen, om deze percepties te categoriseren, om aan hun categoriën namen te geven en om hun namen en categoriën aan te passen aan die van een andere agent. In de agent worden de categoriën weergegeven door adaptive networks. Het voordeel van deze netwerken is dat de categorisatie op geen enkele manier aan banden hoeft te worden gelegd. In Peter van Hees & Dewi Harten,

16 principe mogen categroriën verschillen van grootte en zelfs overlappen! Zo zijn de agenten zo vrij mogelijk in het aanmaken en benoemen van hun categoriën. De agenten communiceren alleen door een woord uit te wisselen en door het onderwerp aan te wijzen. Ze hebben dus geen inzicht in de processen die de andere agent heeft. Er wordt pas een woord voor een categorie gezocht als er gecommuniceerd moet worden. Het communiceren gebeurt via infrarood. Zo geschiedt ook het aanwijzen 5. De agenten speelden twee soorten spelletjes: een discrimination game en een guessing game. Het discrimination game doen de agenten alleen, het guessing game doen ze samen. Bij het discrimination game worden de agenten in een bepaalde (random) omgeving gezet: O = {o 1,, o n }. Ze hebben van zichzelf een set met categorieën, die leeg kan zijn: C. Het discriminationgame gaat als volgt verder: 1. Uit deze omgeving wordt een onderwerp geselecteerd en aan de agent kenbaar gemaakt: o t O. 2. The agent bekijkt elk object o i uit de werelden geeft een sensorische representatie van elk object terug: S oi = {s 1 oi,, s M oi } 3. Voor alle M sensorische representaties, wordt een categorie c so C gezocht die het best erbij past: c C: y c (S o ) y cso (S o ), waarbij y c staat voor de output van het adaptive netwok dat bij categorie c hoort en y cso voor de output van het adaptive network die het best reageert op S o. Mocht de agent nog geen categoriën hebben (C= ), dan wordt er een categorie aangemaakt die het onderwerp beschrijft. 4. Het onderwerp o t kan onderscheiden (discriminated) worden van de omgeving als er een categorie is die wel opgaat voor o t en niet voor de overige objecten. Mocht er geen categorie gevonden worden die het onderwerp uniek beschrijft, dan zijn er twee mogelijkheden: 1. Als het onderwerp zich ver van alle categoriën bevindt (dat wil zeggen: ze komen absoluut niet overeen), dan wordt er een nieuwe categorie gemaakt. 2. Als het onderwerp zich dichtbij een categorie bevindt, dan wordt er een extra hidden unit aan het adaptive network toegevoegd, zodat het netwerk de volgende keer wel goed dit onderwerp kan beschrijven. Hoe meer van dit soort spelletjes de agent speelt, hoe beter hij de objecten (in dit geval kleuren) kan omschrijven. Wel worden bij elk spelletje dat de agent speelt de gewichten verminderd. Dit resulteert uiteindelijk in het vergeten van bepaalde categoriën. Dit vergeten kan vermeden worden, als een bepaalde categorie vaak succesvol blijkt in een spelletje. Bij het guessing game gaat het om interactie tussen de agenten. Er worden random twee agenten gekozen. De een zal de spreker in deze conversatie zijn, de andere de toehoorder. Beide agenten krijgen een bepaalde omgeving O te zien. Het spelletje gaat verder als volgt: 1. De spreker speelt een discriminationgame en vindt zo het onderwerp van gesprek, en de bijbehorende categorie c Sot. 2. De spreker kijkt of hij al een woord voor de categorie heeft. Zo niet, dan wordt er random een nieuw woord w gemaakt en die met de categorie in verband gebracht. Mocht er echter al een woord (of zelfs meerdere) voor die categorie bestaan, dan wordt er 1 woord 5 De robots hebben aan alle vier zijkanten een infraroodtransmitters zitten. Om te communiceren moeten ze met hun infraroodtransmitters recht tegenover elkaar staan. Ze wijzen iets aan door rechtsom te draaien. De toehoorder kan dan het aantal infraroodstralen tellen die voorbijkomen. Zo kan hij weten waarnaar hij moet kijken. Peter van Hees & Dewi Harten,

17 w geselecteerd. Deze selectie gaat op basis van het succes van de woorden in vorige guessing games. Uiteindelijk wordt het woord aan de toehoorder verteld. 3. De toehoorder checkt of hij het woord w al in zijn geheugen heeft staan. Als dit niet het geval is, dan stopt het spel. De toehoorder krijgt het onderwerp o t te zien en koppelt dan het gehoorde woord aan de categorie die hij via een discriminationgame verkregen heeft. 4. Als de toehoorder wel woord w in zijn geheugen heeft staan, dat kijkt hij naar de bijbehorende categorie en probeert het onderwerp op die manier aan te wijzen. 5. Als de toehoorder slaagt in het aanwijzen van het onderwerp, dan is het spelletje succesvol. Als de toehoorder het verkeerde object aanwijst, dan wijst de spreker zijn onderwerp aan en past de toehoorder zijn categorie aan met een extra hidden unit, zodat het in de toekomst succesvoller zal zijn. Omdat de agenten met elkaar communiceren en zo hun categoriën aan elkaar aanpassen, zullen de lexicons (en hun betekenissen) over de gehele populatie (bijna) gelijk worden. Dit is een indicatie dat taal de manier beïnvloedt waarop de agenten de wereld ervaren. Als input kregen de agenten 2 verschillende datasets: lichtmetingen (spectrum) van 1200 kleurfiches van Munsell en 300 lichtmetingen van planten en bloemen. Als referentiekader werden zelf gemaakte kleuren gebruikt. Ter controle werd ditzelfde onderzoek ook met een genetisch algoritme uitgevoerd. In dit geval hebben de agenten een standaard netwerk. Dit netwerk kan alleen veranderen als er een nieuwe generatie is, wiens kleurgenen een bepaalde mutatie hebben ondergaan. Uiteindelijk bleek dat agenten prima individualistische categoriën hadden aangemaakt, maar dat die categoriën niet gedeeld werden. Het onderzoek op basis van de omgeving kan je vergelijken met agents die alleen maar discrimination games spelen. De agenten verkrijgen hierdoor een zeer goed individueel categoriën systeem. De categoriën worden ook wel een beetje gedeeld in de populatie, omdat ze in dezelfde omgeving zitten. Toch worden ze niet volledig gedeeld De basis voor dit stuk is vrij letterlijk het artikel van Tony Belpaeme, maar in het artikel van Steels en Belpaeme wordt het hetzelfde verwoordt. De conclusies - Succes van de drie theoriën Het blijkt dat alleen een aangeboren kleurencategorie niet genoeg is om alle categoriën door een populatie heen te delen. Verder blijkt dat als de agenten alleen maar discriminationgames spelen, en geen guessinggames, dat ze dan wel enkele overeenkomstigen kleurencategoriën hebben aangemaakt, maar niet volledig overeenkomstige. Dit is een aanwijzing dat de statistische omstandigheden van de wereld alleen niet genoeg zijn, maar dat er meer nodig is. De omgeving van de agenten blijken wel enige invloed te hebben op de categoriën. Als de omgeving bijvoorbeeld significant meer rood in zich heeft, dan hebben alle agenten zonder te communiceren- allemaal een categorie en woord voor de kleur rood. Als de agenten zowel de discriminationgame als de guessinggame spelen, dan worden er uiteindelijk goede categoriën aangemaakt, die ook nog door de hele populatie hetzelfde zijn. Uit deze resultaten kan je opmaken dat de combinatie van de drie theoriën waarschijnlijk de juiste manier is om grounding in mensenpopulaties te simuleren. Deze combinatie geeft het meest natuurgetrouwe effect. Het blijkt dus dat interactie noodzakelijk is voor grounding. Peter van Hees & Dewi Harten,

18 - Overige resultaten De agenten blijken een gemiddeld aantal basiskleuren van 9,4 te onderscheiden. Dit komt redelijk overeen met hoeveel basiskleuren mensen hebben. Verder blijkt het dat de agenten, als ze een wereld in maar 2 kleuren mogen indelen, dezelfde keuzes maken als mensen. Ze stoppen warme, lichte kleuren in de ene en koude, donkere kleuren in de andere categorie. Mogen ze echter de wereld in meer categoriën indelen, dan blijken ze geen voorkeur voor rood te hebben zoals mensen-, maar volledig opportunistisch te werk te gaan. Het zou zeer interessant zijn om in de toekomst te onderzoeken waarom mensen een voorkeur voor rode kleuren hebben en hoe we dit bij computers kunnen simuleren. Peter van Hees & Dewi Harten,

19 Conclusie en future work Conclusie Aan het eind van d it onderzoek, kunnen we concluderen dat alle wetenschappers het erover eens zijn dat als we een computer in de werkelijke wereld willen laten functioneren, dat deze dan intelligent moet zijn. Als de computer niet per se in de werkelijke wereld hoeft te functioneren, dan zijn de wetenschappers niet zo eensgezind. In dat geval blijkt het erg belangrijk te zijn hoe je intelligentie ziet: als een zeer complexe vorm van symbol processing met de mogelijkheid om intelligente taken uit te voeren (computerfunctionalisme) of als een (voor computerfunctionalisten) intelligent systeem in een lichaam met zintuigen, zodat grounding plaats kan vinden (embodied cognitivisme). In het eerste geval zal grounding pas nodig zijn als er communicatie aan de taak te pas komt en in het tweede geval zal het altijd nodig zijn. Wat betreft het chinese kamer argument kunnen we dezelfde conclusie trekken als bij het functioneren van machines in een niet-werkelijke wereld: het hangt volledig van je definitie van intelligentie af of je de persoon (of het systeem als geheel) als intelligent beschouwt of niet. Tot slot is gebleken dat grounding bij mensen waarschijnlijk is ontstaan door communicatie (dat is waarom hele populaties dingen hetzelfde geground hebben). Vandaar dat wij van mening zijn dat dit ook de aanpak bij AI zou moeten zijn. Future work - Er is al veel onderzoek gedaan naar visuele grounding. Wij zijn ook bijzonder benieuwd naar hoe grounding via andere zintuigen plaatsvindt. - Het zou zeker interessant zijn om in de toekomst te doen naar grounding bij mensen met een handicap. Hebben (bijvoorbeeld) blinde mensen dezelfde dingen geground? En op welke manier dan? - Het zou ook interessant zijn om in de toekomst te onderzoeken waarom mensen een voorkeur voor rode kleuren hebben en hoe we dit bij computers kunnen simuleren. Peter van Hees & Dewi Harten,

20 Referenties [Anderson, 2003] Embodied cognition: a field guide. Artificial Intelligence 149(1):pp [Belpaeme, 2001] Simulating the formation of colour categories. Vrije Universiteit Brussel, Artificial Intelligence Laboratory. [Berlin&Kay, 1969] Basic color terms. Their universality and evolution. University of California, Berkeley, California. [Brooks, 1991] Intelligence without representation. Artificial Intelligence 47:pp [Bryson, 2004] Embodiment vs. Memetics. Artificial models of natural intelligence, University of Bath, Verenigd Koninkrijk. [Chrisley, 2003] Embodied artificial intelligence. School of computer science, University of Birmingham, Verenigd Koninkrijk. [Harnad, 1990] The symbol grounding problem. Department of Psychology, Princeton University. [Harnad, 2001] Grounding Symbols in the analog world with neural nets a hybrid model. Department of Electronics and Computer Science, University of Southampton. [Mayo, 2003] Symbol grounding and its implications for artificial intelligence. School of Information Technology, bond University, Australië [Searle, 1980] Minds, Brains, and programs. Department of Philosophy, Unversity of California, Berkeley, California. [Steels, 1995a] Self-organizing vocabularies. Vrije Universiteit Brussel, Artificial Intelligence Laboratory. [Steels, 1995b] A self-organizing spatial vocabulary. Vrije Universiteit Brussel, Artificial Intelligence Laboratory. [Steels, 1997] Synthesising the origins of language and meaning using co-evolution, selforganisation and level formation. Vrije Universiteit Brussel, Artificial Intelligence Laboratory. [Steels&Belpaeme, 2002] Coordinating Perceptually grounded categroies throug language. A case study for colour. Vrije Universiteit Brussel Arificial Intelligence Laboratory, Sony Computer Science Laboratory Paris. [Ziemke, 1999] Rethinking Grounding. Department of Computer Science, University of Skövde, Zweden [Ziemke, 2001] Are robots embodied?. Department of Computer Science, University of Skövde, Zweden Peter van Hees & Dewi Harten,

21 Bijlagen 1. Interview met Maricarmen Martinez 2. Interview met Remko Scha 3. Interview met Maarten van Someren 4. Interview met Frank Veltman 5. Interview met Ingmar Visser 6. Interview met Henk Zeevat Peter van Hees & Dewi Harten,

22 1. Interview met Maricarmen Martinez What s your definition of intelligence? My notion of intelligence is basically identical to that of cognition. I can t give a definition of intelligence, but for sure it is an attribute of systems which interact with an environment. Necessary conditions for such a system to be intelligent include: Capacity to adapt to their environment. Sentience. I don t think that having or lacking intelligence is a black and white matter. It s more like a continuum. This means that a dog, for example, is intelligent, but less intelligent than a human being. Thus, as one goes from lower to higher levels of intelligence, adaptation to the environment can progress from simple reaction towards survival or reproduction, to creativity and environment re-shaping. Similarly, sentience may go from very weak forms of awareness of the environment, to true conceptual representation and understanding, to self-awareness. Is grounding important for intelligence? Yes, I think that understanding is necessary for high levels of intelligence, and that grounding is absolutely necessary for achieving true conceptual understanding. What do you think of the Chinese Room Argument? Something the argument intends to show is that no understanding is possible without symbol grounding (and more importantly, that intelligence is more than just computation). I ll refer only to the grounding issue. I believe that, while content words like tree, have to be grounded in the real world, some other words, like and and or, can be grounded (at least partially) in observed relations among other symbols. This means that some of the Chinese symbols might become at least weakly grounded for the the person in the Chinese room, after repeatedly observing how they are used (purely formally). But overall, I do think the argument makes a point in illustrating the importance of grounding for intelligence, even if the original setting up of the argument, which identifies understanding by the system with understanding by the person in the room can be quite misleading. Is grounding important for AI? Yes, it is important, since AI wants to achieve implementations of true intelligence. Grounding is most relevant for areas such as robotics and natural language, but many other areas are also needed in order to achieve grounded implementations of the first two. Peter van Hees & Dewi Harten,

23 2. Interview met Remko Scha Wat is, volgens u, intelligentie? Intelligentie is het verwerken van informatie met enige complexiteit. Dus computers waren in die zin altijd al intelligent. Als mystieke dingen worden ontrafeld, dan vindt men ze spontaan niet meer intelligent (vgl. schaken). Het brein is echter nog wel veel complexer dan de huidige computers. Bewustzijn is niet iets extra s dat nodig is voor intelligentie. Bewustzijn is eigenlijk een soort recursief waarnemings proces. Intelligentie is gewoon puur rekenkracht. Wel is er nog een groot verschil in soort en mate van complexiteit bij computers en het menselijk brein. Maar het is wel denkbaar dat computers uiteindelijk net zo intelligent worden als mensen. Of bewustzijn nodig is voor intelligentie is niet duidelijk. Het is niet te zien, maar is er misschien wel. Toch gebeuren bij mensen heel veel dingen ook onbewust. Je merkt pas wat van je bewustzijn als het niet goed gaat en je aan het piekeren bent. Dit is een gebied waar we ons met AI nog niet intensief mee bezig gehouden hebben. Is grounding noodzakelijk voor intelligentie? Bij mijn notie van intelligentie is grounding niet nodig. Notie van waarneming is echter niet te vermijden als je het over waarnemen hebt. Dit leidt tot grounding. Elk systeem dat data van buiten kan verwerken is in principe daarin geground. Zou er dan ook een systeem mogelijk zijn dat niet op externe data werkt? Je zou je een zwevende wiskunde machine kunnen voorstellen. Als die met geniale wiskundige theoriën komt, dan zouden wij die intelligent noemen. Dit is eigenlijk de discussie tussen het platonisme en het formalisme, de vraag over of je altijd ervaringen nodig hebt (platonisme) of niet. Wij leren de betekenissen van woorden (grounding dus) niet door middel van prototypes of eigenschappen, maar puur door ervaringen. Abstractere woorden komen uit teksten en leren wij aan de hand van de context. Dit geheel leidt tot de conclusie dat categoriën en betekenissen niet aangeboren zijn, maar aangeleerd. Als wij een computer natuurlijke taal willen laten begrijpen, zal hij dezelfde ervaringen meoten hebben als wij. Computers zullen dus via sensorische informatie in onze wereld ingebed moeten zijn, anders is er geen begrip. Je hebt dus zintuigen nodig om begrip van de wereld te hebben. Wat vindt u van het Chinese Room Argument? Ik vraag mij af waarom dit argument zo serieus genomen wordt. Searle zegt over het algemeen wel zinnige dingen, maar het chinese room argument snap ik niet. Bij een mens zeg je namelijk ook niet dat intelligentie in de aparte neuronen zit, de intelligentie zit namelijk in het geheel. Bij het chinese room argument zit de intelligentie dus ook in de gehele kamer. Dit is te vergelijken met programmeren. Je hebt programmacode en een cpu. De stap van een domme cpu naar een proramma (via de programmacode) is mogelijk. Met wat meer stappen zou het dus mogelijk moeten zijn om een intelligente computer te maken. Peter van Hees & Dewi Harten,

24 3. Interview met Maarten van Someren Wat is, volgens u, intelligentie? Intelligentie is veel dingen goed kunnen, een goede oplossing op een taak kunnen vinden. Eigenlijk zijn alle menselijke acties dus een teken van intelligentie. Ik denk niet dat er nog iets extra s als bewustzijn nodig is voor intelligentie. Ik heb ook geen duidelijk beeld over wat bewustzijn is. In mijn opinie heeft bewustzijn geen invloed op intelligentie. Ik denk over inetlligentie in functionele termen,dus dat intelligentie zit in de functionaliteit van een bepaald organisme of machine, niet in de structuur. Ik denk niet dat wij met AI de hersenen van een mens moeten proberen na te bouwen, maar wel de functionaliteit ervan moeten proberen te evenaren. Is grounding noodzakelijk voor intelligentie? Het is evident dat grounding noodzakelijk is voor intelligentie. Voor heel veel taken heb je grounding nodig. Vaak is een symbool niet geground door het met een woordbetekenis te verbinden, maar door het met een visuele waarneming te verbinden. Grounding kan dus alleen plaatsvinden via een van de zintuigen. Vandaar dat ik denk dat je alleen met zintuigen intelligent kan zijn. (althans: zonder zintuigen ben je veel minder intelligent dan met) Is grounding op dit moment belangrijk voor AI? (Mi. Moet je grounding functioneel bekijken: waarvoor is het nodig?) Voor veel AI ers is grounding nu erg handig, omdat je computers er concepten mee kan laten leren op basis van ervaringen. Toch zou het voor computers ook mogelijk moeten zijn om eerst de concepten te leren en daarna pas de taal. Taal is namelijk pas handig als je kan communiceren over concepten en de daaraan toegekende woorden. Bij mensen gaat het leren van acties, waarnemingen en taal tegelijk door elkaar heen. Toch heb je niet voor alle taken grouding nodig. Voor bijvoorbeeld schaken, of vertalen, zou grounding helemaal niet nodig zijn. Wat vindt u van het Chinese Room Argument? Het is een bizar argument. Ik denk dat ik het niet helemaal snap. Als het namelijk is, zoals ik denk dat het is, dan is het een volstrekt zinloos argument. Als er geen onderscheid is tussen een machine, een klerk in een Chinese Room en een mens, als je absoluut niet kan aantonen dat hij iets niet begrijpt, hoe kan je dan zeggen dat de een (mens/machine/klerk) het wel en de ander het niet begrijpt? Verder is het uberhaupt al onmogelijk om altijd maar goed antwoord op de vragen te geven als je binnen zit en alleen maar een boek vol symbol processing regels hebt. De vraag Wat voor weer is het? is dan bijvoorbeeld onmogelijk te beantwoorden. (En als je vragen die over de buitenwereld gaan uitsluit dan heb je wel een heel beperkt idee van begrijpen. Binnen dat beperkte idee is dan grounding wellicht net weer niet nodig.) Verder zou het nuttig zijn voor de discussie om een definitie van het woord begrijpen te hebben. Daar is nu namelijk nog steeds onduidelijkheid over. Hoewel ik het met het argument absoluut niet eens ben, ben ik het wel eens met de conclusie: symbolisme alleen is niet genoeg voor veel intelligente taken. Ik denk dat je aan het symbolisme ervaringen moet toevoegen om intelligentie te krijgen. Peter van Hees & Dewi Harten,