Kunstmatige intelligentie FILOSOFIE VAN DE KUNSTMATIGE INTELLIGENTIE. Sterke AI These. Zwakke AI These. Denken en redeneren in AI

Transcriptie

1 Kunstmatige intelligentie FILOSOFIE VAN DE KUNSTMATIGE INTELLIGENTIE n Artificial Intelligence is the science of making machines do things that would require intelligence if done by men Marvin Minsky Sterke AI these Zwakke AI these Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 167 Sterke AI These n Een geschikt/adekwaat geprogrammeerde computer heeft een cognitieve toestand Ë computerprogramma s verklaren menselijke cognitie n Het is mogelijk machines te maken die zich gedragen als mensen en die menselijke capaciteiten hebben, zoals het vermogen om te denken, redeneren,..., schaken, lopen,..., emoties, pijn hebben,... mogelijk? / wenselijk?!?! Zwakke AI These n De computer is (slechts) een krachtig hulpmiddel bij de studie van de geest ( mind ) n Het is mogelijk machines te maken die nuttige intelligente taken verrichten ter assistentie van menselijke gebruikers al moeilijk genoeg?! Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 168 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 169 Denken en redeneren in AI Kan een machine denken? n Zijn machines noodzakelijkerwijs logisch? n Antwoord Minsky: verwar niet het ontwerp van een machine en wat het doet een logische taal kan worden gebruikt om onlogisch redeneren te beschrijven het is dus te simpel om redeneren en de computer te associeren via het feit dat beide met logica te maken hebben! een machine kan geprogrammeerd worden om een onlogische stap te doen / onlogisch te handelen een machine moet wel worden geprogrammeerd, maar niets verhindert ons een machine te programmeren zodanig dat deze denkt!?! n eerst de vraag trachten te beantwoorden in principe, onafhankelijk van of dit ooit technologisch zal kunnen n is bewustzijn noodzakelijk voor denken? mensen zijn vaak onbewust van hun mentale processen < 'sleeping problem solver' < 'blindsight' n vervang eventueel 'denken' als dit een te beladen term is door 'cognitieve activiteit' Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 170 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 173 1

2 De Turing Test De Turing Test n Een mens A communiceert per met een mens B en een computer C n A stelt vragen aan zowel B en C om er achter te komen wie de mens is n Als A er niet in slaagt om B en C te onderscheiden, slaagt de computer C voor de Turing Test C A B Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 174 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 175 De Turing Test gehaald? n Turing test: gebaseerd op link tussen 'denken' en 'converseren' n Twee beroemde conversatie -programma s: ELIZA PARRY n ELIZA en PARRY zijn gebaseerd op relatief eenvoudige pattern matching algoritmen: geen denken, volgens Copeland Bezwaren tegen de Turing Test 1. Chimpansee bezwaar: chimpansees, dolfijnen,... zullen de Turing Test ook niet doorstaan, terwijl toch overduidelijk intelligent en in staat om te denken! Een negatieve uitslag zegt dus nog niets over kunnen denken. 2. zintuigelijke versus verbale communicatie Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 176 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 177 Bezwaren tegen de Turing Test Conclusie?! 3. simulatie bezwaar: gesimuleerde X X. Dit bezwaar veronderstelt dat nooit iets zoals het denken perfect zal kunnen worden gesimuleerd 4. Black Box bezwaar: als alleen het uiterlijke gedrag van iets gelijk is hoeven zaken / processen zelf nog niet gelijk te zijn! v SUPERPARRY [programma dat alle conversaties in zich heeft opgeslagen van 100 woorden] is in principe eindig en te programmeren; slaagt voor de Turing test; denkt echter niet) Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 178 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 179 2

3 Wat is denken / intelligentie? Symbol System Hypothesis n denken is een intentionele notie, het heeft een doel / is 'action-directing', heeft te maken met verklaren en voorspellen van gedrag - planning n deze notie generaliseren: het gaat erom om 'massively adaptable' te zijn Æ deze notie is dan van toepassing op nieuwe zaken zoals buitenaardse intelligentie en computers / machines (artificiële intelligentie) \ "robots kunnen denken" lijkt dan een handig uitgangspunt n denken = 'being massively adaptable' n Is dit met digitale computers te doen? M.a.w. als we machines kunnen maken die kunnen 'denken', is dan een digitale computer wat we zoeken ("the right kind of machine")? n symbol system hypothesis (SSH): ja!: 'n universal symbol system (= general-purpose storedprogram computer): symbool-manipulator die werkt d.m.v. het uitvoeren van fundamentele operaties, zoals branch, delete, output, input, compare, shift, write, copy is een 'massively adaptable' machine Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 181 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 182 Intelligent systemen Recept voor een IS n Een intelligent ('massively adaptable ) systeem (IS) moet o.m.het volgende kunnen: vormen van plannen analyseren van situaties overwegen van beslissingen redeneren en reviseren van 'belief' gebruiken van analogieën afwegen van conflicterende interessen maken van redelijke beslissingen op basis van imperfecte informatie leren, categoriseren 1. Gebruik een voldoende rijke, inductief gedefinieerde, compositionele code om 'realworld' objecten, gebeurtenissen, acties, relaties, enz. te representeren 2. Bouw een adekwate representatie van de wereld en de processen die erin werken in een universal symbol system (USS) : uitgebreide Knowledge Base (KB) 3. Gebruik geschikte input 'devices' om symbolische representatie van omgevingsstimuli te vormen Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 183 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 184 Recept voor een IS 4. Gebruik complexe sequenties van de fundamentele operaties van de USS om toe te passen op de symboolstructuren van de inputs en de KB en nieuwe symboolstructuren op te leveren (sommige hiervan fungeren als outputs) n De SSH zegt nu: 5. Deze output is een symbolische representatie van respons op de input. Een geschikte robot 'body' kan worden gebruikt om de symbolen naar echt gedrag / actie te 'vertalen' n Zo verkrijgt men een 'massively adaptable' machine, d.w.z. een denkende machine! Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 185 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 186 3

4 Tegenwerpingen tegen de SSH n hoe kan een dergelijke machine de betekenis van een zin begrijpen n of zich afvragen of een zin waar is n of een wens hebben n... Etc. Status SSH n de SSH is een interessant vermoeden ('conjecture'), dat vreemd moge zijn, maar toch wel waar kan zijn (er zijn wel meer vreemde zaken die waar zijn: bijv. relativiteitstheorie,...); echter: Evidentie door state of the art in AI?: < (nog) niet: alle huidige AI-programma's zijn ernstig beperkt; het GPS-project is min of meer mislukt, en moderne AI nog niet overtuigend(?!) Filosofische (analytische) overwegingen (Searle) Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 187 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 188 Symbol token vs symbol type n een symbooltype kan op verschillende manieren fysiek gerealiseerd worden met verschillende sets symbol tokens n zo kunnen symbolen (symbooltypes) ook op diverse wijzen binnen de computer worden gerealiseerd n de precieze wijze van realisatie van symbolen in een computer is voor de programmeur niet van belang n Turing: een computer is NIET ESSENTIEEL een electrisch apparaat n Is het brein een computer, d.w.z. een organische realisatie van universal symbol manipulator? Strong Symbol System Hypothesis (SSSH) n SSH: computers (d.w.z. univ. symbol manipulators) kunnen denken n SSSH: ALLEEN computers (univ. symbol manipulators) kunnen denken, m.a.w. de enige dingen die kunnen denken zijn univ. symb. manip.; ergo, de menselijke geest is een univ. symb. manip., een computer De SSSH is zo mogelijk nog controversiëler dan de SSH. Laten we eens kijken naar de resultaten van de AI. Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 189 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 190 Filosofische tegenwerpingen tegen Sterke AI & SSH: Searle n Is de vraag of een computer een geschikt apparaat is om te kunnen denken empirisch? n Searle: de vraag of een symbool-manipulator kan denken is niet empirisch, maar analytisch, en kan op analytische gronden ontkennend worden beantwoord: een symbool-manipulator (USS) werkt puur syntactisch en kan niet werkelijk begrijpen wat het doet! syntax is onvoldoende voor beheersing semantiek (= "understanding of what symbols actually mean") Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 201 Een gedachtenexperiment ghgj yiyoit gfcvbx Tekst met vragen in Sam Bmfefjhcakj gjw ejwk Antwoorden in Stel we hebben een computerprogramma Sam dat in staat is om in het vragen over Chinese teksten te beantwoorden Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 202 4

5 De Chinese kamer De Chinese kamer ghgj yiyoit gfcvbx Tekst met vragen in Joe Bmfefjhcakj gjw ejwk Antwoorden in Vervang het computerprogramma Sam door de mens Joe die de programmainstructies uitvoert n Chinese room argument: Joe in de kamer die met de hand het computerprogramma Sam aan het uitvoeren is, begrijpt noch het verhaal, noch de vragen, noch de antwoorden: alleen manipulatie van betekenisloze symbolen: "Sam 'gerund' op een menselijke computer" het uitvoeren van het programma stelt Joe niet in staat om het verhaal, etc. te begrijpen, ergo het uitvoeren van het programma stelt de computer niet in staat om het verhaal, etc. te begrijpen Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 203 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 204 Chinese kamer: conclusie van Searle n het runnen van een programma leidt niet tot begrijpen, geloven, willen, bedenken van wat dan ook! n "merely manipulating symbols will not enable the manipulating device to understand X, believe Y, think Z..." \ de SSH is ONWAAR! Tegenwerpingen tegen Searle n 'The systems reply': Het gaat niet alleen om de symbool-manipulator Joe maar om het systeem als geheel: dit zou nog wel kunnen begrijpen waar het verhaal etc. over gaat! n Copeland duidt i.h.b. op de ondeugdelijkheid van Searle's redenering: "Joe's symboolmanipulatie zal hem niet helpen de input te begrijpen" \ "Joe's symboolmanipulatie zal het grotere systeem waarvan Joe deel uitmaakt niet helpen de input te begrijpen" Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 205 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 206 Tegen-tegenwerping Nogmaals de Chinese kamer n Searle contra de systems reply: 1. Joe begrijpt niet, maar Joe + papier + potlood begrijpt wel?!? 2. Laat Joe alle regels van het programma uit zijn hoofd leren, dan is er geen 'groter' systeem meer waar Joe deel van uitmaakt; in feite maakt dan alles deel uit van Joe! ghgj yiyoit gfcvbx Tekst met vragen in Bmfefjhcakj gjw ejwk Antwoorden in Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 207 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 208 5

6 Conclusie van Copeland n maak net als met het begrip denken het begrip 'begrijpen' meer algemeen zodat het ook 'artificial understanding' omvat: 'Turbo-Sam', als deze ooit gemaakt zal kunnen worden (maar dit is een technologisch / empirisch probleem) zal dan kunnen 'begrijpen' in deze meer algemene zin Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 212 6