Kunstmatige intelligentie FILOSOFIE VAN DE KUNSTMATIGE INTELLIGENTIE. Sterke AI These. Zwakke AI These. Denken en redeneren in AI

Transcriptie

1 Kunstmatige intelligentie FILOSOFIE VAN DE KUNSTMATIGE INTELLIGENTIE n Artificial Intelligence is the science of making machines do things that would require intelligence if done by men Marvin Minsky Sterke AI these Zwakke AI these Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 167 Sterke AI These n Een geschikt/adekwaat geprogrammeerde computer heeft een cognitieve toestand Ë computerprogramma s verklaren menselijke cognitie n Het is mogelijk machines te maken die zich gedragen als mensen en die menselijke capaciteiten hebben, zoals het vermogen om te denken, redeneren,..., schaken, lopen,..., emoties, pijn hebben,... mogelijk? / wenselijk?!?! Zwakke AI These n De computer is (slechts) een krachtig hulpmiddel bij de studie van de geest ( mind ) n Het is mogelijk machines te maken die nuttige intelligente taken verrichten ter assistentie van menselijke gebruikers al moeilijk genoeg?! Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 168 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 169 Denken en redeneren in AI Common-sense reasoning n Zijn machines noodzakelijkerwijs logisch? n Antwoord Minsky: verwar niet het ontwerp van een machine en wat het doet een logische taal kan worden gebruikt om onlogisch redeneren te beschrijven het is dus te simpel om redeneren en de computer te associeren via het feit dat beide met logica te maken hebben! een machine kan geprogrammeerd worden om een onlogische stap te doen / onlogisch te handelen een machine moet wel worden geprogrammeerd, maar niets verhindert ons een machine te programmeren zodanig dat deze denkt!?! n in het dagelijks leven gebruiken wij mensen ook niet altijd puur deductieve logica n puur deductieve logica geeft ons geen nieuwe ideeën n de logica werkt als een test om ongeldige conclusies weg te filteren, alleen to clean things up n logische noodzakelijkheid en alledaags redeneren (common-sense reasoning) hebben maar zijdelings met elkaar te maken Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 170 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 171 1

2 Common-sense reasoning Kan een machine denken? n alledaags redeneren betreft eerder wat gebruikelijk (usual) / typisch (typical) is, oorzaken (causes), gelijkenissen (similarities), afhankelijkheden (dependencies): werkt m.b.v. associatieve links n logische links zijn binair: waar of onwaar, en is altijd correct ( flawless ), terwijl alledaags redeneren eerder werkt met gradaties, plausibiliteit, links kunnen worden versterkt door betere argumenten en bewijsmateriaal (evidence) te vinden; is verder defeasible n Kunnen we een computer zo programmeren dat deze alledaags kan redeneren? n eerst de vraag trachten te beantwoorden in principe, onafhankelijk van of dit ooit technologisch zal kunnen n is bewustzijn noodzakelijk voor denken? mensen zijn vaak onbewust van hun mentale processen < 'sleeping problem solver' < 'blindsight' n vervang eventueel 'denken' als dit een te beladen term is door 'cognitieve activiteit' Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 172 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 173 De Turing Test De Turing Test n Een mens A communiceert per met een mens B en een computer C n A stelt vragen aan zowel B en C om er achter te komen wie de mens is n Als A er niet in slaagt om B en C te onderscheiden, slaagt de computer C voor de Turing Test C A B Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 174 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 175 De Turing Test gehaald? n Turing test: gebaseerd op link tussen 'denken' en 'converseren' n Twee beroemde conversatie -programma s: ELIZA PARRY n ELIZA en PARRY zijn gebaseerd op relatief eenvoudige pattern matching algoritmen: geen denken, volgens Copeland Bezwaren tegen de Turing Test 1. Chimpansee bezwaar: chimpansees, dolfijnen,... zullen de Turing Test ook niet doorstaan, terwijl toch overduidelijk intelligent en in staat om te denken! Een negatieve uitslag zegt dus nog niets over kunnen denken. 2. zintuigelijke versus verbale communicatie Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 176 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 177 2

3 Bezwaren tegen de Turing Test Conclusie?! 3. simulatie bezwaar: gesimuleerde X X. Dit bezwaar veronderstelt dat nooit iets zoals het denken perfect zal kunnen worden gesimuleerd 4. Black Box bezwaar: als alleen het uiterlijke gedrag van iets gelijk is hoeven zaken / processen zelf nog niet gelijk te zijn! v SUPERPARRY [programma dat alle conversaties in zich heeft opgeslagen van 100 woorden] is in principe eindig en te programmeren; slaagt voor de Turing test; denkt echter niet) Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 178 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 179 Is de Turing Test te verbeteren? n In ieder geval rekening houden met twee criteria: outputcriterium: competitie-element tussen twee ondervraagden moet er echt in zitten ontwerpcriterium: het gaat niet om 'denken net zoals wij', denk aan hypothetische buitenaardsen Wat is denken / intelligentie? n denken is een intentionele notie, het heeft een doel / is 'action-directing', heeft te maken met verklaren en voorspellen van gedrag - planning n deze notie generaliseren: het gaat erom om 'massively adaptable' te zijn Æ deze notie is dan van toepassing op nieuwe zaken zoals buitenaardse intelligentie en computers / machines (artificiële intelligentie) \ "robots kunnen denken" lijkt dan een handig uitgangspunt Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 180 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 181 Symbol System Hypothesis Intelligent systemen n denken = 'being massively adaptable' n Is dit met digitale computers te doen? M.a.w. als we machines kunnen maken die kunnen 'denken', is dan een digitale computer wat we zoeken ("the right kind of machine")? n symbol system hypothesis (SSH): ja!: 'n universal symbol system (= general-purpose storedprogram computer): symbool-manipulator die werkt d.m.v. het uitvoeren van fundamentele operaties, zoals branch, delete, output, input, compare, shift, write, copy is een 'massively adaptable' machine n Een intelligent ('massively adaptable ) systeem (IS) moet o.m.het volgende kunnen: vormen van plannen analyseren van situaties overwegen van beslissingen redeneren en reviseren van 'belief' gebruiken van analogieën afwegen van conflicterende interessen maken van redelijke beslissingen op basis van imperfecte informatie leren, categoriseren Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 182 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 183 3

4 Recept voor een IS Recept voor een IS 1. Gebruik een voldoende rijke, inductief gedefinieerde, compositionele code om 'realworld' objecten, gebeurtenissen, acties, relaties, enz. te representeren 2. Bouw een adekwate representatie van de wereld en de processen die erin werken in een universal symbol system (USS) : uitgebreide Knowledge Base (KB) 3. Gebruik geschikte input 'devices' om symbolische representatie van omgevingsstimuli te vormen 4. Gebruik complexe sequenties van de fundamentele operaties van de USS om toe te passen op de symboolstructuren van de inputs en de KB en nieuwe symboolstructuren op te leveren (sommige hiervan fungeren als outputs) 5. Deze output is een symbolische representatie van respons op de input. Een geschikte robot 'body' kan worden gebruikt om de symbolen naar echt gedrag / actie te 'vertalen' Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 184 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 185 Tegenwerpingen tegen de SSH n De SSH zegt nu: n hoe kan een dergelijke machine de betekenis van een zin begrijpen n of zich afvragen of een zin waar is n Zo verkrijgt men een 'massively adaptable' machine, d.w.z. een denkende machine! n of een wens hebben n... Etc. Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 186 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 187 Status SSH n de SSH is een interessant vermoeden ('conjecture'), dat vreemd moge zijn, maar toch wel waar kan zijn (er zijn wel meer vreemde zaken die waar zijn: bijv. relativiteitstheorie,...); echter: Evidentie door state of the art in AI?: < (nog) niet: alle huidige AI-programma's zijn ernstig beperkt; het GPS-project is min of meer mislukt, en moderne AI nog niet overtuigend(?!) Filosofische (analytische) overwegingen (Searle) Symbol token vs symbol type n een symbooltype kan op verschillende manieren fysiek gerealiseerd worden met verschillende sets symbol tokens n zo kunnen symbolen (symbooltypes) ook op diverse wijzen binnen de computer worden gerealiseerd n de precieze wijze van realisatie van symbolen in een computer is voor de programmeur niet van belang n Turing: een computer is NIET ESSENTIEEL een electrisch apparaat n Is het brein een computer, d.w.z. een organische realisatie van universal symbol manipulator? Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 188 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 189 4

5 Strong Symbol System Hypothesis (SSSH) n SSH: computers (d.w.z. univ. symbol manipulators) kunnen denken n SSSH: ALLEEN computers (univ. symbol manipulators) kunnen denken, m.a.w. de enige dingen die kunnen denken zijn univ. symb. manip.; ergo, de menselijke geest is een univ. symb. manip., een computer De SSSH is zo mogelijk nog controversiëler dan de SSH. Laten we eens kijken naar de resultaten van de AI. General problem solvers (GPS) n een GPS is een 'means-end analyser': geef doel, startpositie en lijst van beschikbare middelen en de GPS vindt door trial & error een manier om m.b.v. de beschikbare middelen vanuit de startpositie het doel te bereiken, daarbij geholpen door door de programmeur geleverde heuristieken n als veel operaties beschikbaar Ë wordt al gauw te gecompliceerd voor een GPS: werkt alleen voor simpele problemen Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 190 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 191 GPS The Knowledge Problem n n n bovendien zijn de meeste problemen niet direct van de vorm (doel, startpositie, middelen): deze moeten eerst door de programmeur in deze vorm worden omgezet: samen met het geven van geschikte set van tactieken / heuristieken vormt dit meestal in feite het moeilijkste deel van het oplossen van het probleem het GPS-project is niet echt van de grond gekomen: conclusie hieruit: "programma's die niet veel weten, kunnen ook niet veel". dit leidde tot aandacht voor knowledge-intensive problem solvers met taak-specifieke kennis 1. Hoe enorme hoeveelheden kennis van diverse soorten te organiseren z.d.d. deze eenvoudig kan worden opgevraagd ('retrieval') 2. Hoe zijn grote hoeveelheden kennis bij te werken ('update') (bijkomende vraag: wat moet allemaal worden veranderd en wat NIET - 'frame problem') 3. Welke informatie is relevant voor een voorliggend probleem: hoe selecteer je deze relevante informatie? Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 192 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 193 The Knowledge Problem n het 'knowledge problem' leidde weer tot studie van micro-werelden, kleine, simpele artificiële werelden: SHRDLU: robot in blokkenwereld expertsystemen: zeer domeinspecifiek n probleem: hoe naar grotere toepassingen te schalen? Know-what vs know-how n data model vs know-how model van kennis data model: kennis kan worden gerepresenteerd d.m.v. zinnen in een symbolische taal know-how model: kennis van "how to do things" n In de tradtionele AI opvatting is know-how te reduceren tot data via if-then regels. Het is een open vraag of deze reductie wel volledig uitvoerbaar is Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 194 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 195 5

6 Ingebakken Devices? Probleem met expertsystemen n Hebben mensen zelf een ingebakken 'device' voor 'rule processing'? N.B. beschrijving van een systeem hoe het feitelijk gaat! n Als mensen een alternatief 'device' X hebben, zegt dit op zich nog niets over de SSH: een univ. symb. manip. kan nog steeds een alternatief zijn voor X met hetzelfde effect / resultaat. Wel misschien iets over de SSSH? n expertsystemen zijn te broos ('brittle'): zwakke punten kunnen heel vervelend doorwerken; bijv. bij invoer die duidelijk fout is, zal het expertsysteem toch een antwoord geven i.p.v. reactie "is dit wel goed?" n Lenat wil in het CYC project expertsystemen uitrusten met commonsense om ze 'intelligenter' te maken Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 196 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 197 Representeren van commonsense kennis n doel: hoog % van de commonsense kennis van de hedendaagse westerse mens 'uitprogrammeren'/ representeren n deze commonsense kennis is te beschouwen als 'het complement van een encyclopedie : de achtergrondkennis die nodig is om een gewone encyclopedie te gebruiken n op dit moment de zwaarste test voor de SSH en het data model van kennis Het CYC project n CYC omvat het handmatig coderen van circa 100 miljoen asserties!!! (neemt 2 maneeuwen!!) n CYC omvat commonsense kennis betreffende ontologie, causaliteit,... : de zwaarste problemen uit de filosofie!!! Bevat dus veel simplificaties! n Crux: behoud de mate van finesse, nodig voor toepassingen! (MOEILIJK!) Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 198 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 199 Het CYC project n ontologie: wat zijn de basistypen van objecten die er bestaan: in CYC worden de volgende typen onderscheiden: tastbaar, ontastbaar, samengesteld, gebeurtenissen, wiskundige objecten : nogal grof n epistemologie: algemene theorie van kennis en kennisverwerving bijv. kennis van causale relaties n logica: in CYC: niet-monotone logica: default-redeneren < (Truth Maintenance System - TMS) Filosofische tegenwerpingen tegen Sterke AI & SSH: Searle n Is de vraag of een computer een geschikt apparaat is om te kunnen denken empirisch? n Searle: de vraag of een symbool-manipulator kan denken is niet empirisch, maar analytisch, en kan op analytische gronden ontkennend worden beantwoord: een symbool-manipulator (USS) werkt puur syntactisch en kan niet werkelijk begrijpen wat het doet! syntax is onvoldoende voor beheersing semantiek (= "understanding of what symbols actually mean") Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 200 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 201 6

7 Een gedachtenexperiment De Chinese kamer ghgj yiyoit gfcvbx Tekst met vragen in Sam Bmfefjhcakj gjw ejwk Antwoorden in ghgj yiyoit gfcvbx Tekst met vragen in Joe Bmfefjhcakj gjw ejwk Antwoorden in Stel we hebben een computerprogramma Sam dat in staat is om in het vragen over Chinese teksten te beantwoorden Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 202 Vervang het computerprogramma Sam door de mens Joe die de programmainstructies uitvoert Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 203 De Chinese kamer n Chinese room argument: Joe in de kamer die met de hand het computerprogramma Sam aan het uitvoeren is, begrijpt noch het verhaal, noch de vragen, noch de antwoorden: alleen manipulatie van betekenisloze symbolen: "Sam 'gerund' op een menselijke computer" het uitvoeren van het programma stelt Joe niet in staat om het verhaal, etc. te begrijpen, ergo het uitvoeren van het programma stelt de computer niet in staat om het verhaal, etc. te begrijpen Chinese kamer: conclusie van Searle n het runnen van een programma leidt niet tot begrijpen, geloven, willen, bedenken van wat dan ook! n "merely manipulating symbols will not enable the manipulating device to understand X, believe Y, think Z..." \ de SSH is ONWAAR! Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 204 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 205 Tegenwerpingen tegen Searle Tegen-tegenwerping n 'The systems reply': Het gaat niet alleen om de symbool-manipulator Joe maar om het systeem als geheel: dit zou nog wel kunnen begrijpen waar het verhaal etc. over gaat! n Copeland duidt i.h.b. op de ondeugdelijkheid van Searle's redenering: "Joe's symboolmanipulatie zal hem niet helpen de input te begrijpen" \ "Joe's symboolmanipulatie zal het grotere systeem waarvan Joe deel uitmaakt niet helpen de input te begrijpen" n Searle contra de systems reply: 1. Joe begrijpt niet, maar Joe + papier + potlood begrijpt wel?!? 2. Laat Joe alle regels van het programma uit zijn hoofd leren, dan is er geen 'groter' systeem meer waar Joe deel van uitmaakt; in feite maakt dan alles deel uit van Joe! Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 206 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 207 7

8 Nogmaals de Chinese kamer Tegen-tegen-tegenwerping ghgj yiyoit gfcvbx Tekst met vragen in Bmfefjhcakj gjw ejwk Antwoorden in n Copeland: ad 1: - dit is oneerlijk: het idee van een man (Joe) in de kamer leidt af Ë vervang Joe door een gedresseerde vlo - het hele scenario is 'silly', onrealistisch - Verder: het argument "Joe begrijpt niet fi Sam begrijpt niet" is incorrect (geen verband tussen Sam en Joe), hoewel de conclusie evident wel waar is (vanwege de opzet van het speciale programma Sam). Dus het argument zegt niets over een willekeurig AI-programma Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 208 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 209 Tegen-tegen-tegenwerping Etc. n Copeland: ad (2): berust op "Part-of principle": "Als Joe X niet kan fi Geen deel van Joe kan X" n maar dit principe is (volgens Copeland) niet evident waar! n Searle: - SSH fi 'toiletpapier' machine (= TM?) denkt ook?!?! - biologisch bezwaar tegen de SSH en AI n Copeland: - hoewel Joe van zichzelf kan zeggen dat hij niet begrijpt, kan een buitenstaander mogelijk wel zeggen dat Joe begrijpt! Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 210 Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 211 Conclusie van Copeland n maak net als met het begrip denken het begrip 'begrijpen' meer algemeen zodat het ook 'artificial understanding' omvat: 'Turbo-Sam', als deze ooit gemaakt zal kunnen worden (maar dit is een technologisch / empirisch probleem) zal dan kunnen 'begrijpen' in deze meer algemene zin Filosofie van de informatica J.-J. Ch. Meyer, ICS, UU 212 8