TRANSCRIPTIE GESPREK MET GUSZTI EIBEN IN NOORDERLICHT, EEN PROGRAMMA VAN VPRO RADIO, 14 DECEMBER 2004 Wij gaan ons bezighouden met de wondere wereld van de wetenschap in Noorderlicht. Hij wil een nieuwe wereld creëren, die laten evalueren, en dan kijken welke culturen er ontstaan. Niet in het echt, maar in de computer. Virtueel voor god spelen dus. New Ties heet het onderzoeksproject van Guszti Eiben, hoogleraar computerwetenschap aan de Vrije Universiteit in Amsterdam. Vandaag staat hij op een conferentie met hoogleraren om te brainstormen om te bespreken hoe je culturen in de computer kan laten ontstaan. En als je dan een virtuele schaduwmaatschappij hebt, wat kunnen wij daar dan van leren? Het klinkt allemaal behoorlijk futuristisch: is het science of is het fiction? Rob van Hattum in gesprek met Guszti Eiben. Meneer Eiben, goedemorgen. Goedemorgen. U hebt zich even los moeten rukken uit de conferentie om bij ons te kunnen zijn, waarvoor dank. Zijn er al spannende nieuwe gedachten naar voren gekomen in de conferentie? Ja, inderdaad, we zijn nu bezig om een aantal werelden te specificeren, waarbinnen een grote maatschappij van miljoenen individuen zich zal moeten ontwikkelen, evolueren, elk individu zal moeten leren, een groep individuen zal als een kleine maatschappij zich verder kunnen ontwikkelen. Ja, u doet niet voor minder, hè? Een paar werelden nog wel. Ja, omdat geen enkel experiment iets zegt over veel dingen, willen we veel experimenten doen over veel werelden. Laten we even bij het begin beginnen. Het project waar u mee bezig bent heet New Ties en het is een acroniem voor New and Emergent World Models Through Individual, Evolutionary, and Social Learning. Dat klinkt heel indrukwekkend, zou u het even willen vertalen voor mij? Ja, de bedoeling is dat wij inderdaad een kunstmatige wereld creëren en een paar miljoen individuen in die wereld neerzetten die dan de mogelijkheden krijgen om zich te ontwikkelen. De drie mogelijkheden die ook in de naam voorkomen, zijn evolutie, natuurlijke selectie (die heeft geleid tot het ontstaan van de homo sapiens), leren (individuen leren, dat wil zeggen: een individu zou uit zijn eigen ervaring beter kunnen leren wat hij wel of niet moet doen in de toekomst, gebaseerd op de ervaring uit het verleden). Social Learning, dat slaat op het leren lesgeven aan je leeftijdsgenoten, met name aan je eigen kinderen. Het doel is, en dan citeer ik even uit uw powerpointpresentatie zoals dat zo mooi heet: het creëren of laten ontstaan van een kunstmatige maatschappij met sterke mentale en taalkundige vaardigheden. En dat om te zien of, wanneer en hoe deze maatschappij vragen gaat stellen over zichzelf en haar eigen ontstaan. Dat is wel heel ambitieus volgens mij. Dat is ook veel te ambitieus. Deze beschrijving komt voort uit de eerste gesprekken met een aantal collega-wetenschappers en het had een heel hoog sciencefictiongehalte uiteraard, om er geld voor te krijgen, om het onderzoek uit te kunnen voeren. Aha, het was een strategie om geld te krijgen. Maar daarna moeten we het meer maatschappelijk relevant maken en meer wetenschappelijke body geven aan het onderzoek. Het lijkt me wel heel ambitieus om inderdaad een maatschappij te creëren die vragen over zichzelf gaat stellen, hè? Dat staat niet meer in het projecttrajectplan. Dat is een toekomstvisie die wellicht gerealiseerd kon worden binnen enkele decennia, maar niet in de looptijd van dit project. 1
Ja, want het idee doet een beetje denken aan zo n populair computerstel dat je nu hebt: Sims. Je hebt SimCity of ook families die gesimuleerd kunnen worden. Waarin verschilt nou het project dat u doet met het project, nou ja, het Sims-spelletje. Het hoofddoel is verschillend. Die spelletjes, SimCity, SimLife en dergelijke, die zijn gemaakt om hun entertainmentwaarde. Ze moeten vermakelijk zijn. Wij zijn meer geïnteresseerd in de wetten die zo n complex systeem vooruit stuwen. We willen die wetten begrijpen, we willen zo n complex systeem kunnen voorspellen en uiteindelijk willen we het ook kunnen sturen. Je wilt de maakbare samenleving in de computer realiseren. Eigenlijk vanaf het begin van de computer, met John von Neumann en Alan Turing, zo n beetje de aartsvaders van de computer, die droomden al van intelligente computers. Kunstmatige intelligentie is eigenlijk al sinds jaar en dag de heilige graal van computerexperts, maar op dit moment zijn we eigenlijk nog niet in staat om ook maar één echt individu na te bootsen. Laat staan een hele maatschappij. Hoe komt u erbij dat u dan een hele cultuur in de computer kunt laten ontstaan? Hoe ik aan het idee kom: ik heb ongeveer vijfentwintig jaar geleden een sciencefictionverhaal gelezen waarin dit ongeveer stond. Toen was ik al geïnspireerd en nu ben ik hoogleraar kunstmatige intelligentie, dus nu kan ik het doen. Het verschil tussen zeg maar de traditionele kunstmatige intelligentie en onze aanpak is: we hoeven niet zozeer elk individu heel goed en nauwkeurig na te bootsen om interessante dingen te leren over een complex geheel van individuen van een maatschappij. Maar wat moet je dan wel doen?als je niet een individu hoeft na te bootsen, wat moet je er dan wel instoppen om te zorgen dat zich zoiets als een cultuur of maatschappij gaat ontwikkelen in die computer? Die individuen moet je wel nabootsen, maar niet op detailniveau, waarop kunstmatige intelligentie had gemikt. We willen graag wat redelijk simpele individuen die de complexiteit en de intelligentie verkrijgen door hun aantallen en de complexe samenwerkingen en verbanden tussen die individuen. Ja, maar als gewone sterveling zullen we maar zeggen: hoe doe je dat dan, in een computer zo n wereld nabootsen? Is daar iets aan te zien? Zijn er stipjes op het scherm die zich intelligent gedragen? Wat moet ik me daar bij voorstellen? Klopt, als ik mijn computer bij me had, dan had ik zoiets kunnen laten zien. Maar het verschil met SimLife en SimCity alweer, die zijn heel erg gericht op visualisatie. Ja, dat zijn gewoon mensen die rondlopen in een kamer. Juist. Visualisatie is bij ons alleen een hulpmiddel om een beter begrip te krijgen. We meten een aantal dingen, bijvoorbeeld het aantal individuen dat op een bepaald moment leeft, de familiebomen, we kunnen kijken hoeveel ze met elkaar communiceren, wat ze met elkaar bespreken, we kunnen kijken óf ze samenwerken en zo ja, wat ze samen doen. Maar voert u ook zoiets als taal in, of zegt u: nee dat voer ik helemaal niet in en zegt u: ik laat taal ontstaan. Dat laatste is inderdaad een van onze grootste uitdagingen. We hebben ook experts in zogeheten Language Evolution, die moeten ervoor zorgen dat we niet al te veel meegeven. We moeten niet alles voorschrijven, want dan wordt het een saai experiment met voorspelbare uitkomsten. We geven de kiemen van taal en het vermogen om het te kunnen ontwikkelen en dan kijken we of het inderdaad gebeurt. Maar kunt u die taal dan wel verstaan? Dat klinkt een beetje raar, maar we kunnen moeilijk een nieuwe stam die we ergens zouden kunnen ontdekken in midden Afrika, ik weet niet of er nog nieuwe stammen zijn om te ontdekken, maar goed, die kunnen we nog niet eens verstaan. Laat staan een computerprogramma dat zich ontwikkeld heeft in een eigen taal. 2
Ja, u noemt nu een van de grootste wetenschappelijke technische uitdagingen van dit project. Als de taalevolutie inderdaad gaat gebeuren zoals wij het hopen, hoe kunnen we nog begrijpen wat de individuen met elkaar bespreken? We zijn voornemens om er een aantal zogeheten monitors op te zetten, we kijken hoe de taal zichzelf ontwikkelt en we proberen niet alleen naar het eindresultaat te kijken, maar ook het proces. En daardoor hopen we dat we het bij kunnen benen. Ja, want het grappige is, ik heb ooit wel eens een gesprek gehad met Henk Koppelaar die ook van alles deed op het gebied van kunstmatige intelligentie in Delft. Die zei: als je echt intelligente computers hebt en die intelligente computersystemen met elkaar laat communiceren, dan gaat die communicatie zo ongelooflijk snel dat je er niet eens een vinger tussenkrijgt, bij wijze van spreken. Dat klopt, maar we hoeven het niet per se on-line te begrijpen. We kunnen in de computer alles opslaan en later op ons gemak achteraf analyseren wat er gezegd is en wat wij denken dat er gezegd is. Het is ook wel zo dat we in de technische beschrijving van het project als doel hebben gesteld: als de maatschappij zich ontwikkeld heeft en dus het eindresultaat of de eindstatus bereikt heeft, dan willen we in hun hersenen kijken. We willen graag begrijpen hoe zij hun eigen wereld zien en ervaren. Maar er zitten helemaal geen hersenen in die computer. Toch? Jawel. Oh, toch wel? Het is alleen digitaal. Ja ja, en dat lukt ook? Ik bedoel, als ik kijk naar de manier waarop het brein van mensen aan elkaar zit en ik tel ongeveer tien miljard tot, sommige mensen zeggen, honderd miljard hersencellen plus alle verbindingen die erbij horen, lukt dat dan wel? En dan heb ik het nog maar over één persoon. Ja, maar we hoeven niet alle verbindingen tussen die neuronen te begrijpen. We willen graag op een hoog niveau, op conceptueel niveau begrijpen, bijvoorbeeld, dat ze een concept hebben ontwikkeld dat staat voor kind of familielid. En als ze gedrag vertonen van het zorgen voor je familieleden, dan zien we dit gedrag, we zien het ontstaan van het concept en we zouden kunnen concluderen dat de maatschappij dit geleerd heeft. Ik probeer het te begrijpen, hoor. Ik zal het uit een andere hoek benaderen. Het systeem dat u beschrijft doet mij een beetje denken aan de begin jaren zestig: Edward Lorenz probeerde het weer na te bootsen en kwam het probleem dat als hij nieuwe gegevens invoerde, dat hij elke keer een andere uitkomst kreeg, wat zeg maar de intellectuele grondslag legde voor de chaostheorie. Namelijk dat je eigenlijk een complex systeem waar zoveel dingen op elkaar inspelen niet goed kunt begrijpen en ook niet goed kunt voorspellen. Heb je hierbij hetzelfde niet, dat je ook een soort systeem creëert waarbij, ja, alles mogelijk is? Nou, misschien niet alles. En het feit dat iets mogelijk is, betekent niet dat het ook altijd uitkomt. We hopen, en mijn ervaring met onderzoeken uit het verleden bevestigt dit, dat het systeem de neiging heeft om steeds dezelfde kant op te gaan. En het hoeft niet exact dezelfde uitkomst te zijn. Onze hoofdstad zou niet Amsterdam, maar iets anders kunnen heten. Maar we zouden een hoofdstad hebben. Dus u zegt: de uitkomst is niet precies hetzelfde, maar grofweg kom je wel op hetzelfde uit. Waarschijnlijk. Ja, en dat zijn de wetmatigheden, de regels die we proberen te begrijpen. En om een voorbeeld uit de elementaire fysica aan te halen: we kunnen niet beschrijven hoe elk atoompje het doet, maar we kunnen heel goed beschrijven hoe de temperatuur, het volume en de druk binnen een bepaald gas met elkaar in verband zitten. We hebben een heel 3
simpele formule daarvoor. En die beschrijft het systeem op een macroniveau, zonder dat we op microniveau, op het niveau van atomen precies weten wat er gebeurt. Dus in wezen zegt u: met zo n model zou je kunnen kijken wat de sociale wetten zijn die voortvloeien uit het gedrag van individuele deeltjes. Ja. Wat we dan ook heel graag zouden willen doen. We willen begrijpen op welke knoppen je moet drukken om een bepaald resultaat te krijgen. Wat denkt u uiteindelijk hiervan te kunnen leren. Stel dat het lukt, ik ga ervan uit dat het voorlopig nog niet klaar is, daar is die conferentie tenslotte voor belegd: wat zou je er voor moeten doen. Maar wat leert het ons dan? Wat leert het ons? Hoe zou ons over de wetmatigheden van heel grote complexe systemen met miljoenen kleine individuen iets kunnen leren, waardoor we ons eigen ontstaan, de maatschappij als zodanig beter kunnen begrijpen. Bijvoorbeeld, als je nu een nieuwe belastingwet wilt invoeren, je kunt dan in een computer kijken: wat gebeurt er dan met de maatschappij? Wordt iedereen rijk en gelukkig? Of worden er maar weinigen rijk en gelukkig? Of krijgen we veel arme mensen? Om maar een voorbeeld te noemen. Maar dat duidt erop dat je met de computer bepaalde gebeurtenissen in de maatschappij probeert te voorspellen. Ja, dat is een van de visies die achter dit onderzoek ligt. Het andere is om zelf maatschappijen te creëren die voor ons werken. In plaats van een dure kwetsbare sonde naar Mars te sturen, zou je tienduizenden sterke robuuste eenheden naar Mars kunnen sturen. Dan zeggen we: jongens, we weten niet hoe Mars in elkaar zit, we weten niet hoe je dus aan middelen kunt komen, maar je hebt vijf jaar: bouw eens een huis voor ons, want wij komen eraan. En als de helft dan kapot gaat tijdens deze vijf jaar, dan hebben we er nog steeds vijfduizend over die het huis voor ons kunnen bouwen, zonder dat wij precies vertellen hoe dat moet. Ja, dat is een concept, dat heet geloof ik Swarm-Bots, een zwerm robots. Swarm-Bots is een heel goed project dat werkt met echte fysieke robots, alleen zij werken met dertig robots en dat is al een uitdaging om ze niet kapot te laten gaan op de tafel. Wij werken alleen in de computer en onze complexiteit zit in de aantallen, in de schaal. Een hele hoop stuur je als een soort bacteriekolonie die kant op en dan maar zien wat ervan overblijft. Ja, wij werken heel goed samen met die onderzoeksgroepen die in dat Swarm-Botsproject zitten en we zijn uiteraard voornemens om in de volgende periode van onderzoeksfinanciën iets samen in te dienen, waardoor wij die twee competenties met elkaar koppelen en werkelijk grote groepen robots creëren die werkelijk iets kunnen doen of maken. Ja. Dat klinkt wel als een soort futuristisch idee natuurlijk, want je laat eigenlijk de evolutie meer een rol spelen om de dingen te laten ontwikkelen. Het klopt ook, maar evolutie is volgens mij een van de beste probleemoplossers in het heelal, want hij heeft dus de homo sapiens kunnen creëren, zonder dat iets hem vertelt hoe dat allemaal moet. Nou heeft evolutie ook onze maatschappij bepaald, dat wilt u ook in die modellen doen. Dat doet me een beetje denken aan in de jaren zestig, begin jaren zeventig had je de futurologie als wetenschap Fred Polak was een van de wetenschappers in Nederland die zich daar mee bezighield. Nou heb ik ooit wel eens een keer daar die vakgroep gesproken en die zei: we probeerden toentertijd de maatschappelijke ontwikkeling in de computer te stoppen en we probeerden dat vervolgens door te rekenen. En nou bleek steeds dat na twee, drie jaar totaal stuk te lopen. Heb je dat gevaar ook niet met de systemen die u 4
voorstelt; dat het wel in een bepaalde richting ontwikkelt, maar dat het niks meer met onze maatschappij te maken heeft? Nou, het hoeft geen probleem te zijn. Als je een maatschappij of een groep robots wilt ontwikkelen dat als doel heeft om iets te doen, dan doet het er niet toe of ze dat doen op de manier zoals dat in het echt gebeurt. Maar is dát je doel, dus een ander doel maar evengoed een legitiem doel, om het echte leven na te bootsen dan is het probleem dat je het systeem moet kalibreren. Zeg dat je een schaal hebt voor het instellen van naastenliefde. Je kunt dan een systeem opstellen waar mensen individueel veel om elkaar geven, en een systeem waar individuen niet veel om elkaar geven. Onder de ene set-up komt er misschien iets uit wat op onze eigen maatschappij lijkt en in een andere set-up iets wat niet op onze eigen maatschappij lijkt. Dan heb je het systeem gekalibreerd, dan heb je begrepen hoe je dus de basis in elkaar moet zetten, opdat het complexe gedrag ook vergelijkbaar is met het echte. Maar je moet dus eigenlijk constant bijstellen. Stel dat je er een echte-wereldsimulatie van zou willen maken, dan moet je constant bijstellen. Absoluut. Hoe langer je horizon is, hoe verder je in de toekomst wilt kijken, hoe meer onzekerheden. Ik vrees dat wij nog niet in de toekomst kunnen kijken hoe lang het gaat duren voordat dit systeem werkt. Misschien wilt u ons bellen als een van de eerste culturen zich heeft aangemeld vanuit de computer? Ik zal het zeker doen. Oké, heel erg vriendelijk bedankt. Dank u wel. Rob van Hattum was dat in gesprek met Guszti Eiben. Bij mij kwam de vraag op of het ontwikkelen van de homo sapiens wel iets is waar andere organismen de evolutie zo dankbaar voor moeten zijn. Maar dit terzijde. 5