De technologische singulariteit

Transcriptie

1 De technologische singulariteit Of: wanneer kunnen computers zelfstandig denken? 11 Philip Dutré * 1. Inleiding Sinds enkele decennia hebben we een zeer ingrijpende digitale (r)evolutie meegemaakt. Computers en software zijn doorgedrongen in zowat elk aspect van de samenleving, het onderwijs, de industrie, ons privé-leven. Bovendien lijkt het alsof deze digitale technologische pletwals meer en meer aan snelheid wint: computers worden niet alleen krachtiger wat betreft hun ruwe capaciteit zoals uitvoeringssnelheid en geheugen, maar ook voor de diverse toepassingen waarvoor computers gebruikt worden, zoals tekstverwerking, spelletjes, sociale media, entertainment, lijkt de evolutie steeds sneller te verlopen. De software, die het belangrijkste aspect vormt van hoe we met computers omgaan, vertoont daarbij steeds nadrukkelijker kenmerken van wat we intelligent gedrag kunnen noemen. Denken we maar aan het feit dat computers zeer goed geworden zijn in denkspelletjes zoals schaken, dammen of Go; of aan medische diagnoses die steeds meer door software gemaakt worden; of aan de persoonlijke aanbevelingen die allerhande websites ons doen gaande van gesuggereerde aankopen tot wiens vriend je moet of wil zijn: het lijkt alsof software alsmaar slimmer en slimmer wordt. Bij deze technologische evolutie kan een aantal vragen gesteld of bedenkingen opgeworpen worden: Is het effectief zó dat de technologie zich steeds sneller en sneller ontwikkeld? Kan men spreken van intelligent gedrag in de context van machines in casu software die wordt uitgevoerd op computers? Is intelligent gedrag niet uitsluitend voorbehouden voor biologische wezens, zoals de mens of sommige dieren? Indien computers steeds intelligenter worden, worden ze dan vroeg of laat intelligenter dan de mens, die we kunnen beschouwen als het meest intelligente organisme dat we tot nu toe kennen? Is het mogelijk dat machines ook andere typisch menselijke * Philip DUTRÉ is hoogleraar aan de faculteit ingenieurswetenschappen van de KU Leuven. Philip. Dutre@cs.kuleuven.be Ethische Perspectieven 24 (3), , doi: /EPN by Ethische Perspectieven. All rights reserved.

2 kenmerken, zoals zelfbewustzijn of emoties, gaan vertonen? Indien dit laatste bewaarheid wordt, wat is dan nog de rol van de mens in de samenleving? De laatste jaren heeft een aantal denkers zich met deze vragen beziggehouden, en antwoorden trachten te formuleren. Eén van de meest spectaculaire denkbeelden dat hieruit ontstaan is, is de technologische singulariteit. De technologische singulariteit is dat moment in de toekomst waarop machines effectief slimmer en intelligenter zullen zijn dan mensen. Het toekomstbeeld van de technologische singulariteit is als idee gebouwd op twee veronderstellingen: i. De eerste veronderstelling is die van de steeds snellere toename van de technologische ontwikkeling, welke exponentieel lijkt te verlopen. Het klassieke voorbeeld hiervan is de bekende wet van Moore die stelt dat het aantal transistoren op een computerchip elke 24 maanden verdubbelt. Andere technologische evoluties in het verleden blijken echter een gelijkaardige trend te vertonen. ii. De tweede veronderstelling is de intelligentie-explosie. Als we machines (computers) kunnen bouwen die qua capaciteit en qua denkkracht het menselijk brein evenaren of zelfs overstreffen, zal dit leiden tot de creatie van superintelligentie (intelligentie die het niveau van de mens steeds sterker overstijgt). Vermits een superintelligentie beter in staat is om na te denken over zijn eigen verdere ontwikkeling dan de mens dat zou kunnen, zullen dergelijke machines de menselijke denkkracht niet meer nodig hebben om zichzelf verder te ontwikkelen, en zullen deze superintelligente machines zich ontwikkelen in een richting waar wij geen vat meer op hebben. De benaming technologische singulariteit duidt er dan op dat indien superintelligentie zou onstaan, het quasi onmogelijk wordt om eventuele gevolgen in te schatten, zowel voor verdere technologische ontwikkelingen, als voor sociale implicaties en voor ethische vraagstukken. Het is als het ware een event horizon waarachter we amper kunnen voorspellen wat er verder zal gebeuren. 2. De technologische singulariteit Steeds snellere toename van technologie De Wet van Moore is het meest bekende voorbeeld om aan te tonen dat technologie steeds sneller evolueert. De Wet van Moore is geen natuurwet zoals de zwaartekracht, maar is eerder een vaststelling van technische en Ethische Perspectieven 24 (2014)3, p. 245

3 economische aard, in de jaren zestig van de twintigste eeuw gedaan door Gordon Moore, medestichter van het electronica-bedrijf Intel. De Wet van Moore stelt dat het aantal transistoren (een transistor is de meest elementaire electronica-schakeling) op een chip elke twee jaar verdubbelt (sommigen spreken over een periode van anderhalf jaar). De fundamentele, onderliggende reden is de verder schrijdende miniaturisatie van de micro-elektronica, waarbij een betrouwbare transistor steeds kleiner en kleiner kan geproduceerd worden. Een verdubbeling van het aantal transistoren na een periode van telkens twee jaar impliceert een groei die een verloop kent volgens een exponentieel groeiende curve. Na vier jaar kunnen we immers spreken over twee maal een verdubbeling, of viermaal zoveel transistoren; na zes jaar hebben we reeds drie verdubbelingen, of achtmaal het initiële aantal bereikt; na acht jaar vier verdubbelingen wat resulteert in een zestienvoudige toename enz. Na elke periode van twee jaar wordt het vorige bereikte aantal met een factor 2 vermenigvuldigt. De Wet van Moore is de onderliggende verklaring van steeds sneller wordende computers voor een constant-blijvende prijs; de steeds grotere en goedkopere computergeheugens; de steeds goedkoper wordende gebruikerselektronica. Zonder de wet van Moore zou de digitale revolutie niet hebben plaatsgevonden, of toch minstens niet tot op het niveau van de consumentenelectronica. Weliswaar verloopt de Wet van Moore niet perfect gelijkmatig voor alle mogelijke afgeleide fenomenen en technologieën, en geschiedt de feitelijke evolutie eerder met horten en stoten, maar de onderliggende trend is duidelijk waarneembaar. Een kenmerk van een exponentieel groeiend proces is dat het sneller toeneemt dan wat de meesten onder ons redelijkerwijze kunnen bevatten. Onze dagelijkse ervaring heeft het moeilijk om dergelijke snelle groei te kunnen plaatsen, of om zinvolle extrapolaties naar de toekomst te maken. Het klassieke voorbeeld is het raadsel van het blaadje papier dat men vijftig maal tracht dubbel te vouwen. Indien dit fysisch al mogelijk zou zijn, zou dit stukje papier uiteindelijk dikker zijn dan de afstand tussen aarde en maan. Bij velen ontbreekt het aan het vermogen om zich in te beelden dat dit effectief het geval is. Eén van de redenen hiervoor is dat mensen eerder geneigd zijn om in termen van lineaire groei te denken. Bij een lineair groeiend process wordt er per vaste periode niet vermenigvuldigt met een vaste factor, maar wordt telkens een vaste term opgeteld bij de vorige grootheid. Een dergelijk groeiproces is gemakkelijker te vatten: als we na twee jaar een verhoging zien met een waarde x, lijkt het redelijk om aan te nemen dat we na tien jaar een verhoging zullen zien van vijfmaal de waarde x. Dit verschil in lineaire versus exponentiële groei is er dikwijls de oorzaak van waarom toekomstevoluties in allerlei domeinen significant Ethische Perspectieven 24 (2014)3, p. 246

4 onderschat worden. We hoeven slechts te denken aan de groei van het internet in aantal computers, gebruikers, dataverkeer, enzovoort, om een typisch voorbeeld van exponentiële groei, met de bijhorende disruptieve wijzigingen, in werking te zien. Aanvankelijk lijkt een exponentieel groeiend proces vrij traag te verlopen, omdat het over kleine absolute aantallen gaat (bijvoorbeeld het aantal internetgebruikers in 1990), maar op een bepaald ogenblik treedt het proces spectaculair op de voorgrond en lijkt iedereen verrast door de snelle groei. In zijn boek The Singularity is Near betoogt Ray Kurzweil dat dergelijke exponentiële toename niet enkel vast te stellen is voor het aantal transistoren op een chip (een proces dat zich afspeelt sinds de jaren zestig), maar dat dit een trend is die verschillende soorten technologieën doorheen de geschiedenis overspant. Een wat specifieker voorbeeld betreft automatische rekenmachines. Indien men de evolutie van het aantal berekeningen per seconde dat dergelijke machines kunnen uitvoeren beschouwt in de tijd, dan blijkt men een exponentiële groei waar te nemen vanaf de introductie van ponskaartmachines in de negentiende eeuw, over elektromechanische rekenmachines tot hedendaagse computers. Telkens wanneer een specifieke technologie tegen zijn limieten aanloopt voor verdere snelheidsverbeteringen, blijkt een nieuwe technologie klaar te staan om de verdere groei over te nemen. Dit is minstens een merkwaardige vaststelling. Het suggereert dat er een onderliggende verklaring bestaat waarom technologie qua mogelijkheden steeds blijft toenemen. Hoe de technologie voor rekenmachines er ná de microchip (en dus bij het einde van de Wet van Moore) uit zal zien is op dit ogenblik nog koffiedik kijken, maar technieken zoals quantum-computing, DNA-computing en spintronics zijn slechts enkele voorbeelden van wat nu in laboratoria reeds ontwikkeld wordt. De steeds snellere groei van de mogelijkheden van technologie wordt door Kurzweil in een breder kader geplaatst. Hij beschouwt de volledige evolutie vanaf het ontstaan van het eerste leven, over de biologische evolutie tot de mens, en de moderne vooruitgang door middel van hedendaagse technologie als een enkele groeicurve naar meer en meer complexe systemen. De mens heeft pas sinds pakweg de laatste jaar een invloed op die evolutie gehad, maar fundamenteel zijn we zelf deel van de evolutie en de ideeën en produkten die we zelf voortbrengen bij extensie dus ook. Uit de oplijsting van een aantal sleutelmomenten doorheen de geschiedenis blijkt dat gebeurtenissen die zogenaamde paradigma-verschuivingen (paradigm-shifts) karakteriseren, elkaar in steeds sneller tempo opvolgen. Dit duidt op een globaal of zelfs universeel exponentieel proces, waarvan onze huidige Wet van Moore gedurende de laatste decennia slechts een zeer klein symptoom vormt. Een dergelijke bevinding Ethische Perspectieven 24 (2014)3, p. 247

5 hangt natuurlijk nauw samen met wat men bestempelt als een belangrijke paradigmaverschuiving (men zou gebeurtenissen kunnen kiezen die de eigen stellingname ondersteunen), maar het blijkt dat dezelfde denkoefening, gemaakt door onafhankelijke bronnen, telkens een gelijkaardig resultaat oplevert. Als voorbeeld geven we hier de tijdslijn van dergelijke gebeurtenissen uit de menselijke geschiedenis, opgelijst door de astrofysicus Carl Sagan: Aantal jaren geleden Aantal jaren tot volgende gebeurtenis Eerste mensen Wijde verspreiding van stenen werktuigen Domesticatie van vuur Start van de meest recente ijstijd Mensen bevolken Australië Grotschilderingen in Europa Uitvinding van de landbouw Eerste steden Ontwikkeling van de astronomie Uitvinding van het alfabet Wetten van Hammurabi Bronstijdperk; uitvinding van het kompas IJzertijdperk Geboorte van Buddha Euclidische meetkunde Het getal 0 en tientallig talstelsel in Indische rekenkunde Kruistochten Renaissance in Europa; ontdekkingsreizen; opkomst van de experimentele methode in de wetenschap Sterke verspreiding van wetenschap en technologie, globalisering, eerste stappen in ruimtevaar 50 Ethische Perspectieven 24 (2014)3, p. 248

6 Critici menen dat dergelijke oefeningen altijd een steeds snellere evolutie zullen aantonen, al was het maar omdat we meer aandacht geven aan bij meer recente gebeurtenissen, omdat dergelijke cijfers vrij vergevingsgezind zijn voor fouten, en omdat het moment waarop iets gebeurt en de afstand tussen twee momenten deels redundante informatie bevat. Alleszins en onafhankelijk van de kadering inclusief de biologische evolutie blijft het een merkwaardige vaststelling dat de definiërende technologie van de laatste decennia (de digitalisering) een steeds sneller groeipatroon vertoont. Het is dan ook de digitale technologie die de grondslag vormt voor het tweede aspect van de technologische singulariteit, namelijk de mogelijke opkomst van superintelligente machines. De intelligentie-explosie Computers of preciezer uitgedrukt: computerprogramma s zijn de laatste decennia steeds meer in staat gebleken om cognitieve vaardigheden van de mens over te nemen. Voor opslag van gegevens is dit reeds evident: we hoeven allang niet meer alle mogelijke informatie zelf te onthouden, maar hebben ons geheugen als het ware uitbesteed aan elektronische apparaten. Een interessante vraag is dan ook of computers vroeg of laat dezelfde denkprocessen, op hetzelfde complexe niveau, kunnen ontwikkelen die we normaliter met menselijke intelligentie associëren. Kunnen we, met andere woorden, ook denkprocessen die traditioneel met menselijk denken vereenzelvigd worden, uitbesteden aan machines? Alhoewel een dergelijke vraag zinnig en aantrekkelijk lijkt, formuleerde de computerwetenschapper Edsger Dijkstra reeds in 1984 de volgende bedenking: The question of whether machines can think ( ) is about as relevant as the question of whether submarines can swim. 2 Hij sloeg hiermee de nagel op de kop. De uitdaging voor computerwetenschappers hoeft niet te zijn dat we menselijk denken gaan nabootsen, maar wel dat we een heel nieuwsoortige intelligentie kunnen ontwikkelen. Dit betekent niet dat computers geen intelligent gedrag zouden kunnen vertonen, maar enkel dat we dat gedrag niet noodzakelijk moeten vergelijken met het intelligente gedrag van mensen. Vergelijk dit met andere technologische ontwikkelingen: vliegtuigen vliegen niet als vogels; duikboten zwemmen niet als vissen; auto s lopen niet als luipaarden. Er moet ruwweg aan twee voorwaarden voldaan worden om computers denkende processen te laten uitvoeren. Vooreerst moeten computers grosso modo dezelfde capaciteit hebben als het menselijk brein, gemeten in geheugeninhoud en snelheid van uitvoering. Daarnaast en belangrijker moeten de nodige softwareprocessen Ethische Perspectieven 24 (2014)3, p. 249

7 beschikbaar zijn om dergelijke krachtige computers intelligent te maken. Het is immers niet zo dat een krachtige computer noodzakelijkerwijze ook slim is. Zonder de nodige software is een computer immers slechts een domme, zij het krachtige, rekenmachine. Ruw geschat kan het menselijk brein bewerkingen per seconde afhandelen. Dergelijke schattingen zijn gebaseerd op de verwerking van visuele of auditieve signalen, die vervolgens geëxtrapoleerd worden naar het volledige brein. Qua geheugencapaciteit schat men dat de menselijke hersenen ongeveer bits kunnen opslaan. Op basis van de evolutie van de technologie zoals eerder geschetst kan men extrapolaties maken naar wanneer computers qua rekenkracht evenwaardig kunnen worden aan het menselijk brein. Rekenkracht moeten we dan noodzakelijkerwijze uitdrukken als een snelheidsmeting, bijvoorbeeld het aantal berekeningen per seconde. De schattingen lopen uiteraard uiteen, afhankelijk van de gemaakte veronderstellingen, maar voor een modale persoonlijke computer, met een prijs van 1000 euro, wordt aangenomen dat dit punt omstreeks het jaar 2025 bereikt wordt. Dit tijdstip ligt niet zo heel ver van ons af, in die zin dat de meeste mensen die vandaag in leven zijn dit zullen meemaken. Het is zó concreet dat er amper twijfel over lijkt te bestaan dat we dit punt zullen bereiken. Men kan echter terecht kritiek hebben op de vraag of computers wel dezelfde ruwe capaciteit nodig hebben om denken mogelijk te maken. Misschien komt artificiële intelligentie wel weg met minder krachtige machines? Het antwoord hierop blijkt bevestigend te zijn, althans voor zeer specifieke opdrachten. Nu reeds zien we bepaalde toepassingen die intelligent gedrag vertonen, en dit op computers van vandaag. Anderzijds kunnen we ons de vraag stellen of we niet veel complexere machines nodig hebben dan het menselijk brein om denken met de complexiteit van het mensenlijk denken mogelijk te maken. Dat zou zeer goed kunnen we weten immers nog zeer weinig over de werking van het menselijk brein, en anlogieën maken tussen een biologisch en een digitaal brein zijn dus minstens voorbarig. Er lijkt echter vooralsnog geen limiet te staan op het maken steeds krachtiger computers. Zelfs als we machines nodig hebben die tien, honderd of zelfs duizendmaal zo sterk moeten zijn, is het een kwestie van een vijftiental jaar vooraleer we die snelheden bereikt hebben. Ook hier is het exponentieel verloop van de groei van technologie een factor die de zaken niet tot in de eeuwigheid zal uitstellen. De nodige software om dergelijke krachtige machines de nodige processen te laten uitvoeren zodat we van denkend gedrag kunnen spreken is natuurlijk een Ethische Perspectieven 24 (2014)3, p. 250

8 andere zaak. Op dit moment weten we nog relatief weinig af over hoe het menselijk brein denkt, laat staan dat we een machine zouden kunnen bouwen die dit gedrag emuleert. Wel is er kennis over welke gebieden van het brein actief zijn voor welke taken (visuele verwerking, emoties, ), en weten we heel wat over de werking van individuele neuronen. Maar hoe deze neuronen zich precies organiseren en meer complexe netwerken vormen, waarom dit gebeurt, en hoe dit kan leiden tot intelligentie is nog voor een groot deel onbekend onderzoeksterrein. Dit schept een grote mate van onzekerheid of het überhaupt mogelijk is om een machine te laten denken. Bijkomende moeilijkheid is dat er geen duidelijke definitie bestaat van wat denken of intelligentie precies inhoudt. Dit laatste mag minder een belemmering vormen, want, zoals hierboven aangehaald, is het niet noodzakelijk dat men menselijk denken simuleert (ook al kunnen ontwikkelaars er natuurlijk wel door geïnspireerd worden). Het is nu reeds zo dat een aantal activiteiten dat door computers wordt uitgevoerd, het menselijke overstijgen (rekenen, complexe ontwerpen maken, manipuleren van grote hoeveelheden data, denkspelletjes, enzovoort). De gebruikte technieken om dit te verwezenlijken zijn soms geïnspireerd door wat we weten over het menselijk denken of vergelijkbare processen in de biologie, maar zeker niet allemaal. Bovendien is er een terugkerende tendens om activiteiten die vroeger als intelligent werden omschreven, eens ze door computers kunnen worden uitgevoerd, niet langer als dusdanig te beschouwen. Een klassiek voorbeeld is het schaakspel. Waar dit tot in de jaren negentig als een intellectuele uitdaging van formaat werd beschouwd (heroïsche schaakwedstrijden zoals Fischer-Spassky of Kasparov-Karpov haalden het wereldnieuws), ligt nu nog amper iemand wakker van wie de huidige wereldkampioen is. Nu een doordeweekse smartphone beter kan schaken dan de meeste mensen, zal schaken weldra hetzelfde lot beschoren zijn als andere denkspelletjes zoals dammen of vier-op-een-rij: leuk als amusement, maar zeker geen toppunt of activiteit van menselijk vernuft. Dergelijke verschuivingen in visie zeggen meer over hoe wij intelligente activiteiten zien (namelijk, enkel datgene dat door mensen bewerkstelligd kan worden), dan over wat computers effectief kunnen. Een boutade luidt dan ook dat een intelligente activiteit datgene is wat de mens wel kan, en een machine niet. Op zich is dat natuurlijk een in de tijd verschuivende definitie. Een sterk reductionistisch antwoord op de vraag of computers ooit zullen kunnen denken kan ook als volgt geformuleerd worden: de natuurlijke of biologische evolutie heeft ons onze hersenen als orgaan opgeleverd waarbinnen een denkproces tot stand kan komen. Vermits natuurlijke evolutie ongericht werkt en afhangt van een Ethische Perspectieven 24 (2014)3, p. 251

9 heleboel toevalsfactoren, lijkt het onwaarschijnlijk dat we door ons menselijk vernuft niet hetzelfde kunnen bereiken namelijk een denkende machine bouwen. Vermits het menselijk brein ook onderhevig is aan alle fysische en chemische natuurwetten, moet men de processen die zich in dat brein afspelen vroeg of laat kunnen simuleren op een computer, of eerder zelfs vergelijkbare processeren kunnen modeleren. Het is geen kwestie of dat mogelijk is, dan wel wanneer het mogelijk zal zijn. Een tegenargument tegen een dergelijke redenering is natuurlijk dat de mens misschien niet kundig genoeg is om wat de biologische evolutie ons heeft opgeleverd te kunnen nabootsen of te repliceren. Zo lijkt het tot nu toe onmogelijk om artificieel leven na te maken in het laboratorium, laat staan een denkend orgaan zoals de hersenen van nul op te bouwen. Echter, zoals verderop zal blijken, we kunnen de evolutie simuleren aan de hand van software, en zouden dus, mits voldoende geduld, een denkend algoritme kunnen laten evolueren binnenin een digitale omgeving. Dit argument gaat er natuurlijk van uit dat de natuurlijke evolutie de enige oorzaak of drijvende kracht is in het ontstaan van denkende wezens. Men heeft hierbij geen nood aan andere verklaringen van (dikwijls) religieuze aard. Ook indien men erin zou slagen een computer te laten denken, blijft de vraag of een dergelijke simulatie van het denkproces ook werkelijk denken is. Technologisch gezien is deze vraag echter van weinig belang. Een computer die schaak speelt, speelt die werkelijk schaak, of slechts een simulatie van schaak? In zekere zin is deze vraag nutteloos we zeggen ook niet dat een computer slechts simuleert dat hij twee getallen optelt, in plaats van twee getallen werkelijk op te tellen. Het anekdotische antwoord op deze vraag luidt in het Engels: If it looks like a duck, swims like a duck, and quacks like a duck, then it probably is a duck. Bovendien, zoals reeds aangehaald, hoeft intelligent gedrag van computers niet hetzelfde te zijn als menselijk intelligent gedrag. Feit is dat computers de mens verslaan bij een spelletje schaak. Hoe hij dat voor elkaar krijgt, lijkt minder relevant. Een grote belemmering bij bovenstaande voorspellingen vormt echter het energieverbruik. Biologische evolutie heeft ons in zekere mate efficiënte organismen opgeleverd, die een mooi evenwicht vormen tussen de energie die nodig is, en de output. Een vogel vliegt vanuit energie-standpunt vrij efficiënt, veel efficiënter dan onze vliegtuigen. Misschien geldt hetzelfde wel voor het denken: om met hudige computers denkprocessen tot stand te brengen, hebben we misschien hoeveelheden energie nodig die we nu nog niet kunnen inschatten. De grote ingenieursvragen liggen dan misschien eerder in het ontrafelen van het energieverbruik van het menselijk brein, dan wel in de brute kracht nabootsing ervan. Ethische Perspectieven 24 (2014)3, p. 252

10 3. De ontwikkeling van software Het is uiteraard niet omdat we computers zullen kunnen bouwen die in staat zijn tot denkprocessen, dat deze computers vanzelf ook intelligent gedrag gaan vertonen. Het zal nog steeds nodig zijn om software voor dergelijke machines te ontwikkelen, die de werkelijke kern vormt van het gedrag dat computers zullen vertonen. De ontwikkeling van software lijkt op dit moment de zwakke schakel in het steeds snellere pad naar intelligente systemen. Het is immers onduidelijk of de methodologieën die we nu kennen voor software-ontwikkeling dezelfde tred kunnen volgen als die van hardwareontwikkeling. De ontwikkeling van nieuwe software is alleszins een traag verlopend proces. De ontwikkeling van intelligente software is het domein van het onderzoeksgebied dat bekend staat als Artificiële Intelligentie. Dit maakt deel uit van het bredere domein van de computerwetenschappen, en heeft een lange en rijke geschiedenis, die quasi samenvalt met de ontwikkeling van computers zelf. In de Artificiële Intelligentie zijn in de loop der jaren vele algoritmen en technieken ontwikkeld om specifieke problemen door computers te laten oplossen. Historisch waren dit vooral sterk omlijnde en gediscretiseerde problemen zoals we die bijvoorbeeld in denkspelletjes terugvinden. Tegenwoordig tracht men vooral systemen te ontwikkelen die zelf kunnen leren uit waarneembare feiten, of die binnen gesloten aannames bepaalde redeneringen op basis van bestaande kennis kunnen opbouwen. Technieken zoals zoekalgoritmen, genetische algoritmen, evolutionaire berekeningsmethoden, neurale netwerken, het gebruik van Markov- of Bayesiaanse modellen zijn veelbelovend om zelflerende en intelligente systemen te bouwen. Sommige van deze technieken bestaan reeds verschillende decennia en hebben hun nut bewezen, andere lijken op dit moment nog eerder exploratief. We lichten twee technieken de exploratie van zoekbomen en genetische algoritmen in meer detail toe. Exploratie aan de hand van zoekbomen De exploratie van zoekbomen is één van de oudste technieken om intelligent gedrag op een computer te programmeren, en vindt zijn oorsprong in de analyse van spelen als schaken, dammen of vier-op-een-rij. Deze spelen hebben immers karakteristieken die hen zeer goed geschikt maken om door computers (of beter: programma s die op computers lopen) te laten spelen. Laten we deze karakteristieken even bekijken: i. Ze zijn deterministisch, er komen geen toevalsfactoren zoals dobbelstenen aan te pas. Bovendien zijn de posities van de speelstukken voor beide spelers steeds bekend, er is geen verborgen of geheime informatie aanwezig in het spel. Ethische Perspectieven 24 (2014)3, p. 253

11 ii. Het spel wordt gekenmerkt door een zet-tegenzetmechanisme. Elke speler mag om de beurt een enkel speelstuk verplaatsen volgens vast omlijnde regels. iii. Er is een duidelijke voorwaarde om het spel te winnen, bijvoorbeeld door de koning van de tegenpartij te slaan. Stel dat de computer als eerste een schaakspel mag starten. Hij heeft de keuze uit twintig verschillende zetten (twee mogelijkheden met elke pion, en twee mogelijkheden met elk paard), maar het is onduidelijk welke zet de beste is, of welke zet tot een zekere overwinning zal leiden. We zouden echter voor elke openingszet, ook alle mogelijkheden van de tegenpartij in beschouwing kunnen nemen. Dat levert 20 x 20 (= 400) mogelijke openingsconfiguraties op. Voor elk van deze configuraties is opnieuw een zet van een speelstuk mogelijk, enzovoort. Alle zet-tegenzetcombinaties kunnen opgelijst worden in een gegevensstructuur die we een zoekboom noemen. Het is duidelijk dat het aantal mogelijke toestanden waarin het spel zich kan bevinden op die manier zeer snel toeneemt. Elke nieuwe spelsituatie geeft aanleiding tot nieuwe mogelijkheden. In principe is het mogelijk dat een computerprogramma al deze mogelijkheden onderzoekt, en op die manier de ideale zet bepaalt, door aan te nemen dat de tegenspeler ook telkens de voor hem beste zet zal kiezen. In praktijk is dit echter niet mogelijk wegens het grote aantal mogelijkheden. Daarom worden niet alle mogelijke combinaties overlopen, maar enkel de meest beloftevolle, en wordt een spel niet tot op het einde geanalyseerd, maar slechts een aantal zetten vooruit. Een heuristiek bepaalt vervolgens hoe voordelig de positie op het bord voor deze of gene speler waarschijnlijk zal uitdraaien. Dergelijke technieken zijn zeer succesvol gebleken voor het oplossen van sterk gereglementeerde, deterministische zoekproblemen. Genetische Algoritmen: een raamwerk voor zelflerende systemen Een veelbelovende manier om computerprogramma s zelf optimale oplossingen voor bepaalde problemen te laten ontdekken, of om een bepaald gedrag aan te leren, zit vervat in de idee van de genetische algoritmen. Deze vinden hun inspiratie in de biologische evolutie. Het principe van survival of the fittest leert ons dat door middel van natuurlijke selectie enkel de best aangepaste levensvormen zullen overleven in de natuur. Het zijn immers de best-aangepasten die het meeste kans maken om zich voort te planten. Opeenvolgende generaties zullen door kruising eigenschappen erven van hun (voor)ouders, en mutaties in de DNA-structuur zorgen ervoor dat nieuwe, kleine wijzigingen een kans krijgen. Op die manier evolueren biologische soorten. Ethische Perspectieven 24 (2014)3, p. 254

12 Hetzelfde principe van survival of the fittest kan worden toegepast op wiskundige modellen. De basis voor een genetisch algoritme wordt gevormd door het numeriek neerschrijven van een mogelijke oplossing voor een probleem in de vorm van een lijst van (numerieke) parameters. Deze lijst vormt als het ware het DNA van de mogelijke oplossing, die men dan kan manipuleren in opeenvolgende probleem-generaties. Een genetisch algoritme bestaat uit de volgende stappen: i. Genereer een willekeurige populatie van mogelijke oplossingsalgoritmen, die allemaal worden voorgesteld door een aantal numerieke parameters (het equivalent van een DNA-string). ii. Bepaal de aangepastheid van de oplossingsalgoritmen door elk van hen het probleem te laten oplossen. De aangepastheid kan er bijvoorbeeld in bestaan dat men meet hoe goed een oplossing voor het probleem bereikt wordt, of hoe snel een oplossing bereikt wordt. iii. Genereer een volgende iteratie een nieuwe populatie van mogelijke oplossingsalgoritmen, gebaseerd op de vorige generatie. Elke mogelijke oplossing kan gekozen worden als ouder, en dit met een hogere kans indien zijn gemeten aangepastheid groter is. Door kleine mutaties aan te brengen in het numerieke DNA brengt men kleine variaties aan op de geselecteerde oplossingen. iv. Na ettelijke generaties zal men (binnen bepaalde grenzen) geconvergeerd zijn naar een exact of zo ideaal mogelijk oplossingsalgoritme voor het probleem. Om dit enigszins concreter te maken, zullen we dit verduidelijken aan de hand van een sorteringsprobleem. Het sorteren van data vormt een basisblok in vele informatica-toepassingen. Denk maar aan het alfabetisch sorteren op naam, het sorteren van goedkoop naar duur, enzovoort. Algemeen kan men een sorteringsprobleem beschouwen als een verzameling getallen die moet worden gerangschikt van klein naar groot. Stel dat we een (willekeurige) verzameling van acht verschillende getallen wensen te sorteren. Indien onze verzameling bestaat uit de getallen [3, 12, -1, 9, 0, 100, 2, 20], willen we dat een sorteeralgoritme deze getallen sorteert zodat we de sequentie [-1, 0, 2, 3, 9, 12, 20, 100] krijgen. Het sorteren zal gebeuren door een opeenvolging van zogenaamde compare-and-swap operaties. Een compare-and-swap operatie zal twee getallen in de verzameling met elkaar vergelijken, en deze van plaats verwisselen indien ze niet in de juiste volgorde staan. Hiervoor moeten we elke positie in de verzameling een nummer geven: het eerste getal (in het voorbeeld hierboven het getal Ethische Perspectieven 24 (2014)3, p. 255

13 3 in de nog niet-gesorteerde verzameling) staat op positie 0, het laatste getal (het getal 20) staat op positie 7. Een compare-and-swap operatie wordt dan aangeduid door een koppel van posities, bijvoorbeeld (1,4). Dit betekent dat we het getal op positie 1 (met waarde 12) vergelijken met het getal op positie 4 (waarde 0). Vermits 0 kleiner is dan 12, zullen we de getallen onderling van plaats wisselen. Dit maakt dat de oorspronkelijke verzameling [3, 12, -1, 9, 0, 100, 2, 20] getransformeerd wordt in [3, 0, -1, 9, 12, 100, 2, 20]. Indien beide te vergelijken getallen onderling wel in de juiste volgorde zouden staan, vindt uiteraard geen omwisseling plaats. Een sorteeralgoritme kan nu voorgesteld worden door een lange sequentie van dergelijke compare-and-swap operaties. Als voorbeeld kunnen we de volgende sequentie gebruiken, die een verzameling van 4 getallen correct zal sorteren: (0,1) (1,2) (2,3) (0,1) (1,2) (0,1). Passen we deze sequentie toe op de verzameling [100, 10, 50, 40], dan zal de verzameling de volgende transformaties ondergaan (de te vergelijken elementen zijn telkens cursief weergegeven): [100, 10, 50, 40] [10, 100, 50, 40] [10, 50, 100, 40] [10, 50, 40, 100] [10, 50, 40, 100] [10, 40, 50, 100] [10, 40, 50, 100]. De sequentie (0,1) (1,2) (2,3) (0,1) (1,2) (0,1) kunnen we dan beschouwen als het DNA van deze oplossing voor het sorteerprobleem. Een dergelijke opeenvolging van compareand-swap operaties vormt de basis van vele, in de realiteit gebruikte sorteeralgoritmen. Om met een genetisch algoritme een sorteersequentie te bekomen, kunnen we nu te werk gaan als volgt; we volgen hierbij de stappen zoals ze hierboven zijn opgelijst, maar dan concreet ingevuld voor het sorteren van verzamelingen: i. Genereer een willekeurige populatie van sequenties, die elk een aantal compareand-swap operaties bevatten. Sommige sequenties bevatten slechts een enkele compare-and-swap operatie, anderen een groot aantal. Het is duidelijk dat als men dergelijke sequenties op willekeurige manier genereert (zowel wat aantal compare-and-swap operaties betreft, als de posities die erin voorkomen), geen van hen in staat zal zijn om een verzameling correct te sorteren. Dit is echter niet erg. We vertrouwen immers op het gentisch algoritme om uit deze genenpool een correcte oplossing te halen. ii. Bepaal de aangepastheid van elke individuele seqentie door elk van hen een groot aantal verzamelingen te laten sorteren. Aanvankelijk zal dit helemaal niet zo n goede resultaten opleveren, maar sommige zullen een perfecte sortering dichter benaderen dan anderen. Druk de mate waarin een sequentie kan sorteren uit als een getal, dat de aangepastheid weergeeft. Ethische Perspectieven 24 (2014)3, p. 256

14 iii. We genereren nu een volgende generatie van sequenties. Elk nieuw individu in deze nieuwe generatie heeft twee ouders, die we willekeurig kiezen uit de vorige generatie. Een ouder met een hogere aangepastheid, heeft meer kans om gekozen te worden.snij beide sequenties in twee, en stel een nieuw indivudu samen met een nieuwe sequentie van compare-and-swap operaties, die voor de helft uit de ene ouder komen, en voor de helft uit de andere. De onderliggende redenering is dat voor sequenties die het goed deden gedurende stap 2, we de genen zoveel mogelijk overbrengen in de volgende generatie. iv. Voor elk van de sequenties in de nieuwe generatie brengen we een kleine mutatie aan: een specifieke positie in een compare-and-swap operatie wordt gewijzigd, of de volledige sequentie wordt met één stap uitgebreid of ingekort. Deze stap zorgt ervoor dat we nieuwe genen in de populatie inbrengen. We kunnen er immers niet van uitgaan dat de oorspronkelijke eerste populatie alle nodige informatie bevat. v. Na ettelijke generaties zal er (hopelijk) een sequentie gegenereerd zijn die in staat is om volledige verzamelingen foutloos te sorteren. Deze aanpak om via een kwaliteitscriterium een genetisch algoritme zelf optimale oplossingen te laten bedenken, komt voor in allerhande toepassingen, gaande van het optimaal plannen van taken, tot het ontwerpen van de ideale vorm van een voertuig met betrekking tot luchtweerstand. Het lijkt alsof het algoritme uiteindelijk een intelligente oplossing bedacht heeft, maar het heeft dit in zekere zin enkel verwezenlijkt door een massale trial-and-error methodiek. Dit is wat de natuur in principe ook doet. Veelbelovend is dat men deze aanpak ook kan gebruiken voor zelflerende systemen. Door vele strategieën uit te proberen, en deze telkens lichtjes aan te passen, slaagt een systeem er vroeg of laat in zich een bepaalde taak eigen te maken. Vaak komt men tot oplossingen die mensen niet hadden kunnen bedenken. Een nadeel is dat een genetisch algoritme wel kan resulteren in een oplossingsstrategie voor een specifiek probleem, maar dan ook enkel voor dát probleem. Het is zeker geen algemene manier om zich aan te passen aan een veranderende omgeving. Bovendien moet men de vergelijking met biologische evolutie ook niet té ver drijven. Biologische levensvormen passen zich aan om te overleven, terwijl een computeralgoritme geen innerlijke drijfveren heeft om zichzelf te verbeteren. Ethische Perspectieven 24 (2014)3, p. 257

15 4. Kritiek op de idee van de singulariteit Er bestaat ook grote scepsis rondom de idee van de technologische singulariteit. Dit is te verwachten, omdat er vrij futuristische scenario s worden geschetst waarin er binnen enkele decennia denkende machines mogelijk zouden zijn. We formuleren hier enkele punten van kritiek. Een weerkerende tegenargumentatie trekt de steeds snellere ontwikkeling van technologie zelf in twijfel, en raakt daarmee aan één van de basisveronderstellingen van de technologische singulariteit. Het gaat daarbij minder om het feit of de datapunten waarop de trend van exponentiële groei is gebaseerd fouten of onjuistheden bevat, dan wel of de exponentiële groei zelf vol te houden is. Belemmerende factoren kunnen van technische aard zijn (er zijn nu eenmaal limieten aan wat men met bijvoorbeeld micro-electronica kan bereiken), maar ook van sociale of economische aard. Het zou kunnen dat de samenleving wettelijke beperkingen stelt op de verdere ontwikkeling of verspreiding van superintelligente systemen, zoals die bijvoorbeeld ook gelden voor wapentechnologie. Economische argumenten focussen eerder op het energieverbruik van dergelijke systemen, alhoewel de trends erop lijken te wijzen dat computers tot steeds meer in staat zijn met een relatief lager energieverbruik (het absolute energieverbruik stijgt weliswaar nog steeds). Een ander punt van kritiek komt uit de theoretische informatica. Wiskundigen zoals Turing, Church en Gödel hebben in de jaren dertig en veertig van de vorige eeuw een aantal fundamentele uitspraken over berekenbare processen kunnen maken. Door de definitie van de universele Turing-machine als abstract model voor berekenbaarheid (berekenbaarheid moet hier als een zeer algemeen concept beschouwd worden, namelijk elk proces dat kan gemodeleerd worden door de manipulatie van symbolen of tekens), is gebleken dat men problemen kan definiëren die wel een oplossing hebben, maar niet berekenbaar zijn op een universele Turing-machine. Omdat een Turing-machine een algemeen model is voor een digitale computer, beweren sommigen dat een computer daarom niet alle soorten problemen aankan, en nooit de menselijke intelligentie zal kunnen evenaren. Deze argumentatie negeert echter de mogelijkheid dat het menselijk brein dergelijk onberekenbare processen ook niet kan oplossen, met andere woorden, dat het menselijk denken dezelfde limieten kent als de universele Turing-machine. Dieperliggend schuilt hierin de vraag of het menselijk brein kan gemodeleerd worden door een Turingmachine. Indien het antwoord hierop ja is, dan is er geen enkele reden waarom een computer niet alle denkprocessen zou kunnen simuleren die het menselijk brein aankan. Ethische Perspectieven 24 (2014)3, p. 258

16 Een laatste punt van kritiek dat dikwijls aangehaald wordt om de mogelijkheid van superintelligente machines te betwisten, is de stelling dat denken als activiteit meer vraagt dan enkel een fysisch werkend substraat zoals organische hersenmassa, en dat denken als activiteit in zekere zin uniek is voor de mens. Dit is mijn insziens eerder een geloofsbelijdenis dan een wetenschappelijk argument. Het is waar dat we nog niet hebben kunnen achterhalen hoe uit de werking van een groot aantal individuele neuronen denken kan ontstaan, maar het kan niet anders zijn dat denken een gevolg is van de fysische werking van dit network van neuronen. Er is niet zoiets als een extra buiten-fysisch element dat het denken definieert (zie de discussies over de aard van de menselijke ziel). Daarom lijkt het aannemelijk dat een proces dat kan ontstaan in een biologisch substraat (in casu het menselijk brein), evengoed zou kunnen ontstaan in een ander substraat, zoals de hardware of software van een computer. Men kan echter wel naar voor schuiven dat denken een doelstelling moet hebben, en dat een brein zonder lichaam zinloos is. De oorsprong van de denk-activiteit ligt namelijk in de noodzaak het lichaam te voeden en te onderhouden. Zal een artificieel brein dat tot denken in staat is, ook werkelijk complexe denkprocessen tot stand brengen, zonder een overlevingsnoodzaak? Wat zou de incentieve kunnen zijn? Misschien zou een dergelijk artificieel brein genoegen kunnen nemen met helemaal niets te doen, of gewoon zich onledig houden met het oplossen van sudoku s? 5. Bedenkingen en toekomstscenarios Een bedenking die telkens terugkeert wanneer de mogelijkheid van denkende machines geopperd wordt, is de mogelijkheid van machine-zelfbewustzijn. We associëren menselijk denken zo sterk met zelfbewustzijn, dat de twee haast onafscheidelijk lijken: cogito ergo sum. Samen met zelfbewustzijn stelt zich ook de vraag of machines emoties kunnen ontwikkelen. De gedachte aan machines die zelfbewustzijn bezitten of emoties kunnen uiten lijkt absurd. Vanuit een reductionistische kijk is het echter zo dat zelfbewustzijn ook slechts een gevolg is van fysische en chemische processen, en dat natuurlijke evolutie het zelfbewustzijn heeft voortgebracht. Vanuit die optiek lijken er dan ook geen redenen te zijn waarom een machine ook geen zelfbewustzijn zou kunnen ontwikkelen, of dat wij misschien zelfs computerprogramma s schrijven die zelfbewustzijn impliceren. Uiteraard rijst de weerkerende vraag: zou dit dan een simulatie zijn van zelfbewustzijn, of werkelijk zelfbewustzijn? Ethische Perspectieven 24 (2014)3, p. 259

17 Men kan stellen dat de vrees of angst die vaak samenhangt met de idee van zelfbewuste machines en die handig uitgebuit wordt door science-fictionliteratuur gelijkaardig is aan de commotie die ontstond gedurende vorige revoluties in de wetenschap, die de mens van zijn centrale plaats in het wereldbeeld stootten: de Copernicaanse revolutie waarbij de aarde niet langer centrum van het universum was; de evolutieleer waarin de mens niet langer als het centrum van de schepping beschouwd wordt. De demystificatie van het zelfbewustzijn en de denkende mens kan wel eens de volgende, en misschien ultieme stap zijn. Indien technologische singulariteit werkelijkheid wordt, welk gevolg heeft dit dan voor de mensheid? David Chalmers opperde verschillende scenarios, waaronder uitroeiing van de menselijke sort door de superieure intelligentie; isolatie van de digitiale intelligentie in zogenaamde digitale reservaten; of misschien wel integratie van beide soorten intelligentie. Dit laatste lijkt de meest voor de hand liggende optie. Immers, het zijn wij als mensen zelf die dergelijke machines aanvankelijk zullen ontwikkelen, en we zullen dus een zeer grote invloed hebben op de manier waarop dergelijke processen zullen geïntegreerd worden. Ideeën waarbij een niet-biologische intelligentie gekoppeld wordt aan onze eigen biologische intelligentie (gegeven dat we het interface probleem kunnen oplossen) lijken zeer aantrekkelijk, en kunnen leiden tot transhumanisme. Hebben we de biologische mens trouwens al niet getransformeerd met allerlei mechanische hulpmiddelen en implantaten? Het betekent dat de superintelligentie van de toekomst niet een of andere vreemde kwaadaardige levensvorm is, maar dat het onze eigen nakomelingen zullen zijn. De superintelligentie is eenvoudigweg de toekomst van de mensheid en het mesenlijk denken zelf. Literatuur David J. CHALMERS, The Singularity: A Philosophical Approach. Journal of Consciousness Studies 17 (2010), pp John HOLLAND, Adaptation in Natural and Artificial Systems: An Introductory Analysis with Applications to Biology, Control, and Artificial Intelligence. Cambridge: MIT Press/A Bradford Book, Ray KURZWEIL, The Singularity is Near. London: Duckworth: Overlook, Ray KURZWEIL, Age of Spritual Machines. New York: Viking Press, Hans MORAVEC, Mind Children: The Future of Robot and Human Intelligence. Harvard: Harvard University Press, Stuart RUSSEL & Peter NORVIG, Artificial Intelligence: A modern approach (3 rd edition). New Jersey: Prentice Hall, Ethische Perspectieven 24 (2014)3, p. 260

18 Noten 1. Deze tekst werd met kleine wijzigingen en aanvullingen door de auteur hernomen uit zijn bijdragen aan de reeks Lessen voor de eenentwintigste eeuw. Die bijdrage verscheen onlangs onder de titel Worden computers zelfstandig? Over de technologische singulariteit in de bundel Herdenken en vooruitgaan. Lessen voor de eenentwintigste eeuw, onder redactie van Bart PATTYN en Pieter D HOINE. Leuven: Universitaire Pers Leuven, 2014, pp Edsger W. DIJKSTRA, The threats to computing science, keynote address ACM conference, Austin (Texas), November, Ethische Perspectieven 24 (2014)3, p. 261