De technologische singulariteit. Philip Dutré, Dept. Computerwetenschappen, KU Leuven

Transcriptie

1 De technologische singulariteit Philip Dutré, Dept. Computerwetenschappen, KU Leuven 1

2 De technologische singulariteit? het tijdstip waarop machines (computers) intelligenter worden dan mensen 2

3 De technologische singulariteit? het tijdstip waarop machines (computers) intelligenter worden dan mensen 3

4 De technologische singulariteit? Idee 1: Intelligence Explosion Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an intelligence explosion, and the intelligence of man would be left far behind. Thus the first ultraintelligent machine is the last invention that man need ever make. (I.J. Good, 1965 Speculations Concerning the First Ultraintelligent Machines ) 4

5 De technologische singulariteit? Idee 2: Speed Explosion Steeds sneller wordende technologische vooruitgang Meest bekende voorbeeld: Moore s Law 5

6 Sinds wanneer? ever accelerating progress of technology and changes in the mode of human life, which gives the appearance of approaching some essential singularity in the history of the race beyond which human affairs, as we know them, could not continue. (John von Neumann 1950s) Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended. (The Coming Singularity, VernorVinge, 1993) robots of 2040 are our evolutionary heirs children of our minds. (Hans Moravec, 1999) The Singularity is Near (Ray Kurzweil, 2005) 6

7 The Singularity is ondertussen mainstream 7

8 Steeds snellere vooruitgang (Accelerating Change) Lineaire vs. exponentiële groei 8 (The Singularity is Near, 2005)

9 Steeds snellere vooruitgang (Accelerating Change) X 10 X 10 X 10 X

10 Steeds snellere vooruitgang (Accelerating Change) Schaken 1990: G.Kasparov lacht met computers 2000: Deep Blue verslaat G.Kasparov Internet 1980: onbetekenend 2010: kunnen we nog zonder? Human Genome decodering 1990: schatting 100 jaar In 15 jaar klus geklaard 10

11 Countdown to Singularity: Paradigm Shifts 11 (The Singularity is Near, 2005)

12 Countdown to Singularity: Paradigm Shifts 12 (The Singularity is Near, 2005)

13 Countdown to Singularity: Paradigm Shifts 13 (The Singularity is Near, 2005)

14 Time before present (years) Time to next event (years) First humans Widespread use of stone tools Domestication of fire by Peking man Beginning of most recent glacial period Seafarers settle Australia Extensive cave painting in Europe Invention of agriculture Neolithic civilization; first cities First dynasties in Summer, Ebla, and Egypt; development of astronomy Invention of the alphabet; Akkadian Empire Hammurabic legal codes in Babylon; Middle Kingdom in Egypt Bronze metallurgy; Mycenaean culture; Trojan War; Olmec culture; invention of the compass Iron metallurgy; First Assyrian Empire; Kingdom of Israel; founding of Carthage by Phoenicia Asokan India; Ch'in Dynasty China; Periclean Athens; birth of Buddha Euclidian geometry; Archimedean physics; Ptolemaic astronomy; Roman Empire; Zero and decimals invented in Indian arithmetic; Rome falls; Moslem conquests Mayan civilization; Sung Dynasty China; Byzantine empire; Mongol invasion; crusades Renaissance in Europe; voyages of discovery from Europe and from Ming Dynasty China; emergence of the experimental method in science Widespread development of science and technology; emergence of global culture; acquisition of the means of self-destruction of the human species; first steps in space craft 14planetary exploration and the search of extraterrestrial intelligence (singularity.com)

15 15 (The Singularity is Near, 2005)

16 Hardware evolutie 16 (The Singularity is Near, 2005)

17 Hardware evolutie 17 (The Singularity is Near, 2005)

18 Hardware evolutie 18 (The Singularity is Near, 2005)

19 Hardware evolutie 19 (the.economist.com 2006)

20 Kan deze exponenti:ele groei blijven doorgaan? Nieuwe technolgie i.p.v. huidige transistoren/chips 3D Nanotube circuitry Molecular computing DNA computing Spintronics Quantum Computing Light Computing 20

21 Wanneer evenaren we het brein? Welke rekencapaciteit heeft het menselijk brein? Schattingen via meting van #signalen bij visuele / auditieve verwerking: cps Geheugen: bits Huidige PCs: cps Schatting: in 2025 (indien Moore s law het volhoudt ) RAM-geheugen: Schatting: in : machines die qua capaciteit het menselijk brein evenaren 2050: machines die qua capaciteit het menselijk ras evenaren 21

22 Wat met software? Software = minst snelle schakel in deze evolutie Kunnen we software maken die een machine laat denken? Software geïnspireerd door niet noodzakelijk imitatie. The question of whether Machines Can Think... is about as relevant as the question of whether Submarines Can Swim. Edsger Dijkstra, Domein van Artificial Intelligence Efficiëntere algoritmen / Slimme exploratie / Neurale Netwerken / Zelflerende systemen / Zelforganiserende systemen / Genetische algoritmen / Markov-chain / Bayesiaanse methoden

23 Slimme exploratie (zoekalgoritmen) Deterministische spelletjes zoals schaken typisch voorbeeld (1972) (2013) 23 (1997)

24 Slimme exploratie (zoekalgoritmen) 24 (Russel & Norvig, AI: A Modern Approach)

25 Slimme exploratie (zoekalgoritmen) Zoekruimte beperken door: Symmetrieën Equivalenties Eerder bezochte gevallen 25 (Russel & Norvig, AI: A Modern Approach)

26 Slimme exploratie (zoekalgoritmen) Indien niet tot einde kan doorgerekend worden: Heuristiek die een bordpositie beoordeeld In 2-speler spel, afwisselend minimum en maximum kiezen 26 (Russel & Norvig, AI: A Modern Approach)

27 Slimme exploratie (zoekalgoritmen) Optimiseren Niet-belovende takken niet doorlopen 27 (Russel & Norvig, AI: A Modern Approach)

28 Slimme exploratie (zoekalgoritmen) Indien niet tot einde kan doorgerekend worden: Heuristiek die een bordpositie beoordeeld 28

29 Slimme exploratie (zoekalgoritmen) Indien zoekboom niet tot einde kan doorlopen worden Patronen herkennen Bvb. eindspelen in schaken [Toren + Pion] vs. [Toren] 2012: alle mogelijke eindspelen t.e.m. 7 stukken geanalyseerd Is de computer intelligent, omdat hij kan schaken? Schaken verwordt van intelligente activiteit tot amusant spelletje 29

30 Genetische algoritmen Geïnspireerd op biologische evolutie Informatie: DNA // algoritmische parameters Fitheid: overleven levensvorm // prestatie algoritme Mutatie: wijziging gen // wijziging parameters Voortplanting: meest succesvolle oplossing heeft meeste kans op voortplanting 30

31 Genetische algoritmen: voorbeeld Sorteeralgoritmen: Gegeven een verzameling getallen ( ), sorteer van groot naar klein. Fundamentele operatie in vele informatica-toepassingen

32 Genetische algoritmen: voorbeeld Basisoperatie: vergelijk 2 elementen met elkaar, en verwissel van positie indien niet in juiste volgorde swap(2,5)

33 Genetische algoritmen: voorbeeld Volledig sorteeralgoritme: sequentie van dergelijke swaps: (1,5) (0,7) (3,4) (2,1) (8,2). DNA-string van het algoritme Er zijn meerdere oplossingen mogelijk Voor een rij van 4 elementen: (0,1) (1,2) (2,3) (0,1) (1,2) (0,1) (Hoeveel van dergelijke swaps heb je minimaal nodig om een willekeurige rij te kunnen sorteren?) 33

34 Genetische algoritmen: voorbeeld 1. Genereer populatie van willekeurige DNA-strings: (1,5) (0,7) (3,4) (2,1) (8,2). (4,5) (2,3) (1,2) (2,3) (3,4) (4, 5) (5, 6) (15, 16) 2. Meet de fitheid van elk individu: Test elk individu op een willekeurige groep te sorteren verzamelingen Ga na in hoeverre elke verzameling gesorteerd is Druk dit uit in een fitheidsschaal 34

35 Genetische algoritmen: voorbeeld 4. Genereer de volgende populatie: Kies de beste individuen Willekeurige mutaties: (1,5) (0,7) (3,4) (2,1). (4,5) (1,5) (0,7) (2,4) (2,1). (4,5) Cross-overs: (1,5) (0,7) (2,4) (2,1). (4,5) & (1,2) (2,3) (3,4) (4, 5) (5, 6) (15, 16) (1,5) (0,7) (2,4) (4, 5) (5, 6) (15, 16) 5. Herhaal 6. Na zeer vele generaties: optimale sorteeralgoritme? 35

36 Genetische algoritmen: voorbeeld 36

37 Genetische Algoritmen: Evolved Virtual Creatures Karl Sims Virtual Creatures (1994) 37

38 Andere toepassingen: Learning Kismet, MIT AI Lab 38

39 Andere toepassingen: Drones Amazon Prime Air (2013) University Southern California Computational Learning & Motion Control Lab 39

40 Andere toepassingen: Linking multiple databases 3D Wikipedia, Intel, University of Washington 40

41 Andere toepassingen: Watson 41

42 Kritiek op idee van de singulariteit Exponentiële groei is overschat Data-punten zijn te optimistisch gekozen Accelerating change niet vol te houden, zal afzwakken Technisch, economisch, politiek, klimaat, 42

43 Kritiek op idee van de singulariteit Church-Turing Hypothese 1936: Alan Turing publiceert model van de Turing-Machine (TM = model voor berekenbaarheid) Er zijn problemen die NIET kunnen berekend worden op een TM (Turing, Church, Gödel) Church-Turing Hypothese: Een functie die berekenbaar is, kan uitgevoerd worden op een Turing-Machine (en omgekeerd). Is het menselijk brein equivalent aan een Turing-machine? 43

44 Kritiek op idee van de singulariteit Regulatie Singulariteit zal er niet komen (indien ze gevaren inhoudt), omdat beleidskeuzes dit zullen verhinderen. 44

45 Zelfbewustzijn? Als een machine (computer) intelligent is, heeft de macine dan ook zelfbewustzijn? Vermits zelfbewustzijn voortkomt uit fysische processen, geen reden om aan te nemen dat dit beperkt is tot biologische processen. Vanuit technologisch standpunt, een weinig zinnige vraag? Legale implicaties? 45

46 De toekomst Hoe zal de (eventuele) singulariteit zich manifesteren? Vernor Vinge: The development of computers that are "awake" and superhumanly intelligent. Large computer networks (and their associated users) may "wake up" as a superhumanly intelligent entity. Computer/human interfaces may become so intimate that users may reasonably be considered superhumanly intelligent. Biological science may find ways to improve upon the natural human intellect. 46

47 De toekomst David Chalmers: Wat is de plaats van de mens in dergelijk scenario? Extinction Isolation Inferiority Integration 47

48 Heden Veranderingen gebeuren reeds Denkpatronen Vertalingen Auto-grading Medische analyses Search Engines 48

49 Heden Veranderingen gebeuren reeds Denkpatronen Vertalingen Auto-grading Medische analyses Search Engines [ ] notes that IQ scores rose during the decades of TVs and transistor radios. But that rise, which began in the early 1900s, is largely attributable to gains in visual acuity and abstract problem-solving. Measures of other components of intelligence, including verbal skill, vocabulary, basic arithmetic, memorization, critical reading, and general knowledge, have been stagnant or declining. [...] We re training ourselves, through repetition, to be facile skimmers and messageprocessors important skills, no doubt but, perpetually distracted, we re not learning the quieter, more attentive modes of thought: contemplation, reflection, introspection, deep reading. 49

50 Heden Veranderingen gebeuren reeds Denkpatronen Vertalingen Auto-grading Medische analyses EdX, a nonprofit enterprise founded by Harvard and the Massachusetts Institute of Technology, will release automated software that uses artificial intelligence to grade student essays and short written answers. Search Engines 50

51 Besluit De technologische singulariteit Snelheidsexplosie Intelligentie-explosie Zal een geleidelijke evolutie zijn, eerder dan big bang Software lijkt de meest kritische component Utopie / Dystopie / Futurisme / Onmogelijk? Als er superintelligentie zal ontstaan, zal het wel onze superintelligentie zijn. 51