Informatica. Deel II&III: les 7. AI linked lists - chips. Jan Lemeire Informatica deel II februari mei Parallel Systems: Introduction

Transcriptie

1 Informatica Deel II&III: les 7 AI linked lists - chips Jan Lemeire Informatica deel II februari mei 2015 Parallel Systems: Introduction

2 Hoofdstuk 9: Artificiële intelligentie Jan Lemeire Pag. 2 / 77

3 Waarmaken van Leibniz s droom (9) Artificiële intelligentie (8) Communicatie & internet (7) Operating system (6) Computatietheorie & Software (5) Efficiënt productieproces (4) Hardware architectuur Elektronica: (2) relais -schakeling, (3)geheugen (1) Digitaal & binair (0) Het idee Informatica deel III: technologie, historiek en economische aspecten

4 Artificiële Intelligentie, de grote uitdaging

5 Wanneer spreken we over intelligentie? Er is verschil tussen slimme algoritmen en intelligentie! Type A: Patronen herkennen Type B: Symbolisch = tekens die een betekenis (semantiek) hebben begrijpen is noodzakelijk voor intelligentie Jan Lemeire Pag. 6 / 77

6 AI: Type (A) toepassingen Stemherkenning Wat je zegt lukt redelijk momenteel maar herkennen wie spreekt, kan computer niet Spreken met de computer, zullen we het ooit? willen we het? Objectherkenning Vbn: security, gezichtsherkenning in facebook, verkeersbordherkenning, nummerplaatherkenning bij ingang VUB Echter moeilijk bij slecht weer, donkerte, Spel: patronen bepalen strategie/tactiek Computer = brute force, niet het gebruiken van patronen Jan Lemeire Pag. 7 / 77

7 Verkeersbordherkenning

8 INPUT OUTPUT Verkeersbordherkenning Met een neuraal netwerk (gebaseerd op hoe hersens werken) Code van verkeersbord Jan Lemeire Pag. 9 / 77

9 AI: type (B) toepassingen Google search Ask Jeeves: je kan vragen stellen Vertalingen: hoe goed/slecht is Google Translate? Consumentenprofiel adhv historische egevens Grootwarenhuizen Facebook, google: aangepaste reclame Is dit al intelligent?? Jan Lemeire Pag. 10 / 77

10 Internet 3.0: het semantische web Internet 1.0: door informatie browsen Internet 2.0: interactiviteit, gebruiker die informatie uploadt Internet 3.0: een web van verbanden tussen informatie op het internet => semantische pagina s Een overzicht van alle staatshoofden van Europa kan alleen beantwoord worden als er een webpagina over bestaat. Ipv enkel informatie, ook inhoud (semantiek - betekenis) datasets combineren en er informatie uithalen Begrijpen heeft te maken met semantiek, een droom voor het volgende internet. Zijn we daar kortbij? Ik vrees van niet. Jan Lemeire Pag. 11 / 77

11 De uitvinder van het internet 1989: maakte de eerste webserver en browser 1999: dacht verder: Tim Berners-Lee I have a dream for the Web [in which computers] become capable of analyzing all the data on the Web the content, links, and transactions between people and computers. A Semantic Web, which should make this possible, has yet to emerge, but when it does, the dayto-day mechanisms of trade, bureaucracy and our daily lives will be handled by machines talking to machines. The intelligent agents people have touted for ages will finally materialize. Jan Lemeire Pag. 12 / 77

12 Wanneer spreken we over intelligentie? Er is een verschil tussen slimme algoritmen en intelligentie! Veel van wat we intelligent noemen is in feite slechts gebaseerd op een goed doordacht algoritme Het leeralgoritme van Google Deepmind heeft veel tijd nodig om te leren en kan de resultaten niet extrapoleren van 1 spel naar een ander. Intelligentie heeft, volgens mij, te maken met begrijpen Jan Lemeire Pag. 13 / 77

13 Niet in cursus Wat is intelligentie? Marvin Minsky Founding father of AI Ontdekker van artificiële neurale netwerken The Society of Mind theory. Marvin Minsky Intelligentie ontstaat uit het samenvoegen van vele domme building blocks die elk iets kunnen. Het geheel is intelligent. Jan Lemeire Pag. 16 / 77

14 Wat is intelligentie? Informatie Redeneren Begrijpen Wikipedia: abstract thought, understanding, self-awareness, communication, reasoning, learning, having emotional knowledge, retaining, planning, and problem solving. Taal (noodzakelijk?) Verschil tussen slimme algoritmen en intelligentie! Er is nog geen eenduidige definitie van intelligentie! Jan Lemeire Pag. 17 / 77

15 Turing Test (1950) 'Can machines think? Artificiële intelligentie Kunnen we verschil maken tussen mens en computer? Computer Mens Alan Turing Omdat er geen duidelijke definitie bestaat over wat intelligentie inhoudt en wij als mens prototype zijn van intelligentie, bedacht Turing een test. Door vragen te stellen tracht je te ontdekken of er achter het scherm een computer of mens Informatica bevindt. II: les 7Als we geen verschil meer kunnen maken, kunnen we de Jan Lemeire Pag. 18 / 77 computer intelligent noemen.

16 Turing test Je kan je intelligent programma opladen dollar als je programma slaagt voor de Turing test Communiceer je met een computer of met een mens? Jan Lemeire Pag. 19 / 77

17 Turing test for bots The idea is to evaluate how we can make game bots, which are Non-Player Characters (NPCs) controlled by AI algorithms, appear as human as possible. Unreal Tournament 2004 (results) tournament against one another and about an equal number of humans tag opponents as human or bot. Jan Lemeire Pag. 20 / 77

18 Jan Lemeire Pag. 21 / 77

19 Piet Vroon Drie soorten hersens Instinct (Hersenstam/hypothalamus - reptielenherses) Conditionering (Limbisch systeem - zoogdierenbrein) Intelligentie (Neocortex meest recente hersens) 1 miljoen jaar geleden: evolutionaire sprong (vuur werktuigen) jaar geleden: finale evolutionaire sprong (taal?) Geest is federatie van delen Daden gevolg van combinatie 3 hersens 1990 Jan Lemeire Pag. 22 / 77

20 Volgens mij Met een graduele verbetering van de huidige technieken komen we er niet Echte ontdekking moet nog gebeuren Hoe we informatie opslaan/verwerken/gebruiken Natuurlijke taal? Wie is het genie die dit gaat ontdekken? Mijn drijfveer om informatica te gaan doen Jan Lemeire Pag. 23 / 77

21 Conclusie voor ingenieur Er is gespecialiseerd onderzoek naar A.I. Maar meestal is engineering nog noodzakelijk Meestal zijn simpele, slimme oplossingen even goed Zware A.I.-technieken nog weinig in gebruik, nog niet voor meteen Gebruik je intelligentie en ingenioziteit om adequate oplossing te vinden Jan Lemeire Pag. 24 / 77

22 Vandaag 1. AI 2. Gelinkte lijsten 3. Binaire bomen 4. Productieproces

23 Gelinkte lijst Linked list

24 Jan Lemeire Pag. 28 / 77

25 p. 86 Linked List Flexibel toevoegen en verwijderen J A V A Jan Lemeire Pag. 29 / 77

26 Niet in cursus Geheugengebruik Array J A V A Linked List J A V A Geordend in t begin Door elkaar na enkele veranderingen J A V A 8 N J A V A 8 N A B Jan Lemeire Pag. 30 / 77

27 public class LinkedList <T> { class Link<T>{ T data; Link<T> next; } Link(T data){ this.data = data; this.next = null; } Link(T data, Link<T> next){ this.data = data; this.next = next; } } Link<T> first; public LinkedList(){ first = null; } Jan Lemeire Pag. 31 / 77

28 Java s LinkedList Constructor Summary LinkedList() Constructs an empty list. LinkedList(Collection<? extends E> c) Constructs a list containing the elements of the specified collection, in the order they are returned by the collection's iterator. Method Summary boolean add(e e) Appends the specified element to the end of this list. Jan Lemeire Pag. 32 / 77

29 Toevoegen van een bepaald element aan het einde public void append(t data){ Link<T> el = new Link<T>(data); if (first == null){ first = el; } else { // zoek laatste link Link<T> last = first; while (last.next!= null) last = last.next; last.next = el; } } Jan Lemeire Pag. 33 / 77

30 Printen van lijst public String tostring(){ Link<T> link = first; String str = "["; boolean eerste = true; while (link!= null){ if (eerste) eerste = false; else str+=", "; str += link.data; link = link.next; // ga naar volgende } str+="]"; return str; } Jan Lemeire Pag. 34 / 77

31 Vinden van een bepaald element public T get(int index){ int i=0; Link<T> link = first; while (link!= null && i < index){ link = link.next; i++; } if (link == null) return null; else return link.data; } Nadeel: heel de lijst moet doorlopen worden Bij arrays kan je onmiddelijk naar de index springen! Jan Lemeire Pag. 35 / 77

32 Vinden van het i de element Niet in cursus Array = beginvakje + i Linked List J A V A J A V A Je bent niet zeker van waar het zich bevindt J A V A 8 N J A V A 8 N A B Jan Lemeire Pag. 36 / 77

33 Inlassen van een element p. 91 public void insert(t data, int index){ Link<T> newlink = new Link<T>(data); if (index == 0){ // wordt eerste element newlink.next = first; first = newlink; } else { int i=0; Link<T> link = first; while (link!= null && i < index - 1){ link = link.next; i++; } if (link == null) throw new IllegalArgumentException("Insert at "+index+" impossible; list has only "+(i+1)+" elements."); newlink.next = link.next; link.next = newlink; } } Jan Lemeire Pag. 37 / 77

34 Inlassen van een element Jan Lemeire Pag. 38 / 77

35 p. 92 Verwijderen van een element public void remove(int index){ if (index == 0){ if (first == null) throw new IllegalArgumentException("Removal of first element impossible; list has no elements."); first = first.next; } else { int i=0; Link<T> link = first; while (link!= null && i < index - 1){ link = link.next; i++; } if (link == null link.next == null) throw new IllegalArgumentException("Removal of element "+index+" impossible; list has only "+(i+1)+" elements."); link.next = link.next.next; } } Jan Lemeire Pag. 39 / 77

36 Verwijderen van een element link first J A V N A Jan Lemeire Pag. 40 / 77

37 Dubbele gelinkte lijst DoubleLinkedList first current last J A V A Voordelen: einde gemakkelijk te vinden houdt huidige positie bij Toepassing: word Jan Lemeire Pag. 41 / 77

38 Bomen

39 p. 95 Bomen (hoofdstuk 7) Arrays: basis ArrayList: flexibele grootte van array Linked Lists: flexibel toevoegen en verwijderen van elementen Maar: doorlopen van lijst is traag (bvb zoeken van element) Nodig: flexibele structuur om elementen in op te zoeken Jan Lemeire Pag. 43 / 77

40 Binaire boom Jan Lemeire Pag. 44 / 77

41 Alle mogelijkheden afgaan = aanmaken boom (les 7) Hfst 5 Initial UP LEFT UP LEFT DOWN UP LEFT RIGHT Oplossing puzzel zoeken LEFT DOWN DOWN LEFT RIGHT Jan Lemeire Pag. 45 / Geen binaire boom, kan meer of minder takken hebben

42 p. 96 Geordende binaire boom Zoeken kan snel Flexibel: toevoegen & verwijderen Jan Lemeire Pag. 46 / 77

43 Elke node is een object class Node<T>{ T data; Node<T> left, right; } Node(T data){ this.data = data; this.left = null; this.right = null; } Jan Lemeire Pag. 47 / 77

44 Boom object public class BinaryTree<T> { Node<T> root; Comparator<T> comparator; } public BinaryTree(Comparator<T> comparator){ this.comparator = comparator; root = null; } Jan Lemeire Pag. 48 / 77

45 Definiëren van ordening java.util Interface Comparator<T> Method Summary boolean int compare(t o1, T o2) Compares its two arguments for order. Returns a negative integer, zero, or a positive integer as the first argument is less than, equal to, or greater than the second. equals(object obj) Indicates whether some other object is "equal to" this comparator. Jan Lemeire Pag. 49 / 77

46 Voorbeeld comparator public class Student implements Comparable<Student>{ String voornaam, naam; int rolnummer, score; Vak[] vakken; int[] punten; Student(String voornaam, String naam, int rolnummer){ this.voornaam=voornaam; this.naam=naam; this.rolnummer=rolnummer; vakken = new Vak[4]; public int compareto(student student2) { int ordenaam = this.naam.compareto(student2.naam); if (ordenaam == 0) // beide dezelfde naam return this.voornaam.compareto(student2.voornaam); else return ordenaam; } Jan Lemeire Pag. 50 / 77

47 p. 98 IntegerComparator class IntegerComparator implements Comparator<Integer> public int compare(integer val1, Integer val2) { return val1 - val2; } } Jan Lemeire Pag. 51 / 77

48 Aanmaken van boom IntegerComparator comparator = new IntegerComparator(); BinaryTree<Integer> tree = new BinaryTree<Integer>(comparator); korter: BinaryTree<Integer> tree = new BinaryTree<Integer>(new IntegerComparator()); Jan Lemeire Pag. 52 / 77

49 Nog korter: via anonymous class BinaryTree<Integer> tree = new BinaryTree<Integer>( new Comparator<Integer>() public int compare(integer val1, Integer val2) { return val1 - val2; } } ); Jan Lemeire Pag. 53 / 77

50 Operaties op bomen

51 Belangrijke operaties 7.2 Toevoegen element 7.3 Zoeken element 7.5 Verwijderen element 7.6 Doorlopen van boom (bvb printen) 7.7 Balanceren van de boom Jan Lemeire Pag. 55 / 77

52 Recursie zonder recursie? Staartrecursie 1 recursieve oproep Kan ook geprogrammeerd worden met een while Boomrecursie Meer dan 1 recursieve oproep (vb fibonacci) Is minder evident om zonder recursie te programmeren, bij Mergesort zien we hoe dit kan. Aanpak zoals bij breadthfirst search. Jan Lemeire Pag. 56 / 77

53 p Toevoegen element public void add(t object){ Node<T> newnode = new Node<T>(object); if (root == null) root = newnode; else add(root, newnode); } private void add(node<t> current, Node<T> newnode){ if (comparator.compare(newnode.data, current.data) < 0){ // moet links komen if (current.left == null) current.left = newnode; else add(current.left, newnode); } else { // rechts if (current.right == null) current.right = newnode; else add(current.right, newnode); } } Jan Lemeire Pag. 57 / 77

54 Volgorde van toevoegen bepaalt boom! Wat als ik toevoeg in die volgordes? {k, l, g, i, x, q, r, a, e, f, c, z} {a, c, e, f, g, i, k, l, q, r, x, z} {i, z, q, l, k, f, e, g, c, x, a, r} Jan Lemeire Pag. 58 / 77

55 Hoofdstuk 5: Het productieproces Jan Lemeire Pag. 59 / 77

56

57 Optische computer? Maar Ook aan de VUB wordt er onderzoek gedaan naar een optische computer. Ik zie echter twee grote problemen waardoor deze waarschijnlijk nooit op de markt zal komen. Jan Lemeire Pag. 61 / 77

58 Probleem 1: Electrische computer heeft al een hele ontwikkelingsproces doorgemaakt Een alternatief moet wedijveren met de huidige processorkracht, de ontwikkeling van deze werd gefinancierd door de verkoop van minder krachtige processoren. Een alternatief heeft deze mogelijkheid niet Jan Lemeire Pag. 62 / 77

59 Aanverwant thema: het beste is niet de beste optie De eerste iphone of ipad die Apple op de markt bracht was niet het beste wat Apple te bieden had, maar ze was wel goed genoeg om de markt te veroveren. Zo kon Apple later met een verbeterde versie uitpakken (bvb betere camera) en weer langs de kassa passeren Jan Lemeire Pag. 63 / 77

60 Probleem 2 Geen goedkoop, eenvoudig productieproces lenzen zijn foutgevoelig, niet te miniaturiseren Electrische computer heeft dat wel, gebruik makend van micro-electronica Jan Lemeire Pag. 64 / 77

61 Wel: communicatienetwerken gaan via licht Glasvezel The world s cable map: Ook voor communicatie in computersystemen Jan Lemeire Pag. 65 / 77

62 De doorbraak van de computertechnologie Von Neuman met één van de eerste computers. Rechts de achterkant met de vacuümbuizen. De vacuümbuizen worden vervangen door chips Jan Lemeire Pag. 66 / 77

63 Informatica II: les 4 Componenten op een bordje met ingebakken connectielijnen

64 Waarmaken van Leibniz s droom (9) Artificiële intelligentie (8) Communicatie & internet (7) Operating system (6) Computatietheorie & Software (5) Efficiënt productieproces (4) Hardware architectuur Elektronica: (2) relais -schakeling, (3)geheugen (1) Digitaal & binair (0) Het idee Informatica deel III: technologie, historiek en economische aspecten

65 Alle componenten op een chip In plaats van losse componenten die geconnecteerd moeten worden, wordt er 1 plaatje gemaakt waarvan delen gemuteerd zijn tot geleiders of halfgeleiders. Zo worden er weerstanden, capaciteiten en transistoren ingebakken in het plaatje alsook de connectoren die de componenten connecteren. Er wordt gestart met een wafer van silicium (element Si atoomnummer 14). Vervolgens wordt er adhv mallen geëtst in het wafer en worden er andere elementen geïnjecteerd (dopering genoemd) zodat een geleider of halfgeleider ontstaat. Jan Lemeire Pag. 69 / 77

66 Zand bevat het wonderlijke Silicium, de basis van de chip Jan Lemeire Pag. 70 / 77

67 Silicium- wafer Etsen en doperen met geleidend en halfgeleidend materiaal Jan Lemeire Pag. 71 / 77

68 Etsen van wafer adhv mal Eenvoudig productieproces te miniaturiseren tot 10 nanometer Jan Lemeire Pag. 72 / 77

69 Op 40 jaar van tot transistoren op 20x20mm Jan Lemeire Pag. 73 / 77

70 Moederbord Jan Lemeire Pag. 74 / 77

71 Moederbord Jan Lemeire Pag. 75 / 77

72 Chip design Het aanmaken van een chip gebeurt volautomatisch vertrekkende van je ontwerp van het electronisch circuit. Voor het ontwerp bestaat modern software. Jan Lemeire Pag. 76 / 77

73 Miniaturisatie Breedte van de geleidende lijntjes op de chip