Informatica. 2 e semester: les 8. Software & binaire bomen. Jan Lemeire Informatica 2 e semester februari mei Parallel Systems: Introduction

Transcriptie

1 Informatica 2 e semester: les 8 Software & binaire bomen Jan Lemeire Informatica 2 e semester februari mei 2016 Parallel Systems: Introduction

2 Leibniz droom De Calculus ratiocinator Een logisch denkend apparaat Om met de regels van de logica ondubbelzinnig te kunnen vaststellen of een statement waar of vals is Deductief systeem waarin alle regels afgeleid zijn van een kleine verzameling axiomas Leibniz was één van de eerste die begreep dat als je filosoferen, denken, redeneren, in formele regels kunt gieten, je dit ook door een apparaat kunt Informatica II: les 6 laten doen.

3 Vandaag 1. Theoretische informatica 2. Software 3. Android app, Java applets, Executable jars 4. Overzicht datastructuren 5. Binaire bomen

4 Waarmaken van Leibniz s droom (9) Artificiële intelligentie (8) Communicatie & internet (7) Operating system (6) Computatietheorie & Software (5) Efficiënt productieproces (4) Hardware architectuur Elektronica: (2) relais -schakeling, (3)geheugen (1) Digitaal & binair (0) Het idee Informatica deel III: technologie, historiek en economische aspecten

5 Hoofdstuk 6: Computatietheorie Jan Lemeire Pag. 5 / 83

6 George Boole Logica herleid tot Booleaanse algebra Boole zette een belangrijke stap met het ontwikkelen van een algebra voor het rekenen met statements over waar/onwaar. Informatica II: les 6

7 Gottlob Frege Beschrijft hoe wiskundigen en logici denken 1879: de universele taal van de logica 1903: brief van Betrand Russel die hem op een onvolledigheid wijst Extra-ordinaire verzameling = verzameling dat een element is van zijn eigen Vb: verzameling van alle dingen die geen spreeuw zijn Maar: de verzameling E van alle ordinaire verzamelingen En wat is E? Ordinair of extra-ordinair Eind 19e eeuw dacht men dat alle natuurwetten binnen handbereik waren (positivisme). Zo begreep men met de Maxwell-vergelijkingen electriciteit en magnetisme. De relativiteitstheorie van Einstein en de kwantummechanica maakte een einde aan dit optimism in de fysica. Maar ook in de logica bleek nietinformatica zo iets te bestaan II: les als 6 een mooie verzameling regels die niet tot contradicties leidt.

8 David Hilbert Wir mussen wissen; wir werden wissen We moeten weten; we zullen weten Elke logische of mathematische vraag is oplosbaar (en zal opgelost worden) Nodig: een expliciete procedure om vanuit premises na te gaan of een conclusie volgt of niet (Hilbert s beslissingsprobleem) Hilbert s beslissingsprobleem zou leiden tot een doorbraak in de theoretische informatica. Informatica II: les 6

9 Alan Turing Hilbert s procedure: algoritme! Als we een mechanische lijst van regels hebben om de oplossing van een mathematisch probleem op te lossen, zouden wiskundigen geen werk meer hebben Bestaat er zo n algoritme? Om tegendeel te bewijzen moest Turing een machine maken dat een algoritme kan uitvoeren Alan Turing wierp zich op Hilbert s probleem. Hij bedacht dat er hiervoor een algoritme gemaakt moest worden (die nagaat of een statement klopt of niet), en vervolgens een machine die het algoritme kan uitvoeren. De Turing Informatica II: les 6 machine werd geboren, een theoretisch model van een computer.

10 De Turing machine Data: oneindige lange tape voor het lezen of schrijven van 0/1/spatie Kan 1 vakje naar links of rechts bewogen worden Staat (toestand): een aantal binaire variabelen Gedragsregels: Staat Gelezen bit Nieuwe staat Te schrijven bit > < _ > 1 1 HALT Bewegen Deze machine is alleen maar van theoretisch nut. Ze is bijvoorbeeld niet Informatica II: les 6 gemakkelijk programmeerbaar.

11 Voorbeeld Applet van studenten ten/turing Machine.html 5-state B.B. : met input _11 stopt machine, voor andere inputs niet (gebruik underscore ipv 0!!) Java applet:

12 Oplossing van Hilbert s beslissingsprobleem? Met de machine nagaan of een logisch statement waar of vals is: Programma runnen Als de machine stopt is statement bewezen (waar). Halting problem (tegelijkertijd ontdekt door Alonzo Church en Alan Turing) Gegeven een Turing machine en programma, ga na of dit programma zal stoppen. Hier bestaat geen algoritme voor die dit kan nagaan Hilbert s beslissingsprobleem is onoplosbaar Het resultaat van Turing was weer een knak voor het optimisme van de wetenschap. Je kan niet van alles bewijzen of het waar of niet waar is. Hieruit onstond mede de moderne relativistische kijk op de wereld. De wetenschap kan niet alles oplossen/verklaren De VUB blijft echter geloven dat wetenschap veel kan oplossen. Scienta Vincere Tenebras! Informatica II: les 6

13 De universele computer Elke computatie kan er op uitgevoerd worden = Turing Machine Kan alles berekenen wat berekenbaar is rekenen ook om logisch te denken universeel Turing s resultaten blijken wel belangrijk voor de informatica. Misschien wel het belangrijkste resultaat van Turing is het idee van een universele computer. Eén computer (hardware) die alles kan berekenen wat maar te berekenen valt. Dit was revolutionair, omdat velen in die tijd niet konden geloven dat je met 1 machine totaal verschillende berekeningen kan doen. Alsof je met een Informatica II: les 6 wasmachine ook kan autorijden.

14 Misvattingen omtrent computers Howard Aiken, bouwde de eerste computer voor IBM in 1944 en zei in 1956: If it should turn out that the basic logics of a machine designed for the numerical solution of differential equations coincide with the logics of a machine intended to make bills for a department store, I would regards this as the most amazing coincidence I have ever encountered Studie van 1947: slechts zes elektronische digitale computers zullen voldoende zijn om al het rekenwerk van de gehele Verenigde Staten te kunnen doen."

15 Basisprincipe 1 universele computer kan elke andere computer simuleren Zo is je programma ook maar data die zegt wat de computer moet doen. Voor dat programma heb je geen aparte machine nodig, toch? Nogal logisch, niet? Dit kan je ook toepassen op programmeertalen: je wilt een taal waarmee je alle mogelijke algoritmes kan programmeren, een universele programmeertaal. Als je met 1 computer een andere kan simuleren (nabootsen), kan je alles doen wat die andere ook kan. Als die andere universeel is, is de jouwe ook universeel. Hiermee bewijs je de equivalentie van universele computers. En ook de compleetheid van programmeertalen. Java & Python zijn complete Informatica II: les 6 talen, je kan er alles mee programmeren wat je maar kan bedenken.

16 Computatietheorie: bewijzen dat een programma correct is Heel omslachtig! Enkel mogelijk voor eenvoudige algoritmes. Dus: ad-hoc testen noodzakelijk, zorgvuldig programmeren, goed opdelen, Anderzijds zijn er nog vele gaten in de theoretische informatica. Zo zou het toch handig zijn om te bewijzen dat je programma correct is. Dit blijkt heel omslachtig te zijn, zelfs voor simple programma s. Informatica blijft dan ook gedeeltelijk een praktische wetenschap. Maar wij ingenieurs malen daar toch Informatica II: les 6 niet om, he? Als het maar nuttig is, die computer.

17 Hoofdstuk 6: Software Jan Lemeire Pag. 17 / 83

18 Informatica II: les 8 software: weg met de kabeltjes

19 software Programmeertalen Een processor biedt een aantal instructies aan die hij begrijpt en kan uitvoeren. Deze instructies zijn binair en noemt men machinecode. Voor de leesbaarheid biedt assembler mnemonische afkortingen aan voor de binaire instructies, alsook Informatica variabelen II: en les labels 8 van codelijnen. De assembler zet alle afkortingen om naar binaire machinecode die dan uitgevoerd kunnen worden.

20 Voorbeeldprogramma (zie hfst 4) Scanner scanner = new Scanner(System.in); System.out.print("Geef een getal:"); int x = scanner.nextint(); int m = x; int t = 0; do { System.out.println(m); m = m * x; t++; } while (m < 1000 && t < 20);

21 In assembler (javacode vanaf lijn 3) lw $t0, $s0 # load word mv $t1, $t0 # move value mv $t2, 0 l1: sw $t0, $s1 # store word mul $t1, $t1, $t0 # multiply add $t2, $t2, 1 lt # addition $t3, $t1, 1000 # less than lt $t4, $t2, 20 # less than and $t5, $t3, $t4 # and beq $t5, 1, l1 # jump to l1 if equal Lezen van toetsenbord en schrijven naar scherm gebeurt door te lezen en schrijven naar geheugenadressen $s0 en $s1. Variabelen x, m en t staan in registers $t0, $t1 en $t2. Voor de conditie hebben we 3 extra registers nodig ($t3, $t4 en $t5). l1 is een label van een instructie, om er later naar toe te kunnen springen. Resultaat van een bewerking komt in eerste operand.

22 3 e generatietaal Onafhankelijk van de hardware beschrijving van het algoritme Gebruik van variabelen ipv geheugenadressen Geen JUMP, enkel for/while/if/switch Jumps leidt tot spagetticode, je mag van overal naar overal springen Functies/methodes mogelijk Omzetting naar assembler: compileren Checkt je code op syntaxfouten! Programmeren in assembler is niet produktief. Het is redelijk omslachtig, je maakt snel fouten en de code is heel onleesbaar. Daarom heeft men programmeertalen ontwikkeld die minder code vergen, meer aansluiten bij algoritmes, meer gestructureerd zijn, leesbaarder en minder foutgevoelig. De Nederlander Informatica Edgser II: les Dijkstra 8 was het voornaamste genie achter de 3 e generatietalen.

23 Edsger Dijkstra (NL) Welke constructies moet een programmeertaal minimaal bevatten? While/for Goto is onnodig. In oude talen kon je zeggen spring naar lijn 111, naar elke willekeurige lijn van je programma. Dit leidde echter tot onoverzichtelijke spaghetti -code. Dijkstra toonde aan dat een while voldoende is Functies In het begin waren er om praktische redenen veel beperkingen op het gebruik van functies. Recursie Hier was veel tegenkanting tegen, omdat het praktisch tamelijk duur is (vergt veel van de processor)

24 Programma => computer broncode Applicatie (executable.exe) Operating System (Windows, Linux, Mac, ) Hogere taal compileren Machinetaal uitvoeren Hardware (Intel of AMD processor) Nieuwe compilatie nodig voor elk systeem (operating system + hardware)!

25 Java: via virtuele machine Java code (.java file) Java applicatie (.class of jar-file) Java Virtual Machine Operating System (Windows, Linux, Mac, ) Hardware (Intel of AMD processor) compileren Specifieke tussentaal die iets hoger is dan assembler uitvoeren Tijdens het uitvoeren wordt instructies van de class-files omgezet naar machinetaal Javacode werkt op elk operating system! Je moet wel de virtuele machine installeren

26 Ideaal voor internet Java applicatie (.class of jar-file) Java Virtual Machine Operating System (Windows, Linux, Mac, ) Jou code staat op webserver INTERNET Via virtuele machine runt hij op elke lokale machine ( client ) Hardware (Intel of AMD processor) Doordat Javacode via een virtuele machine (die wel specifiek is voor elk systeem) Informatica tijdens II: het les uitvoeren 8 wordt omgezet naar machinetaal, kan je programma overal uitgevoerd worden.

27 Python & Mathlab Geïnterpreteerde talen Je code wordt tijdens het uitvoeren omgezet naar machinetaal. Je moet Python/Matlab dus geïnstalleerd hebben Javacode wordt wèl gecompileerd, java-files worden omgezet naar class-files. Javacode wordt dus gecontroleerd op fouten. Maar Python en Matlab niet, waardoor je programma zal crashen bij fouten met de types van variabelen bijvoorbeeld

28 4e generatietaal High-level specification languages: programmeren wat je wilt, niet hoe het moet gebeuren Vb: GUI aanmaken met een tool Te integreren in Eclipse Google Windowbuilder Pro Visual Editor (Nog) niet echt succesvol Enkel voor specifieke applicaties (zoals GUIs) Mijn mening: nog geen artificiële intelligentie => computer kan nog niet begrijpen wat je wilt Een GUI aanmaken kan via een tool waarbij je niets moet programmeren. Je bouwt als het ware je applicatie door aan te geven hoe deze er uit moet zien. Informatica II: les 8 Dit werkt echter nog niet voor algemene applicaties

29 Tool om GUIs te maken Kan je toevoegen aan Eclipse!

30 Object-georiënteerde talen Worden als 3 e generatietalen aanzien Toch is de code-organisatie fundamenteel verschillend De code is opgesplitst in klasses ipv functies. Vergt een andere manier van denken Is dè uitdaging van dit semester, zowel voor jullie als voor ons (lesgevers)

31 Voor ingenieur: welke taal? moet handig en efficiënt zijn, geschikt voor de taak Python Matlab High-level (doet veel voor u) Java Kleine projecten C/C++ Grote projecten Low-level (kort bij de hardware) Zonder al te diep in te gaan over wat nu de beste taal is (een eeuwige steeds-hoogoplopende discussie onder informatici), een kleine poging tot conclusies. C/C++ zullen velen later nog zien, het is de meest-gebruikte taal die kort bij de hardware staat, daarvoor uitermate geschikt voor het programmeren van systemen (chips, Informatica II: les 8 robots, kritische applicaties, )

32 Wat met je Javaproject? Niet in boek Project als applet in website App for Android Android = java Executable jar-file Eclipse: Export => Java => Runnable JAR file Je kiest klasse met de main() die uitgevoerd moet worden

33 Applets

34 Java applets Boek 1 p. 49 Niet te kennen Kan je toevoegen aan html-webpagina s <applet code="be.ac.vub.ir.util.jappletwithpanel archive="../causallearningwithkde.jar" height="360" width="900"> <param name="panel" value="be.ac.vub.ir.statistics.estimators.kde2dpanel" > </applet> Steek al je files in een jar-file In Eclipse: File menu -> export -> Java -> Jar file Je browser heeft een java-console waarin de System output komt (System.out & System.err) Informatica II: les 8 Jan Lemeire Pag. 36 / 83

35 Voorbeeld import javax.swing.japplet; public class CannonDemoApplet extends JApplet { public void init(){ String opt = getparameter("option"); if (opt!= null && opt.equals("ammo")) getcontentpane().add(new CannonPanel(true)); else getcontentpane().add(new CannonPanel(false)); } } Informatica II: les 8 Jan Lemeire Pag. 37 / 83

36 Opgelet Zorg dat beeldjes en audiofiles ook in de jar komen Zet ze bij je packages Laden van beeldjes: zie website Informatica II: les 8 Jan Lemeire Pag. 38 / 83

37 JApplet De browser communiceert met de applet via public void init( ) initializes variables and objects Voeg GUI componenten toe aan contentpane: getcontentpane().add() public void paint( Graphics g ) to draw screen public void start() called when the applet is visible. It is called after the init method and each time the applet is revisited in a Web page. public void stop() called when applet is no longer visible public void destroy() when hosting window is closed (exit). Overschrijf methodes als nodig Informatica II: les 8 Jan Lemeire Pag. 39 / 83

38 Overzicht datastructuren

39 Raadseltje raadsel package be.ac.vub.ir.data.functions.functionscharts

40 p. 3 De big-o notatie O(0) << O(log(n)) << O(n) Informatica II: les 8 Jan Lemeire Pag. 42 / 83

41 Performantie datastructuren p. 2 Datastructuur Random access (opvragen i de element) Find (via naam) Toevoegen / verwijderen Array O(0) ++ O(n) O(log(n)) als gesorteerd O(n) - ArrayList O(0) ++ O(n) O(log(n)) als gesorteerd O(n) - Linked list O(n) - O(n) -- O(0) ++ Binaire boom n.v.t. O(log(n)) + O(0) ++ Hashtabel n.v.t. O(0) ++ O(0) ++ Zolang binnen grootte Informatica II: les 8 Jan Lemeire Pag. 43 / 83

42 Bomen

43 p. 62 Bomen (hoofdstuk 7) Arrays: basis ArrayList: flexibele grootte van array Linked Lists: flexibel toevoegen en verwijderen van elementen Maar: doorlopen van lijst is traag (bvb zoeken van element) Nodig: flexibele structuur om elementen in op te zoeken Informatica II: les 8 Jan Lemeire Pag. 45 / 83

44 Binaire boom Informatica II: les 8 Jan Lemeire Pag. 46 / 83

45 Alle mogelijkheden afgaan = aanmaken boom (les 8) Hfst 5 Initial UP LEFT UP LEFT DOWN UP LEFT RIGHT Oplossing puzzel zoeken Informatica II: les 8 LEFT DOWN DOWN LEFT RIGHT Jan Lemeire Pag. 47 / Geen binaire boom, kan meer of minder takken hebben

46 p. 63 Geordende binaire boom Zoeken kan snel Flexibel: toevoegen & verwijderen Informatica II: les 8 Jan Lemeire Pag. 48 / 83

47 Elke node is een object class Node<T>{ T data; Node<T> left, right; } Node(T data){ this.data = data; this.left = null; this.right = null; } Informatica II: les 8 Jan Lemeire Pag. 49 / 83

48 Boom object public class BinaryTree<T> { Node<T> root; Comparator<T> comparator; } public BinaryTree(Comparator<T> comparator){ this.comparator = comparator; root = null; } Informatica II: les 8 Jan Lemeire Pag. 50 / 83

49 Definiëren van ordening java.util Interface Comparator<T> Method Summary boolean int compare(t o1, T o2) Compares its two arguments for order. Returns a negative integer, zero, or a positive integer as the first argument is less than, equal to, or greater than the second. equals(object obj) Indicates whether some other object is "equal to" this comparator. Informatica II: les 8 Jan Lemeire Pag. 51 / 83

50 p. 65 IntegerComparator class IntegerComparator implements Comparator<Integer> public int compare(integer val1, Integer val2) { return val1 - val2; } } Informatica II: les 8 Jan Lemeire Pag. 52 / 83

51 Aanmaken van boom IntegerComparator comparator = new IntegerComparator(); BinaryTree<Integer> tree = new BinaryTree<Integer>(comparator); korter: BinaryTree<Integer> tree = new BinaryTree<Integer>(new IntegerComparator()); Informatica II: les 8 Jan Lemeire Pag. 53 / 83

52 Nog korter: via anonymous class BinaryTree<Integer> tree = new BinaryTree<Integer>( new Comparator<Integer>() public int compare(integer val1, Integer val2) { return val1 - val2; } } ); Informatica II: les 8 Jan Lemeire Pag. 54 / 83

53 Operaties op bomen

54 Belangrijke operaties 7.3 Zoeken element 7.5 Toevoegen element (opbouwen boom) 7.6 Verwijderen element 7.7 Doorlopen van boom (bvb printen) Informatica II: les 8 Jan Lemeire Pag. 56 / 83

55 Binaire bomen

56 Recursie zonder recursie? Staartrecursie 1 recursieve oproep Kan ook geprogrammeerd worden met een while Boomrecursie Meer dan 1 recursieve oproep (vb fibonacci) Is minder evident om zonder recursie te programmeren, bij Mergesort zien we hoe dit kan. Aanpak zoals bij breadth-first search. Jan Lemeire Pag. 58 / 83

57 p Zoeken element public boolean contains(t object){ return find(root, object); } private boolean find(node<t> current, T object){ if (current == null) return false; else if (comparator.compare(current.data, object) == 0) return true; else if (comparator.compare(object, current.data) < 0) return find(current.left, object); else return find(current.right, object); } Tijd ~ diepte boom Idealiter: log 2 n Behalve als ongebalanceerd (zie verder) Informatica II: les 8 Jan Lemeire Pag. 59 / 83

58 Staartrecursie Met while: public boolean containswithoutrecursion(t object){ Node<T> current = root; while (current!= null){ if (comparator.compare(current.data, object) == 0) return true; // gevonden! else if (comparator.compare(object, current.data) < 0) current = current.left; else current = current.right; } return false; // niet gevonden } Informatica II: les 8 Jan Lemeire Pag. 60 / 83

59 p Zoektijd binaire boom Als gebalanceerd n => n/2 => n/4 => n/8 => => 1 Of: 1.2 x = n x = aantalzoekstappen = log 2 n Informatica II: les 8 Jan Lemeire Pag. 61 / 83

60 Ongebalanceerde boom aantalzoekstappen = log 4 n aantalzoekstappen = log 1.33 n Gemiddelde is slechter dan log 2 n! Informatica II: les 8 Jan Lemeire Pag. 62 / 83

61 Zoektijd log 2 n log 4 n log 1.33 n n/2 10 3,3 1,7 8, ,6 3,3 16, ,0 5,0 24, ,3 6,6 32, ,9 10,0 48, ,9 10,0 48, ,3 11,6 56, ,6 13,3 64, ,9 14,9 72, /2 *2,433 Informatica II: les 8 Jan Lemeire Pag. 63 / 83

62 Verschil in zoektijd Eigenschap logaritmes : Verschil in aantal stappen: log d n = log 2 n log 2 d Verandering van basis stappenratio = log d n log 2 n = 1 log 2 d stappenratio = 1 log = = 2.43 stappenratio = 1 log 2 4 = 1/2 2 t.o.v t.o.v. 4 Besluit: logaritmisch << lineair Informatica II: les 8 Jan Lemeire Pag. 64 / 83

63 p. 102 Ongebalanceerde boom 2 Vast aantal (k-1) nodes links, de rest rechts k << n Rechterboom heeft n/k => n/2k stappen Totaal n/2k + log(k 1) n/2k lineair Informatica II: les 8 Jan Lemeire Pag. 65 / 83

64 p Toevoegen element public void add(t object){ Node<T> newnode = new Node<T>(object); if (root == null) root = newnode; else add(root, newnode); } private void add(node<t> current, Node<T> newnode){ if (comparator.compare(newnode.data, current.data) < 0){ // moet links komen if (current.left == null) current.left = newnode; else add(current.left, newnode); } else { // rechts if (current.right == null) current.right = newnode; else add(current.right, newnode); } Informatica II: les 8 } Jan Lemeire Pag. 66 / 83

65 Volgorde van toevoegen bepaalt boom! Wat als ik toevoeg in die volgordes? {k, l, g, i, x, q, r, a, e, f, c, z} {a, c, e, f, g, i, k, l, q, r, x, z} {i, z, q, l, k, f, e, g, c, x, a, r} Informatica II: les 8 Jan Lemeire Pag. 67 / 83