Formeel Denken Hermn Geuvers Deels geseerd op het herfst 2002 dictt vn Henk Brendregt en Bs Spitters, met dnk n het Discrete Wiskunde dictt vn Wim Gielen Herfst 2004 Contents 1 Automten 1 1.1 Automten en Tlen................................ 3 1.2 Nondeterministische Automten......................... 8 1.3 Automten en processen.............................. 12 0
1. Automten In de informtic worden ook mchines estudeerd. Dt geeurt door nr de rchitectuur vn computers zelf te kijken, mr ook door geïdeliseerde, strcte mchines te estuderen. Het voordeel vn het estuderen vn zo n geïdeliseerd, strct mchine model is dt het eenvoudiger is om n zo n model llerlei eigenschppen te estuderen. Een ekend strct mchine model zijn de eindige utomten. Deze eindige utomten heen veel meer toepssingen dn lleen ls model voor simpele erekeningen. Zo worden ook processen met eindige utomten (of kleine uitreidingen drvn) gemodelleerd. Dit zullen we verderop zien. Lten we eerst kijken wt een eindige utomt is en hoe je ermee rekent. Hier is een vooreeld vn een eindige utomt. (M0) Een utomt is een soort grph, lleen zijn de lijnen nu pijlen en deze pijlen heen ook een lel. De punten in deze grph noemen we de toestnden vn de utomt:,, en. Het is geruikelijk om deze toestnden ls een rondje te schrijven met de nm vn de toestnd erin. Er zijn 2 toestnden vn een specile soort: 1. De egintoestnd. Deze wordt ngegeven door er een pijl uit het niets nr toe te tekenen. Een utomt heeft ltijd precies één egintoestnd, hieroven dus. 2. De eindtoestnden. Deze worden ngegeven door een duele cirkel. Een utomt heeft ltijd miniml één eindtoestnd, hieroven is er (toevllig) precies één,. (De egintoestnd kn rustig ook een eindtoestnd zijn!) We kunnen een utomt zien ls een (heel simpel) computertje dt voor ons kn rekenen. Dt rekenen gt heel simpel: we kunnen er een woord instoppen (in ovenstnde utomt woorden over het lfet {, }) en n een ntl stppen eindigt de utomt. Dn zijn we óf in een eindtoestnd óf in een niet-eindtoestnd. In het eerste gevl zeggen we dt het woord geccepteerd wordt, in het tweede gevl wordt het woord niet geccepteerd of ook wel verworpen. 1.1. Vooreeld. In de ovenstnde utomt wordt het woord geccepteerd: egin in en lees het eerste teken. Dn komen we in toestnd en we heen nog over. Lees ook deze en we komen in. Er is nu geen input meer: de erekening stopt in een eindtoestnd, dus is geccepteerd. G zelf n dt en geccepteerd worden en dt en niet geccepteerd worden. 1
Voor we verder gn geven we een precieze definitie vn het egrip eindige utomt. 1.2. Definitie. Een eindige utomt estt uit de volgende 5 componenten 1. Een eindige verzmeling Σ, het input lfet of de verzmeling vn tomire cties, 2. Een eindige verzmeling Q, de toestnden, 3. Een specile toestnd q 0 Q, de egintoestnd, 4. Een verzmeling specile toestnden F Q, de eindtoestnden, 5. Een overgngsfunctie δ, die ij iedere toestnd q en ctie ngeeft wt de nieuwe toestnd q is. (Dit zijn de gelelde pijlen in de utomt oven). Een eindige utomt noemt men ook wel een DFA, nr het Engels : Deterministic Finite Automton. Een eindige utomt wordt soms geschreven ls M := <Σ, Q, q 0, F, δ>. We zullen, ls we een utomt moeten definiëren, gewoon een digrm tekenen, net ls we in het vooreeld oven gedn heen. 1.3. Opgve. Bekijk de volgende utomt M 1. (M1) In deze utomt is Q = {,,, }, F = {} en Σ = {, }. 1. G voor de volgende woorden n of ze geccepteerd worden:,,, λ en. 2. Gelden de volgende uitsprken? (Geef steeds een tegenvooreeld of een ewijs.) Als w geccepteerd wordt, dn wordt w ook geccepteerd. Als w geccepteerd wordt, dn wordt w niet geccepteerd. Als w niet geccepteerd wordt, dn wordt w ook niet geccepteerd. Als w niet geccepteerd wordt, dn wordt w ook niet geccepteerd. 2
1.1. Automten en Tlen We kunnen de Σ uit de eindige utomt opvtten ls de verzmeling vn tomire cties (die ons vn één toestnd overvoeren in de volgende), mr ook ls de symolen vn een lfet, zols we oven l gedn heen. Als we n Σ denken ls een lfet, kunnen we een utomt zien ls een tlherkenner. Op deze mnier hoort er ij iedere eindige utomt een tl, nl. de tl estnde uit precies die woorden die de utomt ccepteert. 1.4. Definitie. Bij een eindige utomt M := <Σ, Q, q 0, F, δ> definiëren we de tl vn M, L(M) ls volgt L(M) := {w Σ w wordt geccepteerd door M}. Dus: w L(M) desd de utomt M stopt in een eindtoestnd op invoer w. Lten we eens kijken welke tl de utomt M0 uit het vooreeld ccepteert. De volgende woorden worden geccepteerd: wordt geccepteerd, w wordt geccepteerd wrij w een willekeurig lnge rij -tjes is, wv wordt geccepteerd wrij w en v eide willekeurig lnge rijen -tjes zijn. Als we toestnd voorij zijn komen we nooit meer in een eindtoestnd, dus wt hieroven stt is lles. We kunnen dit smenvtten ls L(M0) = { n m n, m 0} Op sis vn onze kennis vn tlen, opgedn in hoofdstuk??, zien we meteen de reguliere expressie die ij deze tl hoort (en we kunnen dus concluderen dt L(M0) regulier is): L(M0) = L( ). We kunnen hetzelfde met de tl vn M1 proeren, mr dt is lstiger: wordt geccepteerd, wordt geccepteerd, wordt geccepteerd, k wordt geccepteerd wrij k 0, k wordt geccepteerd wrij k 0, k () l wordt geccepteerd wrij k 0, l 0, k () l wordt geccepteerd wrij k 0, l 0, mr we heen nog steeds niet lles, wnt ls we voorij zijn kunnen we vi een lus weer in terechtkomen. Kunnen we toch meer grip krijgen op de tl vn deze utomt? J dt kunnen we door ij deze utomt een grmmtic te mken die dezelfde tl genereert. Dit gt ls volgt 3
1. Mk ij iedere toestnd q i een hulpsymool X i, zodt ij q 0 het strtsymool S hoort. 2. Als q i qj in de utomt, voeg dn n de grmmtic de regel X i X j toe. 3. Als q i F, voeg dn n de grmmtic de regel X i λ toe. Voor de utomt M1 krijgen we dn de volgende grmmtic G 1, wrij Σ = {, }. S B A A B C B B C C B S λ Merk op dt deze grmmtic rechtslineir is en dt ook de tl L(M1) dus regulier is. Deze schrijfwijze vn de tl L(M 1) m..v. een grmmtic is interessnt, l ws het lleen l omdt het een ndere eschrijving vn dezelfde tl oplevert. Mr het kn nog meer opleveren, nmelijk ls we in de grmmtic symolen gn sustitueren: vul eerst voor A in het rechterlid lle mogelijkheden voor A in: B en C. Doe dn hetzelfde met C: vul in de rechterleden voor C overl in B, S en λ. Dit levert de volgende grmmtic G 2 op, die dezelfde tl ls oven genereert. Dit is weer een rechtslineire grmmtic (zie de definitie). S B B B S B B B S 1.5. Opgve. Concludeer uit de grmmtic G 2 dt 1. () k L(M1) voor k 0, 2. k L(M1) voor k 0, 3. ls w L(M1), dn ook w L(M1), 4. ls w L(M1), dn ook w L(M1), Dt we vn een eindige utomt een rechtslineire grmmtic kunnen mken, op de minier zols we oven voor M1 gedn heen is een lgemeen feit. 1.6. Stelling. Bij iedere eindige utomt M kunnen we een rechtslineire grmmtic G mken zodt L(G) = L(M). ( De tl die G genereert is dezelfde ls de tl die M ccepteert.) Bij gevolg is L(M) regulier voor iedere eindige utomt M. 1.7. Opgve. Mk een rechtslineire grmmtic ij de eindige utomt M 0, zols oven gedn voor M1. Verklein deze grmmtic door overodige productieregels en hulpsymolen weg te lten. We kunnen ook de ndere knt op: ij een rechtslineire grmmtic een eindige utomt mken. Bekijk de volgende rechtslineire grmmtic G 3. 4
S S B λ B B λ We creëren nu eerst voor ieder hulpsymool een toestnd en mken trnsities (pijlen) geleld met woorden (in plts vn lleen letters). De hulpsymolen die nr λ kunnen gn worden eindtoestnd en S wordt uiterrd egintoestnd. Vervolgens voegen we extr toestnden toe wrmee we de woorden ij de pijlen ophkken in letters. We krijgen dn (M2) q4 Dit is nog (net) geen eindige utomt, wnt ij een eindige utomt eisen we dt er vnuit iedere toestnd voor iedere letter een stp mogelijk is, en dt is nu niet zo. Om er een eindige utomt vn te mken moeten we een soort put toevoegen wr lle nog niet opgegeven trnsities nr toe gn en wr je niet meer uitkomt. Dt wordt q5 en het levert uiteindelijk de volgende eindige utomt op. (M2) q5 q4, 1.8. Opmerking. In de ovenstnde utomt heen we één pijl (vn q5 nr zichzelf twee lels gegeven. Dit is hetzelfde ls 2 gelelde pijlen, mr de pijlen-spghetti wordt zo iets minder. We zouden ook toe kunnen stn dt we niet lle pijlen hoeven toe te voegen en dn zouden 5
we de put dus weg kunnen lten. Dt doen we toch niet, wnt ijvooreeld een woord moet niet door M2 geccepteerd worden: dt is duidelijk in de 2de versie vn M2, terwijl in de 1ste versie de utomt stopt in toestnd, een eindtoestnd... Deze procedure om een utomt uit een rechtslineire grmmtic te mken werkt heel lgemeen, ehlve wnneer we een productieregel vn de vorm S B heen, dus wr het woord dt vòòr het hulpsymool stt λ is. Bekijk de volgende grmmtic G 4. S S B B B λ Als we hier de eerste stp zetten om een utomt te mken (op de mnier die we oven gevolgd heen) krijgen we hetvolgende. λ We heen dus λ, het lege woord, ij de pijl en dit woord kunnen we uiterrd niet ophkken, dus hier werkt onze techniek niet. De oplossing is om eerst een equivlente rechtslineire grmmtic te verzinnen wr producties vn de vorm S B niet voorkomen. Dt kn (ltijd), mr we lten hier niet zien hoe je het in zijn lgemeen doet. Voor G 4 zou je uitkomen op de grmmtic G 3, dus de utomt M2 ccepteert dezelfde tl ls grmmtic G 4 genereert. (En G 3 en G 4 genereren dezelfde tl: g dt voor jezelf n!) 1.9. Stelling. Bij iedere rechtslineire grmmtic G kunnen we een eindige utomt M mken zodt L(M) = L(G). 1.10. Opgve. Mk een eindige utomt die de tl vn de volgende grmmtic ccepteert. S S A B A A λ B B λ 1.11. Opgve. Bekijk de eindige utomt M 3 (volgende pgin). (M3) Mk een rechtslineire grmmtic die L(M 3) genereert. 6
(M4) 1.12. Opgve. Bekijk de eindige utomt M 4 (volgende pgin). 1. Mk een rechtslineire grmmtic die L(M 4) genereert. 2. Geef een (eenvoudige) eschrijving vn L(M 4). 3. Als we lle toestnden eindtoestnd mken, welke tl ccepteert M 4 dn? 4. Als we de eindtoestnden en de niet-eindtoestnden omwisselen, welke tl ccepteert M4 dn? 1.13. Opgve. Mk een eindige utomt die de volgende tl over Σ = {, } ccepteert: L := {() k () l k, l 0} 1.14. Opgve. Mk een eindige utomt die de volgende tl over Σ = {, } ccepteert: L := {() k x() l x {, }, k, l 0} 1.15. Opgve. Bekijk de utomt M D die (input) getllen in normle decimle nottie ccepteert. Zo n getl mg evt. eginnen met een + of een, mr niet met een 0, ehlve ntuurlijk ls het vn de vorm 0, 5 is, wnt dn is het weer wel goed. In het digrm stt 0... 9 voor één vn de getllen uit 0 t/m 9 enz. 0 1... 9 + 0, (MD) 1... 9 0... 9, 0... 9 q4 1. Vind je de utomt MD goed? Worden lle juiste getllen geccepteerd en lle foute verworpen? 2. Ps MD n ls je het er niet mee eens ent. 3. Geef een rechtslineire grmmtic die dezelfde tl ls M D genereert. 7
1.2. Nondeterministische Automten In de definitie vn utomt heen we een specile eis gesteld Bij iedere toestnd q en iedere letter uit het lfet is er precies één pijl vnuit q met lel. We kunnen deze eis verzwkken ls volgt Vnuit iedere toestnd q zijn er eindig veel pijlen met lel voor iedere Σ (dus 0, 1 of meer) Vnuit iedere toestnd q zijn er eindig veel pijlen met lel λ (dus 0, 1 of meer) Een utomt wrin we dit toestn noemen we een non-determinstische eindige utomt. 1.16. Vooreeld. Bekijk de volgende utomt, M6, 1. Als we het woord ls invoer nemen, zijn er 2 erekeningen mogelijk: we kunnen eindigen in q 0 of in q 3. De ltste is een eindtoestnd, de eerste niet. Dit fenomeeen noemen we non-determinisme: de utomt voert non-deterministisch (niet vn te voren te eplen) één vn de mogelijke erekeningen uit. 2. Als we het woord ls invoer nemen is er mr één erekening mogelijk, die eindigt in q 0. 3. Op invoer zijn er 2 erekeningen mogelijk die eide eindigen in een niet-eindtoestnd. 4. Op invoer zijn er ook twee erekeningen mogelijk. Eén eindigt in q 0 en de nder eindigt in q 1 terwijl nog niet het hele woord gelezen is (lleen de letter is gelezen). Deze situtie noemen we dedlock: de erekening kn niet verder, hoewel nog niet lle input gelezen is. Wnneer ccepteert een non-determinstische eindige utomt een woord w? 1.17. Definitie. De non-deterministische utomt M ccepteert het woord w ls op invoer w er een erekening is die stopt in een eindtoestnd wrij hete hele woord gelezen is. Een erekening die de hele invoer consumeert en eindigt in een eindtoestnd noemen we ook wel een succesvolle of ccepterende ereking. Dus: ls de erekening stopt in een dedlock, is dit geen succesvolle erekening. Lten we ook even precies definiëren wt een non-deterministische eindige utomt is en wt de tl is die zo n utomt ccepteert. 8
1.18. Definitie. Een non-deterministische eindige utomt estt uit de volgende 5 componenten 1. Een eindige verzmeling Σ, het input lfet of de verzmeling vn tomire cties, 2. Een eindige verzmeling Q, de toestnden, 3. Een specile toestnd q 0 Q, de egintoestnd, 4. Een verzmeling specile toestnden F Q, de eintoestnden, 5. Een overgngsreltie δ, die ij iedere toestnd q en d Σ {λ} een verzmeling vn toestnden X geeft. (Als q δ(q, d), dn is er een pijl q d q, dus dit zijn de gelelde pijlen in het digrm vn de utomt). Een non-deterministische eindige utomt wordt soms geschreven ls M := <Σ, Q, q 0, F, δ>. De tl vn M, L(M), is ls volgt gedefinieerd L(M) := {w Σ w wordt geccepteerd door M}. Dus: w L(M) desd er is een erekening vn de utomt M op invoer w die stopt in een eindtoestnd wrij w geheel gelezen is. 1.19. Opgve. 1. G in de ovenstnde non-deterministische utomt M 6 n welke erekeningen er zijn met invoer,, en. 2. Welke vn ovenstnde woorden worden geccepteerd? 3. Beschrijf de tl die M6 ccepteert. 4. Ps M 6 n zodt hij {w w eindigt met } ccepteert. 1.20. Opgve. Bekijk de utomt M 7. λ, λ Μ7,c 1. Welke erekeningen zijn er op invoer, cc, c en λ? 2. Welke vn deze woorden wordt geccepteerd? 9
3. Beschrijf de tl die M 7 ccepteert. Kunnen we met non-deterministische utomten meer dn met deterministische utomten? J, we kunnen non-deterministische erekeingen modelleren. Mr kunnen we ook tlen ccepteren die we eerst niet konden ccepteren? Oftwel: Is er een tl L wrvoor we wel een non-deterministische utomt M heen die L ccepteert (L = L(M)), mr wrvoor er geen deterministische utomt M is die L ccepteert (L = L(M )) Het ntwoord is nee: 1.21. Stelling. Bij iedere non-deterministische utomt M kunnen we een deterministische utomt M mken zodt L(M) = L(M ). De constructie is niet vreselijk moeilijk, mr doen we hier toch niet. We illustreren het met twee vooreelden en dn zien we meteen wrom non-deterministische utomten soms hndig zijn (wnt veel kleiner). Bekijk drtoe de 2 eindige utomten die corresponderen met M 6 en M 7 : M 8 en M 9. Verifieer zelf dt deze utomten inderdd dezelfde tlen ccepteren., M8, c,,c c M9,c 1.22. Opgve. 1. Mk een non-deterministische utomt voor de tl L = {w {,, c} w eindigt met of w eindigt met cc}. 2. Mk een non-deterministische utomt voor de tl L = {w {,, c} w = vu en v evt en u evt }. 10
λ λ c Μ11 1.23. Opgve., M12, λ λ 1. Mk een deterministische utomt die de tl vn M 11 ccepteert. 2. Beschrijf de tl die M 11 ccepteert. 3. Mk een deterministische utomt die de tl vn M 12 ccepteert. 4. Beschrijf de tl die M 12 ccepteert. 1.24. Opgve. 1. Stel dt M 1 een utomt is die L 1 ccepteert en dt M 2 een utomt is die L 2 ccepteert. Mk een non-determinitische utomt die L 1 L 2 ccepteert. (Hint kijk nr vooreeld M 7 oven.) 2. Bewijs dt de klsse vn reguliere tlen gesloten is onder, d.w.z. ls L 1 en L 2 regulier zijn, dn is L 1 L 2 ook regulier. 3. Stel dt M 1 een utomt is die L 1 ccepteert en dt M 2 een utomt is die L 2 ccepteert. Mk een non-determinitische utomt die L 1 L 2 ccepteert. (L 1 L 2 is de tl estnde uit eerst een woord uit L 1 en dn een woor uit L 2, dus L 1 L 2 = {vw v L 1, w L 2 }.) 4. Bewijs dt de klsse vn reguliere tlen gesloten is onder conctentie d.w.z. ls L 1 en L 2 regulier zijn, dn is L 1 L 2 ook regulier. 11
1.3. Automten en processen We gn nu met (non-deterministische) utomten processen modelleren. De Boer B stt met een kool K, een geit G en een wolf W n é en zijde vn de rivier en wil nr de overknt. Er is een roeioot, mr dr kn hij mr met hooguit één medepssgier in. Hoe komt hij nr de overknt zonder dt de geit de kool op eet of de wolf de geit opeet? 1.25. Vooreeld. We modelleren dit door lle goede toestnden (wrij niets misgt) te tekenen en lle mogelijke overgngen n te geven met een pijl die ngeeft wie er in de oot overgn. (Alle pijlen kunnen dus twee knten op, drom he ik ze hier ls een duele pijl getekend.). Je kunt ook lle toestnden tekenen, mr dn wordt de utomt nog groter. BKGW BKW G BK BGW K BW K BGW BKGW BG B BW BG BG BG KW BG BKG W BK G BKW W BGK BG KW B De vrg is nu niet welke woorden geccepteerd worden, mr of er een pd vn egin nr eindtoestnd is. In termen vn tlen zou je dit kunnen formuleren ls: is de tl vn deze utomt leeg? (Dn is het proleem vn de oer onoplosr) Of nders: is er een woord dt geccepteerd wordt door deze utomt? G n dt er oneindig veel oplossingen zijn. G n dt er twee essentieel verschillende optimle oplossingen zijn voor de oer. We zien dt we ovenstnd proleem kunnen oplossen door het ls een utomt te modelleren. We wren op zoek nr een proces en dt lezen we f uit de utomt. Een iets ndere situtie ontstt ls we een proces willen esturen. Deze esturing kunnen we ook modelleren m..v. een utomt en dn kunnen we drn vk l llerlei prolemen flezen. 1.26. Vooreeld. Gegeven een spoor met een spoorwegovergng met utomtische overwegomen. We nemen n dt treinen ltijd vn links nr rechts rijden. Links zit een eind voor de overgng een sensor S 1 die een voorijkomende trein detecteert. Rechts zit n de overgng sensor S 2 die hetzelfde doet. De esturing vn de overgng m..v. de sensoren zou ls volget gemodelleerd kunnen worden met utomt M 9. (D etekent: omen gn dicht; O etekent: omen gn open.) Merk op dt er geen eindtoestnd is: de utomt is nooit klr, wnt we modelleren een (oneindig) proces. De vrg is nu of dit een goede esturing is, nnemende dt de sensoren en overwegomen goed functioneren (en dt er geen treinen vn rechts nr links rijden). Dit is niet het gevl, 12
S1 M9 O D S2 wnt het kn fout gn ls er 2 treinen in hetzelfde nvk zitten: ls er n de eerste trein t 1 een tweede trein t 2 voorij S 1 komt, nog voor dt t 1 lngs S 2 komt, dn gt de spooroom open terwijl t 2 nog tussen de 2 sensoren is (en misschien wel ij de spoorwegovergng). Dus de esturing moet verfijnder, om precies te zijn ls volgt: S1 M10 O D S1 S2 q4 S2 Ps zelf de utomt n voor het gevl er ook 3 treinen kort n elkr kunnen rijden. (In het lgemene gevl is het hndig om hiervoor een push-down utomt, ook wel stpelutomt genoemd, te geruiken.) 1.27. Opgve. Modelleer het volgende proleem (op de mnier vn het BKGW proleem). Er stn 4 soldten, A, B, C en D voor een gmmele rug in het donker en moeten zo snel mogelijk nr de overknt. Ze heen slechts één lmp en de rug kn mximl 2 personen tegelijk drgen. De soldten zijn gewond en lopen niet snel meer: ze heen het volgende ntl minuten nodig om de rug te psseren: A 5, B 10, C 20 en D 25 minuten. 1. Modelleer de toestnden in de utomt. 13
2. Modelleer de toestndsovergngen in de utomt. (Houdt ij een pijl ook de tijd ij die zo n overgng kost.) 3. Lees uit de utomt f wt de tijd is die de soldten miniml nodig heen om de overknt te ereiken. 1.28. Opgve. Modelleer de esturing vn een spoorwegovergng met 2 sporen, wr over de voorste de treinen vn links nr rechts rijden (met sensoren S 1 en S 2 en over de chterste vn rechts nr links (met sensoren S 3 en S 4 ). Doe het eerst voor het simpele gevl (wr je nooit 2 treinen in hetzelfde nvk het) en dn voor het moeilijkere gevl. 14