Hidden Markov Models

Transcriptie

1 Artificiële Intelligentie 1 Hidden Markov Models January 8, 2003 Opgave 1 Sjakie werkt in een chocoladefabriek. Zijn taak bestaat erin de lopende band in het oog te houden. De chocoladefabriek produceert 2 soorten chocolade koekjes, een soort met suiker en een soort zonder. Veronderstel dat je aan de hand van het uitzicht van de koekjes met 100 procent zekerheid kan zeggen om welke soort koekjes het gaat. In de controlekamer staat een hendel, die het toevoegen van suiker op de koekjes aan of uit zet. Aan het begin van de dag wordt de band gestart door een andere hendel te bedienen. Als de band gestart wordt, is er 50 procent kans dat er suiker wordt toegevoegd aan de koekjes, 50 procent kans dat dat niet gebeurt. Er kunnen geen hendels verplaatst worden terwijl een koekje gemaakt wordt. Van zodra de band gestart wordt, wordt met de productie van koekjes gestart. Helaas, een ontsnapt aapje heeft zich opgesloten in de controlekamer en startte de band. De kans dat het aapje de hendel die het toevoegen van suiker regelt bedient, is 0.3. Modelleer als een Markov Process. HINT : gebruik 3 states. 1

2 opgave 2 Veronderstel nu dat er nog een extra hendel is die het toevoegen van een nootje regelt op het chocoladekoekje. Daardoor kunnen nu 4 soorten koekjes gemaakt worden : een basiskoekje, een koekje met suiker, een koekje met nootjes en een koekje met nootjes plus suiker. Veronderstel dat ook deze hendel met 50 procent kans kan aanstaan aan het begin van de dag en dat de kans dat het aapje die hendel verzet tussen de productie van 2 koekjes 0.3 bedraagt. Veronderstel dat het bedienen van de hendels onafhankelijk is van elkaar. Modelleer als een Markov Process. HINT : gebruik 5 states. opgave 3 Wat is de kans dat de machine in volgorde volgende koekjes produceert : basis, suiker, suiker, nootjes plus suiker? P (basis, suiker, suiker, nootjesplussuiker = π St a St,B a B,S a S,S a S,NS = =

3 opgave 4 Veronderstel nu dat we aan de hand van het uiterlijk van de koekjes de samenstelling niet met zekerheid kunnen achterhalen. We kunnen enkel zien dat een koekje een lichte of een donkere kleur heeft. De kans op een bepaalde kleur, gegeven de vulling, staat in onderstaande tabel. Veronderstel dat de kansen op een licht en een donker koekje even groot zijn. vulling P(kleur = licht vulling P(kleur = donker vulling basis suiker nootjes nootjes + suiker Wat is de kans dat als de eerste 2 geproduceerde koekjes respectievelijk donker en licht waren, ze respectievelijk suiker en nootjes bevatten? Opgave 5 P (S, N D, L = = P (D, L S, N.P (S, N P (D, L P (D S.P (L N.P (S, N P (D.P (L = P (D S.P (L N.π St.a St,S.a S,N P (D.P (L = = Gegeven het Hidden Markov Model in figuur 2, wat is de kans dat de output sequentie DCD wordt geproduceerd door het bovenstaande model? De kans dat het model zich initieel in state A bevindt bedraagt 0.5. Daarvoor gebruiken we het forward- We zoeken de waarde van P (DCD λ. backward algoritme. α 1 (A = π A b A (D = 0.4 α 1 (B = π B b B (D =

4 α 2 (A = [α 1 (Aa AA + α 1 (Ba BA ]b A (C = α 2 (B = [α 1 (Aa AB + α 1 (Ba BB ]b B (C = α 3 (A = [α 2 (Aa AA + α 2 (Ba BA ]b A (D = α 3 (B = [α 2 (Aa AB + α 2 (Ba BB ]b B (D = P (DCD λ = α 3 (A + α 3 (B = Opgave 6 Gegeven het Hidden Markov Model in figuur 2, welk is de meest waarschijnlijke sequentie van states als de outputsequentie DCD wordt geproduceerd door het bovenstaande model? We beginnen met het opstellen van de matrices horende bij het HMM. ( A = π = B A = B B = ( ( ( δ 1 (A = π A b A (D = 0.4 δ 1 (B = π B b B (D =

5 ψ 1 (A = 0 ψ 1 (B = 0 δ 2 (A = b A (C max{δ 1 (Aa AA, δ 1 (Ba BA } = δ 2 (B = b B (C max{δ 1 (Aa AB, δ 1 (Ba BB } = ψ 2 (A = argmax i {δ 1 (ia ia } = A ψ 2 (B = argmax i {δ 1 (ia ib } = A δ 3 (A = b A (D max{δ 2 (Aa AA, δ 2 (Ba BA } = δ 3 (B = b B (D max{δ 2 (Aa AB, δ 2 (Ba BB } = ψ 3 (A = argmax i {δ 2 (ia ia } = B ψ 3 (B = argmax i {δ 2 (ia ib } = B De totale kans op het volgen van het pad : P = max{δ 3 (A, δ 3 (B} = i q3 = argmax i {δ 3 (A, δ 3 (B} = A q 2 = ψ 3 (A = B q 1 = ψ 2 (B = A Nu geeft P de kans voor P (path = ABA Observation = DCD. Aan de hand hiervan kunnen we de kans uitrekenen op P (path = ABA observation = DCD. P (ABA DCD = P (ABA DCD P (DCD = = Dus, de meest waarschijnlijke statesequence die gevolgd is bij het produceren van de sequentie DCD is ABA met een kans van