Terug naar regels. Redeneren met onzekerheid III. Voorbeeld. Kies een geschikte theorie Vind een invulling voor de combinatiefuncties f and, f or,

Transcriptie

1 Redeneren met onzekereid III Onderwerpen: Regelgeassocieerde metoden voor redeneren met onzekereid Subjectieve Bayesiaanse metode Relatie met certainty-factor model en daarmee met Bayesiaanse netwerken Voorbeeldopgave Terug naar regels Kies een gescikte teorie Vind een invulling voor de combinatiefuncties f and, f or, f prop, f co Implementeer de combinatiefuncties als onderdeel van een inference engine Voorbeelden: Certainty-factor model (Mycin) Subjectieve Bayesiaanse metode (Prospector) Isizuka s regelgebaseerde vereenvoudiging van Dempster-Safer teorie. p./9. p.2/9 Subjectieve Bayesiaanse metode Toepassing van kansrekening in productieregels: if e ten P ( e),p ( e) fi e P ( e), P ( e) Ontwikkeld door R.O. Duda, P.E. Hart, N.J. Nilsson voor Prospector Invulling voor de combinatiefuncties: f prop f and en f or f co Voorbeeld R = {R : if flu ten fever fi, P (fever flu) = 0.8, P (fever flu) = 0. R 2 : if common-cold ten fever P (fever common-cold) = 0.3, Feiten F : P (flu ) = 0.6 en P (common-cold ) = met actergrondkennis (alles wat je to zover weet) Apriori-kennis: P (fever) = 0.2 Vraag: wat is P (fever )? fi}. p.3/9. p.4/9

2 Herscrijven inferentienetwerk Blokkeren van invloed Combinatiefuncties: () Propagatie van onzekereid f prop : Er geldt: P (e ) P ( e), P ( e) e P ( ) P ( ) = P ( e, )P (e ) + P ( e, )P ( e ) Blokkeren van de invloed van E op H: E E H H is conditioneel onafankelijk van E gegeven E als: als P (E, E) > 0 P (H E, E ) = P (H E) Betekenis: E draagt niet bij aan de kennis over H als we E al weten met absolute zekereid Dit geldt voor alle waarden van E, E en H. p.5/9. p.6/9 Propagatie van kansinformatie Combinatiefuncties (vervolg) H is conditioneel onafankelijk van E gegeven E: P ( ) = P ( e)p (e ) +P ( e)p ( e ) = [P ( e) P ( e)]p (e ) +P ( e) Lineaire functie in x: f(x) = ax + b a = P ( e) P ( e); b = P ( e) Als P (e ) = P (e), dan: P ( e) P () P ( ) P ( e) P ( ) = P ( e)p (e) + P ( e)p ( e) = P () 0 P (e) P (e ) (2) Samengestelde aanwijzingen P (e ) P (e 2 ) e e 2 P (e and e 2, ) e and e 2 f and : P (e and e 2 ) = min{p (e ), P (e 2 )} f or : P (e or e 2 ) = max{p (e ), P (e 2 )}. p.7/9. p.8/9

3 Combinatiefuncties (vervolg) (3) Co-concluderende regels f co : 2 co e 2 P ( ) P ( 2 ) P ( co e 2 ) Veronderstelling: P ( co e 2 ) = P ( e, e 2 ) (dus co ) Regel van Bayes: P (, e 2 ) = P (e, e 2 )P ()/P (e, e 2 ) Co-concluderende regels E en E 2 zijn conditioneel onafankelijk gegeven H: P (, 2) = P (e )P (e 2 )P () P (, e 2 ) Ecter alleen P ( i ), i =, 2, zijn bekend regel van Bayes: P ( i ) = P ( e i )P (e i )/P (), maar P ( i ) is niet direct bescikbaar Truc: P (, e 2 ) = P (e )P ( 2 )P ( ) P (,e 2 ) P ( e, e 2 ) P (, e 2 ) = P (e ) P ( ) P ( 2 ) P ( 2 ) P () P ( ) = λ λ 2 O() = O(, 2). p.9/9. p.0/9 Odds en kansen Co-concluderende regels Odds Er geldt: Odds O Probability P O( e) = als P ( e) = 0.5 O( e) als P ( e) Oddsvorm: O(, e 2 ) = λ λ 2 O(), met λ i = P (e i ) P ( i ) = (P ( e i )P (e i ))/P () (P ( i )P (e i ))/P ( ) = P ( e i ) P ( i ) O( ) = O( e i ) O() voor elke regel i =, 2 Terug naar kansen: P (, 2) = O( e, e 2 ) + O(, e 2 ). p./9. p.2/9

4 Voorbeeld (eraling) R = {R : if flu ten fever fi, P (fever flu) = 0.8, P (fever flu) = 0. R 2 : if common-cold ten fever P (fever common-cold) = 0.3, Feiten F : P (flu ) = 0.6 en P (common-cold ) = met actergrondkennis (alles wat je to zover weet) Apriori-kennis: P (fever) = 0.2 O(fever) = 0.2/0.8 = /4 Vraag: wat is P (fever )? fi} Voorbeeld Regel R : P (fever flu) = 0.8 en P (fever flu) = 0. Feit: P (flu ) = 0.6 Propagatie: P (fever ) = [P (fever flu) P (fever flu)] P (flu ) +P (fever flu) = (0.8 0.) = 0.52 Co-concluderen: λ = P (fever )/(P ( fever e )O(fever)) = (0.52/0.48) 4 = 4 3. p.3/9. p.4/9 Voorbeeld (vervolg) Regel R 2 : P (fever common-cold) = 0.3 en Feit: P (common-cold ) = Propagatie: P (fever 2) = [P (fever com-cold) P (fever com-cold)] P (com-cold ) + P (fever com-cold) = ( ) = 0.3 Co-concluderen: λ 2 = P (fever 2 )/(P ( fever e 2 )O(fever)) = (0.3/0.7) 4.7 Bepaald: λ = 4 3 λ 2 =.7 O(fever) = /4 We kunnen nu uitrekenen: Voorbeeld (vervolg) O(fever co 2) = λ λ 2 O(fever) = Dus: P (fever co e 2 ) =.85/( +.85) = 0.65 Vergelijk apriori-kennis: P (fever) = 0.2. p.5/9. p.6/9

5 Vergelijking certainty factors Vergelijking certainty factors (vervolg) () Propagatie: Subjectieve Bayesiaanse metode: P ( ) = [P ( e) P ( e)]p (e ) + P ( e) CF(, ) = CF(, e) max{0, CF(e, )} (2) Samengestelde aanwijzingen: Subjectieve Bayesiaanse metode (f and ) P (e and e 2 ) = min{p (e ), P (e 2 )} CF(e and e 2, ) = min{cf(e, ), CF(e 2, )} Co-concluderende regels: Subjectieve Bayesiaanse metode: met n O(,..., e n ) = λ i O() i= P (,..., n) = O( e,..., e n) + O(,..., e n ) CF(, co e ) = CF(, ) + CF(, 2)( CF(, )) volstrekt andere probabilistisce interpretatie. p.7/9. p.8/9 Opgave Bescouw de volgende verzameling produktieregels R: R : if a or b ten c 0.8 fi R 2 : if e ten a 0.8 fi R 3 : if f ten b.0 fi met de volgende (initiële) feitenverzameling F = {e 0.7, f 0.5 }, waarin geabstraeerd is van de structuur van condities, conclusies en feiten. Geef aan onder welke voorwaarden de subjectieve Bayesiaanse metode toegepast kan worden voor de berekening van de onzekereid met betrekking tot de ypotese c. Pas deze veronderstellingen toe bij et berekenen van P (c ), waarbij in alle gegeven aanwijzingen verwerkt zijn.. p.9/9