Kansrekening en Statistiek

Transcriptie

1 Kansrekening en Statistiek College 12 Donderdag 21 Oktober 1 / 38

2 2 Statistiek Indeling: Stochast en populatie Experimenten herhalen Wet van de Grote Getallen Centrale Limietstelling 2 / 38

3 Deductieve statistiek Benjamin Disreali en Mark Twain: There are three kinds of lies: lies, damned lies, and statistics. 3 / 38

4 Loterij Van nu.nl Zondag 17 Oktober 2010: Loterij trekt identieke set nummers in een maand De nummers 13, 14, 26, 32, 33 en 36 werden op 21 september getrokken. Gisteravond werden dezelfde nummers achterstevoren getrokken. Een Israëlische professor in de statistiek schat de kans dat twee keer dezelfde set van zes nummers wordt getrokken in een maand op één op 4 biljoen. Meestal worden dit soort cijfers gebruikt om de kans op leven op Mars te beschrijven, aldus Zvi Gilula van de Hebreeuwse Universiteit. Een andere professor beschreef de gebeurtenis als iets wat één keer in tienduizend jaar voorkomt. We doen zaken op basis van geluk en dan is alles mogelijk, verklaart de statistisch expert van de nationale Israëlische loterij. Het is gek, maar het blijft geluk. Drie deelnemers hadden de zes cijfers goed gegokt, plus het bijkomende nummer 2. Zij hebben elk een prijs van ruim 1,1 miljoen dollar ( euro) gewonnen. 4 / 38

5 Suggestie Dezelfde resultaten gepresenteerd via scores en standaardscores: 5 / 38

6 Stochast en populatie 6 / 38

7 Stochast en populatie Er bestaat het volgende verband tussen een populatie en een kansexperiment. Def. Beschouw een eindige populatie en een parameter met eindig veel mogelijke waardes: X 1,..., X n. Laat f i de frequentie (het aantal) van de elementen in de populatie met waarde X i zijn. Beschouw het kansexperiment bestaande uit het willekeurig kiezen van een element uit de populatie, waarbij de stochast X de waarde van de parameter voor het gekozen element is. Dan is X een stochast met mogelijke mogelijke waardes X 1,..., X n en verdeling: P(X = X i ) = f i N. X is de bij de populatie en de parameter behorende stochast. 7 / 38

8 Stochast en populatie Def. Voor een discrete stochast X met eindige veel waardes X 1,..., X n is de verwachtingswaarde van X : E(X ) = nx P(X = X i )X i. i=1 St. Bij het beschouwen van een eindige populatie en een parameter met eindig veel waardes X 1,..., X n, is de verwachtingswaarde van de bijbehorende stochast X gelijk aan het gemiddelde µ van de parameter in de populatie: E(X ) = µ. Bew. Zij N het aantal elementen in de populatie en f i de frequentie (het aantal) van de elementen in de populatie met waarde X i. Dan geldt dat P n i=1 µ = f i X i N nx f i X i nx = N = P(X = X i )X i = E(X ). i=1 i=1 8 / 38

9 Stochast en populatie Def. Voor een discrete stochast X met eindige veel waardes X 1,..., X n is de variantie van X : nx Var(X ) = E((X E(X )) 2 ) = P(X = X i )(X i E(X )) 2. St. Bij het beschouwen van een eindige populatie en een parameter met eindig veel waardes X 1,..., X n, is de variantie van de bijbehorende stochast X gelijk aan de variantie σ 2 van de parameter in de populatie: Var(X ) = σ 2. Bew. Zij N het aantal elementen in de populatie en f i de frequentie (het aantal) van de elementen in de populatie met waarde i. Omdat de gehele populatie beschouwd wordt, en niet een steekproef, geldt: i=1 P(X = X i ) = f i N. Uit de vorige stelling volgt dat voor het gemiddelde µ van de populatie geldt dat µ = E(X ). Daaruit volgt dat σ 2 = P n i=1 f i (X i µ) 2 N nx f i (X i E(X )) 2 = N i=1 nx = P(X = X i )(X i E(X )) 2 = Var(X ). i=1 9 / 38

10 Experimenten herhalen 10 / 38

11 Experimenten herhalen Def. Stel dat X een stochast is bij een experiment dat als uitkomsten getallen heeft. Als dat experiment n maal wordt herhaald, dan staat X n voor de gemiddelde waarde van de n uitkomsten. X n is ook een stochast. Een steekproef ter grootte n kan gezien worden als het n maal herhalen van een experiment. Daarom zijn beide notaties X (voor steekproef en stochast) met elkaar in overeenstemming. 11 / 38

12 Experimenten herhalen Vb. X is de stochast bij het 1 maal werpen van een munt: X = 1 bij K en X = 0 bij M. Het n maal werpen van een munt is het n maal herhalen van het experiment. Laat X i de uitkomst van het i e experiment zijn. Dan geldt P n i=1 X n = X i. n (Hetzelfde als bij het gemiddelde van een steekproef.) De mogelijke waardes van X n zijn: 0, 1 n, 2 n,..., n 1 n, 1. X n heeft een binomiale verdeling: P(X n = k n ) = n k (0.5) n. 12 / 38

13 Experimenten herhalen St. Als X een stochast is met E(X ) = µ en Var(X ) = σ 2 en het bijbehorende experiment wordt n maal herhaald, dan geldt E(X n) = µ Var(X n) = σ2 n. 13 / 38

14 Wet van de Grote Getallen 14 / 38

15 Wet van de Grote Getallen Vb. Experiment: het aantal malen succes k bij het 100 maal werpen van een munt. Dit experiment is 25 maal herhaald. 21 van de 25 keer gold 45 k 55, d.w.z. dat 21 van de 25 keer 0.45 X Histogram of f Frequency f 15 / 38

16 Wet van de Grote Getallen Vb. Experiment: het aantal malen succes k bij het 100 maal werpen van een munt. Dit experiment is 50 maal herhaald. 36 van de 50 keer gold 45 k 55, d.w.z. dat 36 van de 50 keer 0.45 X van de 50 keer gold 45 k 60, d.w.z. dat 45 van de 50 keer 0.45 X Histogram of f Frequency f 16 / 38

17 Wet van de Grote Getallen: de Markov ongelijkheid St. Zij X een stochast waarvan alle waardes positief zijn. Dan geldt voor elk getal t 0: P(X t) E(X ). t Bew. We bewijzen de stelling voor een discrete stochast met waardes X 1,..., X n. Dan E(X ) = nx i=1 X i P(X = X i ) = X X i <t X i P(X = X i ) + X X i t Omdat alle waardes van X positief zijn volgt hieruit E(X ) X X i t X i P(X = X i ) X X i t X i P(X = X i ). tp(x = X i ) = P(X t). 17 / 38

18 Wet van de Grote Getallen: de Chebyshev ongelijkheid St. Voor elk getal t > 0 geldt: P( X E(X ) t) Var(X ) t 2. Bew. Laat Y de stochast (X E(X )) 2 zijn. Dan zijn alle waardes van Y positief en E(Y ) = Var(X ). Uit de Markov ongelijkheid volgt: P( X E(X ) t) = P(Y t 2 ) E(Y ) t 2 = Var(X ) t 2. St. Voor elk getal t > 0geldt: P( X E(X ) < t) 1 Var(X ) t / 38

19 Wet van de Grote Getallen St. (Wet van de Grote Getallen) Voor een stochast X met verwachtingswaarde µ geldt voor elke ɛ > 0: lim P( X n µ < ɛ) = 1. n Bij toenemende n neemt de waarschijnlijkheid dat X n dicht bij µ ligt toe. Bew. Laat σ 2 de variantie van X zijn. We zagen dat geldt: Dus volgt met Chebyshev: E(X n) = µ Var(X n) = σ2 n. P( X n µ < ɛ) 1 σ2 nɛ 2. σ Omdat lim 2 n nɛ 2 = 0 is hiermee de stelling bewezen. 19 / 38

20 Wet van de Grote Getallen Vb. Kan door vaak een munt te gooien de waarschijnlijkheid dat het gemiddelde aantal keren dat kop gegooid wordt meer dan 0.3 afwijkt van 0.5, kleiner dan 0.01 worden? X is het steekproefgemiddelde bij het n maal gooien van de munt. Gevraagd wordt naar n waarvoor P( X ) Met Chebyshev: P( X ) 0.25 n(0.3) 2. Dus P( X ) 0.01 voor n (0.3) 2 = / 38

21 Wet van de Grote Getallen Vb. Kan voor elk willekeurig getal 0 < δ < 1 door vaak te gooien de waarschijnlijkheid dat het gemiddelde minder dan 0.01 afwijkt van 0.5, groter dan δ worden? X n is het steekproefgemiddelde bij het n maal gooien van de munt. Gevraagd wordt naar n waarvoor P( X 0.5 < 0.01) δ. Met Chebyshev: P( X n 0.5 < 0.01) n(0.01) 2. Daarmee P( X n 0.5 < 0.01) δ voor n waarvoor n(0.01) 2 δ. Dus n δ. Merk op: als δ x maal zo groot, dan n x maal zo groot. 21 / 38

22 Centrale Limietstelling 22 / 38

23 Centrale Limietstelling Vb. Benadering van een binomiale verdeling door de normale verdeling. 23 / 38

24 Centrale Limietstelling St. (Centrale Limietstelling) Voor een stochast X met verwachtingswaarde µ en standaardafwijking σ geldt voor elke a: lim P( X n µ n σ a) = P s(z a). n Bij toenemende n benadert X n de normale verdeling met gemiddelde µ en standaardafwijking σ n. De Centrale Limietstelling is een versterking en precisering van de Wet van de Grote Getallen. Def. σ X = σ n is de standaardfout van het gemiddelde. 24 / 38

25 Centrale Limietstelling Vb. Zij X een stochast met E(X ) = 3 en Var(X ) = 4 waarvoor de verdeling onbekend is of moeilijk te berekenen. Er wordt gevraagd naar de kans dat het steekproef gemiddelde van een willekeurige steekproef ter grootte n = kleiner is dan Aangenomen wordt dat n voldoende groot is om de verdeling van X = X als een normale verdeling met verwachtingswaarde µ = 3 en standaardafwijking 4 n = 2 = 0.02 te beschouwen. 100 Onder die aanname geldt: P(X 2.95) = P X 3 s( ) = P X 3 s( ) = P s( X ). Wegens de symmetrie van de standaard normale verdeling rond 0 geldt P s( X ) = Ps( X ). Uit tabel C.1 blijkt dat P s(z 2.25) = Dus P(X 2.95) = / 38

26 Statistiek Doel: Op grond van data verkregen uit een steekproef een uitspraak doen over de populatie. Beschrijvende statistiek: data verkrijgen en classiceren. Deductieve statistiek: uit data conclusies trekken. 26 / 38

27 Statistische toetsen Hypothese toetsen Schatten Maximum likelihood 27 / 38

28 Hypothese toetsen 28 / 38

29 Hypothese toetsen Hypothese toetsen is een manier om conclusies uit data te trekken. Sommige hebben hun twijfels: W.W. Rozeboom (1997) Null-hypothesis significance testing is surely the most bone-headedlly misguided procedure ever institutionalized in the rote training of science students. 29 / 38

30 Hypothese toetsen: toepassingen Vb. Een medicijn wordt aan een groep patiënten toegediend en aan een controlegroep niet. Er moet besloten worden of het medicijn werkt of niet. Een fabriek laat een gedeelte van een lading geproduceerde auto s testen op een defect. Er moet besloten worden of de lading goed genoeg is om bij de leverancier af te leveren. De schedelgrootte van enkele Egyptenaren uit de oudheid is bekend. Op grond van deze data wil men vaststellen of de gemiddelde schedelgrootte van mensen in het oude Egypte gelijk is aan die van de huidige mens. 30 / 38

31 Hypothese toetsen: de hypotheses Def. Bij hypothese toetsen wordt een hypothese H 0 getest tegen een hypothese H a. H 0 is de nulhypothese en H a is de alternatieve hypothese. H a wordt ook wel H 1 genoemd. De alternatieve hypothese is meestal de onderzoekshypothese, die alleen aangenomen (ondersteund) wordt door de nulhypothese te verwerpen. Over het algemeen is de nulhypothese de hypothese van geen verschil of geen onderscheid of geen relatie, en de test dient om aan te tonen dat er wel een verschil, onderscheid of relatie is. 31 / 38

32 Hypothese toetsen Vb. Een medicijn wordt aan een groep patiënten toegediend en aan een controlegroep niet. De nulhypothese: het gemiddelde aantal patiënten dat beter wordt is in beide groepen gelijk is. De alternatieve hypothese: het gemiddelde aantal patiënten dat beter wordt is (significant) kleiner in de controlegroep. De grootte van de schedels van enkele Egyptenaren uit de oudheid is bekend. De nulhypothese: de gemiddelde schedelgrootte van de Egyptenaren in de oudheid is gelijk aan die van de huidige mens. De alternatieve hypothese: de gemiddelde schedelgrootte van de Egyptenaren in de oudheid is kleiner dan die van de huidige mens. Een fabriek laat een gedeelte van een lading geproduceerde auto s testen op een defect. De lading mag alleen bij de leverancier afgeleverd worden als niet meer dan 0.01% defect is. De nulhypothese: niet meer dan 0.01% is defect. De alternatieve hypothese: meer dan 0.01% is defect. 32 / 38

33 Hypothese toetsen: de zijde Def. De hypotheses die we gaan beschouwen zijn meestal van de vorm: tweezijdig H 0 : µ = a H a : µ a linkszijdig H 0 : µ a H a : µ < a rechtszijdig H 0 : µ a H a : µ > a 33 / 38

34 Hypothese toetsen Vb. Een fabriek laat een gedeelte van een lading geproduceerde auto s testen op een defect. De lading mag alleen bij de leverancier afgeleverd worden als niet meer dan 0.01% defect is. Het gemiddelde aantal defecte auto s is µ. H 0 : µ 0.01%. H a: µ > 0.01%. Dit is een rechtszijdige toets. Een medicijn wordt aan een groep patiënten toegediend en aan een controlegroep niet. µ 1 en µ 2 zijn het gemiddelde aantal genezen patiënten in respectievelijk de testgroep en de controlegroep. H 0 : µ 1 µ 2. H a: µ 1 > µ 2. Dit is een rechtszijdige toets. 34 / 38

35 Hypothese toetsen Vb. Het gemiddelde aantal patiënten dat met 200 mg. van medicijn M geneest van een zekere ziekte is 30%. Men wil testen of 100 mg. meer toedienen significant meer patiënten geneest. Men dient aan een steekproef van 25 patiënten 300 mg. M toe. Laat µ het gemiddelde aantal patiënten in de gehele populatie zijn dat van 300 mg. M geneest. H 0 : µ 30% H a : µ > 30%. Dit is een rechtszijdige toets. 35 / 38

36 Hypothese toetsen: criterium voor verwerpen H 0 Def. H 0 en H a worden verworpen of aangenomen (niet verworpen). Als H 0 aangenomen wordt, wordt H a verworpen. Als H 0 verworpen wordt, wordt H a aangenomen. Def. H 0 is waar en wordt aangenomen: correcte beslissing. H 0 is waar en wordt verworpen: fout van de 1 e soort. H a is waar en wordt aangenomen: correcte beslissing. H a is waar en wordt verworpen: fout van de 2 e soort. Def. Het significantieniveau is de kans op een fout van de 1 e soort en wordt aangeduid met α. Het significantieniveau wordt voorafgaand aan de toets gekozen. 36 / 38

37 Hypothese toetsen Vb. Het gemiddelde aantal patiënten dat met 200 mg. van medicijn M geneest van een zekere ziekte is 30%. Men wil testen of 100 mg. meer toedienen significant meer patiënten geneest. Men dient aan een steekproef van 25 patiënten 300 mg. M toe. Laat µ het gemiddelde aantal patiënten in de populatie zijn dat van 300 mg. M geneest. H 0 : µ 30% H a : µ > 30%. Fout van de 1 e soort: µ = 30%, maar H 0 wordt verworpen. Fout van de 2 e soort: µ > 30%, maar H 1 wordt verworpen. 37 / 38

38 Finis 38 / 38