Toegepaste Statistiek, Week 4 1

Transcriptie

1 Toegepaste Statistiek, Week 4 1 Onafhankelijkheid We beschouwen de volgende situatie, met TWEE variabelen: G een toevalsvariabele T een nominale variabele (al of niet toevallig), indeling/conditionering/behandeling/... De situatie van meerdere steekproeven kan worden gemodelleerd als de situatie met een extra nominale variabele die aangeeft in welke steekproef het proefobject zich bevindt. De onderzoeker kan T opleggen aan het proefobject, en dan neemt deze indelingsvariabele natuurlijk geen toevallige waarden aan. Dan zijn de T -waarden geen aselecte steekproef van wat dan ook, dan is er geen verklarende statistiek over T. Maar er is nog betekenis te geven aan het begrip: G is onafhankelijk van T. (Statistische) onafhankelijkheid: De nominale variabele G (categorie-indeling) heet onafhankelijk van de nominale variabele T (groepsindeling) als de statistische beschrijving, dwz. de relatieve groottes van de G-klassen, niet afhangt van de T -groep waarin je ze bekijkt. Een ordinale variabele G heet onafhankelijk van de nominale variabele T (groepsindeling) als de statistische beschrijving, dwz. de verdelingsfunktie, van G niet afhangt van de T -groep waarin je hem bekijkt.

2 Toegepaste Statistiek, Week 4 2 Reeds tegengekomen: Geval 1: Eén kwantitatieve toevalsvariabele G, twee steekproeven, G normaal verdeeld binnen de groepen, waar de twee steekproeven uit getrokken zijn. Bovendien met dezelfde variantie. T geeft de steekproef aan (de deelpopulatie). H 0 : G onafhankelijk van T. Betekent dat de verdelingsfunctie van G in beide deelpopulaties hetzelfde is. Is (onder de voorwaarden) precies hetzelfde als gelijkheid van populatiegemiddelde in beide groepen. Geval 2: Eén nominale toevalsvariabele G, een nominale variabele T. H 0 : G onafhankelijk van T. Is de gebruikelijke H 0 bij twee-weg-classificatie. Als G een kwantitatieve toevalsvariabele is, en T is een kwantitatieve variabele die mogelijk door de onderzoeker wordt ingesteld, dan heet G (statistisch) onafhankelijk van T, als de statistische beschrijving, dwz. de verdelingsfunktie, van G bij vaste waarde van T, niet afhangt van de waarde van T. In het bijzonder hangt dan E(G T = t) niet van t af, en ook VAR(G T = t) hangt niet van t af (dit laatste heet homoscedasticiteit). Aselecte steekproef G 1,..., G n : G 1 onafh. van G 2,..., G n G 2 onafh. van G 1, G 3,..., G n, etc.

3 Toegepaste Statistiek, Week 4 3 Statistische ordening Wanneer vind je nu de ene behandeling, S = 1, beter dan een andere behandeling, S = 2? Je kijkt naar het effect op een ordinale variabele T. Je wilt E(T S = 1) > E(T S = 2), of misschien juist andersom. Of je wilt de mediaan van T onder S = 1 groter dan de mediaan van T onder S = 2. N(gem=10,SD=1) en N(gem=11,SD=5) rel.freq Het is best mogelijk dat bijv. E(T S = 1) > E(T S = 2), maar dat er toch groter deel onder S = 1 een zekere waarde heeft of lager, dan onder S = 2 (Zie plaatje, waarde 8)

4 Toegepaste Statistiek, Week 4 4 Voorbeeld: Inkomensverdeling onder de Nederlanders, gemiddelde inkomen in twee opeenvolgende jaren 1999 en 2000 zou gestegen kunnen zijn, EVENALS het percentage mensen dat een inkomen heeft onder de gulden per jaar. Een statistisch criterium: Noem de waarden van een nominale variabele T (een behandeling) statistisch geordend door G als, voor ieder tweetal T -waarden i en j hetzij voor iedere G-waarde u geldt dat het relatieve deel met G u onder T = i altijd groter is dan dat onder T = j (T = i is dan statistisch kleiner dan T = j, mbt. G) hetzij voor iedere G-waarde u geldt dat het relatieve deel met G u onder T = i altijd gelijk is aan dat onder T = j (T = i is dan statistisch gelijk aan T = j, mbt. G) hetzij voor iedere G-waarde u geldt dat het relatieve deel met G u onder T = i altijd kleiner is dan dat onder T = j (T = i is dan statistisch groter dan T = j, mbt. G) T = i is stat. kleiner dan T = j, als de verdelingsfunktie van G voor T = j verkregen wordt uit die voor T = i, door de punten van de grafiek naar RECHTS te verschuiven over een afstand die van de hoogte mag afhangen.

5 Toegepaste Statistiek, Week 4 5 Als T statistisch geordend door G, dan Het populatiegemiddelde (of de mediaan) van G binnen iedere T -groep geeft precies de ordening aan. Het populatiegemiddelde (of de mediaan) van G hangt niet van de T -waarde af, PRECIES DAN ALS G onafhankelijk van T. Veronderstel dat G normaal verdeeld is binnen iedere T - groep. Dan is T statistisch geordend door G, precies dan als VAR(G T = i) niet van de T -groep i afhangt (homoscedasticiteit). De ordening van de T -waarden komt dan overeen met de ordening van de E(G T = i). Homoscedasticiteit is een gebruikelijke aanname bij ANOVA- en lineaire regressie-methoden. In een experimentele situatie kan statistische ordening redelijke veronderstelling zijn (in plaats van een vage statistische aanname). Door de populatie te beperken (opdelen, conditioneren), zo dat alle proefobjecten in een vergelijkbare toestand zijn. Door een enkel nat.wet. verschijnsel te onderzoeken. Door de verschillen in T -behandeling geordend te laten zijn: Waarden: 0 g. kunstmest / m 2, 2 g. / m 2, 5 g. / m 2,... De T -behandelingen in een beperkt gebied te variëren, zodat er niet de variatie in zit van nuttig voedingssupplement tot dodelijke vergiftiging.

6 Toegepaste Statistiek, Week 4 6 Methoden Opzet van een experiment: Onderzoeksvraag Inrichting van het onderzoek Experimentopzet Procedure statistische analyse vastleggen Uitvoering van het onderzoek Statistische verwerking volgens plan uitvoeren Verslag van het een en ander geven Klaar. Daarmee is de kous af! Maak je werk beoordeelbaar voor jezelf en voor je collega s door je voornemens, je overwegingen en je oplossingen voor onvoorziene complicaties, etc., zo duidelijk mogelijk op schrift te zetten in het laboratoriumlogboek/journaal. En breng daar achteraf geen veranderingen in aan, het is een dagboek! Het is menselijk, maar mogelijk misleidend, om nog verder in de data te gaan zitten wroeten. Je kunt er echter geen statistisch gefundeerde conclusies meer uit trekken. Een gevaar is, dat je na lang piekeren denkt dat je iets fout gedaan hebt, je het onderzoek herhaalt, en zo maar door, net zo lang dat er het gewenste resultaat uitkomt. Bij zo n werkwijze is het niet eens nodig om het onderzoek te doen. Het geeft gegarandeerd succes en de onbetrouwbaarheid is 100%.

7 Toegepaste Statistiek, Week 4 7 Vgl. Onderzoek naar een of andere stof, gevonden in de levende natuur, die bij nuttiging leidt tot een zekere verbetering van het menselijk leven. Als de stof in het geheel geen effect heeft, en men meet veel variabelen, dan zal er allicht minstens een, een verbetering te zien geven. (vgl. astrologische verklaringen) Als men zich beperkt tot één variabele, dan zal voortdurende herhaling van het experiment uiteindelijk tot het gewenste resultaat leiden. Bij deze manier van analyseren is het zeer aanbevelenswaardig om veel lagere onbetrouwbaarheidsdrempels te gebruiken (dit is in bepaalde statistische methodes ingebouwd), en bovendien een controle-experiment te ontwerpen en uit te voeren, waarin het vermoeden dat men uiteindelijk heeft geformuleerd, getoetst wordt. Je zou ondertussen ook voldoende moeten weten, of denken te weten, dat je het controle-experiment zo kunt inrichten dat hij met grote kans (bijv. 95%) leidt tot een bevestiging van je vermoeden. Voer je plan uit zoals geformuleerd in de experimentopzet. Leg je in het bijzonder neer bij de eindconclusie!

8 Toegepaste Statistiek, Week 4 8 Testtabel 1 nominale variabele, 2 categorieën waaronder succes Toetsen succeskans = p, meer specifiek = 1 2 (B) 1 nominale variabele, meer categorieën Gegeven kansverdeling toetsen (Gof) 2 nominale variabelen Onafhankelijkheid toetsen (χ 2, FE) 1 ordinale toevalsvariabele Toetsen normaal verdeeld (K) 1 ordinale toevalsvariabele, 1 nominaal, 2 cat. Toetsen gelijkheid gemiddelde Al of niet normaliteitsaanname (t, resp MWU) 1 ordinale toevalsvariabele, 1 nominaal, meer cat. Toetsen gelijkheid gemiddelde Al of niet normaliteitsaanname (1wA, resp KW) 1 ordinale toevalsvariabele, 1 nominaal, 2 cat., paring Toetsen gelijkheid gemiddelde Verschillen normaal, symmetrisch verd. of niet (t gep., resp W gep., tt) 1 ordinale toevalsvariabele, 1 nominaal, meer cat, blokking Toetsen onafhankelijkheid van nom. var. (F) 1 ordinale toevalsvariabele, 1 ordinale variabele Toetsen onafhankelijkheid Al of niet normaliteitsaanname (Pr, Sr) Schatten/toetsen lineaire relatie (RA) 1 ordinale toevalsvariabele, meer verkl. var. Toetsen onafhankelijkheid verkl. var. nominaal/ordinaal (MwA, MR)

9 Toegepaste Statistiek, Week 4 9 Case 1: Bij zijn onderzoek aangaande Sociale Alertheid (SA) heeft een psycholoog een SA-test bestaande uit 100 vragen. Het antwoord op elke vraag scoort 1 of 0 voor SA, zodat iedere vraag een gelijke bijdrage levert aan de SA-score. De totale score kan dus bedragen. De onderzoeker richt zijn aandacht op eeneiige tweelingen en vindt 8 tweelingen waarvan er een in huiselijke kring werd opgevoed en een andere op een kostschool. Hij onderwerpt de tweelingen aan zijn SA-test en vindt de volgende scores: Tweeling: Kostschoolscore: Huisgezinscore: Mag de onderzoeker beweren dat opvoeding invloed heeft op sociale alertheid? VAR: SA-score ordinaal; som van 100 scores dus normaal Opvoedingssituatie nominaal (Kostschool/Thuis) t-toets voor gepaarde waarnemingen Case 2: We kijken naar 4 groepen studenten van verschillende disciplines bij een inleidende cursus milieukunde. Aan het eind van de cursus kunnen de studenten kiezen uit de volgende alternatieven: 1. direct tentamen doen 2. het tentamen twee weken uitstellen 3. de cursus overdoen Hoe test je of de keuze van de studenten te maken heeft men hun discipline? VAR: Discipline nominaal (4 cat) en Keuze nominaal (3 cat) χ 2

10 Toegepaste Statistiek, Week 4 10 Case 3: Een eenvoudige brei-opdracht (bivakmuts) wordt gegeven aan 150 mannelijke en 120 vrouwelijke studenten. Na precies een uur wordt de lengte van de gebruikte draad gemeten (in meters). Getest moet worden of er verschil in breisnelheid bestaat tussen de groepen. VAR: Geslacht nominaal; breilengte ordinaal Mann Whitney U test Case 4: Een onderzoekster heeft een verdunningsreeks van tannine gemaakt en meet met de fotospectrometer de absorptie van het licht van elke verdunning. Hoe moet zij deze gegevens analyseren. VAR: Verdunningsgraad ordinaal; intensiteit ordinaal Regressie-analyse Case 5: Een bepaalde populatie zeeolifanten bestaat uit 200 mannen, 200 vrouwen en 360 juvenielen. Bij een monstername worden 30 mannen en 10 vrouwen gevangen. Laten mannen zich eerder verschalken? VAR: Geslacht, onder nulhypothese evenveel kans man of vrouw te krijgen, nl. 200:200 (als gevangen dier weer teruggezet wordt) Binomiaal toets.

11 Toegepaste Statistiek, Week 4 11 Lineaire regressie We gaan nu kijken naar een voorbeeld van een verband (afhankelijkheid) tussen twee ordinale variabelen, een toevalsvariabele of responsevariabele Y en een mogelijk instelbare variabele X, de verklarende variabele. Dimensies uitwerken, vb. Y : g en X: s Bij lineaire regressie modelleert men de afhankelijkheid op de eerste plaats in de vorm E(Y X = x) = a + bx In het algemeen is er een funktie r(x) = E(Y X = x), het populatiegemiddelde van Y in de proefsituatie waarin X is ingesteld op de waarde x. Deze funktie zal vaak te beschouwen zijn als een differentieerbare funktie. Als nu ook nog x over een voldoend klein waardengebied varieert, zal r(x) te benaderen zijn met een lineaire funktie r(x) = a+bx. Nu preciseren we het lineaire verband: Y = a + bx + R waarin R een niet waarneembare toevallige afwijking voorstelt, met gemiddelde waarde 0 (bij iedere X-waarde). De extra aanname is dat R normaal verdeeld is met een variantie die niet van de ingestelde X-waarde afhangt. Het kan goed zijn om de waarden van Y en/of X op een andere schaal uit te drukken (bijv. logarithmisch, zoiets heet een transformatie) om de homoscedasticiteit beter te benaderen.

12 Toegepaste Statistiek, Week 4 12 Model: Y = a + bx + R R is normaal verdeeld, is statistisch onafhankelijk van X, is normaal verdeeld met gemidddelde 0 en een gegeven variantie σ 2. Doel is a, b, en σ 2 te schatten. Toetsen of b = 0 betekent toetsen of Y onafhankelijk van X. Specialisatie b = 1: Toetsen of a = 0 levert t-toets gepaard Merk op dat σ 2 = VAR(Y X = x), en VAR(Y ) = b 2 VAR(X) + σ 2. Kennis van de X-waarde kan dus gebruikt worden om een deel van de variantie (de onzekerheid ) in Y weg te nemen, te verklaren. Zij gegeven de paren (Y 1, X 1 ),..., (Y n, X n ). Oplossing met de kleinste kwadraten methode: Zoek a en b zó dat (Y j a bx j ) 2 zo klein mogelijk. Geeft de helling (slope), schatter van b, (X j X n )(Y j Y n ) X ˆb = = ( j Y j ) ( X j )( Y j )/n (X j X n ) 2 ( Xj 2 ) ( X j ) 2 /n en de intercept, schatter van a, â = Y n ˆbX n Residuen: e j = Y j â ˆbX j, als schatting van R j. Residuele variantie (schat σ 2 ): s 2 R = 1 n 2 e 2 j

13 Toegepaste Statistiek, Week 4 13 Eigenschappen van de schatters: (ˆb b) t = s R / (X j X n ) 2 is Student-t verdeeld met df = n 2. Dit stelt je in staat om betrouwbaarheidsintervallen te maken voor b en om nulhypotheses te toetsen van de vorm b = 37 (of b 37). â a t = s R X 2 n/ (X j X n ) 2 + 1/n is Student-t verdeeld met df = n 2. Bovenstaande geldt zowel wanneer de X j waarden zijn ingesteld door de onderzoeker, als wanneer de X j toevallige waarden aanneemt. In het algemeen kan men zeggen, dat als ˆb niet significant van 0 afwijkt, het aanbevelenswaardig is om in het model b = 0 te nemen. Met name als men de lineaire vergelijking wil gebruiken om Y -waarden zo goed mogelijk te voorspellen. Het meenemen van ˆb kan leiden tot onnodige vergroting van de fout in de voorspelling. We hebben de volgende opsplitsing: (Y j Y n ) 2 = ˆb 2 (X j X n ) 2 + e 2 j Eerste term: SS verklaard door de regressie, Tweede term: SS der residuen

14 Toegepaste Statistiek, Week 4 14 Pearson product-moment correlatiecoëfficiënt: r = (X j X n )(Y j Y n ) (Xj X n ) 2 (Y j Y n ) 2 Is een getal tussen 1 en 1. Positief: hogere X-waarde dan ook hogere Y -waarde verwachten Negatief: hogere X-waarde dan lagere Y -waarde verwachten 1: dan Y j = a + bx j voor vaste a en b met b > 0-1: dan Y j = a + bx j voor vaste a en b met b < 0 Als Y onafhankelijk van X, dan is r 0 voor grote n.