Schatting voor het aantal tanks: is statistiek beter dan de geheime dienst?

Transcriptie

1 Schatting voor het aantal tanks: is statistiek beter dan de geheime dienst? dr. H.P. Lopuhaä UHD Statistiek Opleiding Technische Wiskunde Faculteit Informatietechnologie & Systemen Technische Universiteit Delft TU Delft Opleiding Technische Wiskunde

2 Inhoud Introductie

3 Inhoud Introductie Mogelijke schattingsmethoden

4 Inhoud Introductie Mogelijke schattingsmethoden Onderzoeken en vergelijken van de verschillende methoden

5 Inhoud Introductie Mogelijke schattingsmethoden Onderzoeken en vergelijken van de verschillende methoden Wat heeft dit met Wiskunde te maken?

6 Inhoud Introductie Mogelijke schattingsmethoden Onderzoeken en vergelijken van de verschillende methoden Wat heeft dit met Wiskunde te maken? Resultaten voor de 2e wereldoorlog TU Delft Opleiding Technische Wiskunde

7 Introductie Begin 1943: Economic Warfare Division van de Amerikaanse ambassade in Londen begint een samenwerking het Britse Ministry of Economic Warfare waarbij men merktekens en serienummers analyseert op buitgemaakt Duits oorlogsmateriaal

8 Introductie Begin 1943: Economic Warfare Division van de Amerikaanse ambassade in Londen begint een samenwerking het Britse Ministry of Economic Warfare waarbij men merktekens en serienummers analyseert op buitgemaakt Duits oorlogsmateriaal Doel: beter inzicht te verkijgen in de Duitse oorlogsproductie (hoeveel, wanneer en waar) en oorlogsterkte

9 Introductie Begin 1943: Economic Warfare Division van de Amerikaanse ambassade in Londen begint een samenwerking het Britse Ministry of Economic Warfare waarbij men merktekens en serienummers analyseert op buitgemaakt Duits oorlogsmateriaal Doel: beter inzicht te verkijgen in de Duitse oorlogsproductie (hoeveel, wanneer en waar) en oorlogsterkte Eerst banden van trucks, auto s en vliegtuigen Later tanks, trucks, kanonnen, raketten TU Delft Opleiding Technische Wiskunde

10 Banden n serienummers werden gedecodeerd en vertaald naar een steekproef van n getallen uit 1, 2,..., N De onbekende N interpreteren we als het totaal aantal banden

11 Banden n serienummers werden gedecodeerd en vertaald naar een steekproef van n getallen uit 1, 2,..., N De onbekende N interpreteren we als het totaal aantal banden Doel: schat N op basis van de n buitgemaakte serienummers TU Delft Opleiding Technische Wiskunde

12 Statistisch model de gedecodeerde serienummers X 1, X 2,..., X n vatten we op als trekkingen zonder teruglegging uit 1, 2,..., N

13 Statistisch model de gedecodeerde serienummers X 1, X 2,..., X n vatten we op als trekkingen zonder teruglegging uit 1, 2,..., N elk getal uit 1, 2,..., N heeft evenveel kans om getrokken te worden

14 Statistisch model de gedecodeerde serienummers X 1, X 2,..., X n vatten we op als trekkingen zonder teruglegging uit 1, 2,..., N elk getal uit 1, 2,..., N heeft evenveel kans om getrokken te worden het resultaat van een bepaalde trekking heeft geen invloed op het resultaat van andere trekkingen TU Delft Opleiding Technische Wiskunde

15 Mogelijke schattingsmethoden

16 Mogelijke schattingsmethoden 1. Methode gebaseerd op het gemiddelde van de steekproef

17 Mogelijke schattingsmethoden 1. Methode gebaseerd op het gemiddelde van de steekproef 2. Methode gebaseerd op het maximum van de steekproef

18 Mogelijke schattingsmethoden 1. Methode gebaseerd op het gemiddelde van de steekproef 2. Methode gebaseerd op het maximum van de steekproef 3. Methode gebaseerd op onderlinge tussenafstanden in de steekproef TU Delft Opleiding Technische Wiskunde

19 1. Schatter gebaseerd op het gemiddelde Merk op dat voor het gemiddelde van alle getallen geldt N N = 1 2N(N + 1) N = N + 1 2

20 1. Schatter gebaseerd op het gemiddelde Merk op dat voor het gemiddelde van alle getallen geldt N N = 1 2N(N + 1) N = N Dit suggereert voor het gemiddelde van de getallen in de steekproef, dat X n = X 1 + X X n n N + 1 2

21 1. Schatter gebaseerd op het gemiddelde Merk op dat voor het gemiddelde van alle getallen geldt N N = 1 2N(N + 1) N = N Dit suggereert voor het gemiddelde van de getallen in de steekproef, dat Neem als schatter voor N X n = X 1 + X X n n N T 1 = 2 X n 1 TU Delft Opleiding Technische Wiskunde

22 2. Schatter gebaseerd op het maximum Merk op dat voor M n = maximum van X 1, X 2,..., X n geldt M n n n + 1 N

23 2. Schatter gebaseerd op het maximum Merk op dat voor M n = maximum van X 1, X 2,..., X n geldt M n n n + 1 N zodat n + 1 n M n N

24 2. Schatter gebaseerd op het maximum Merk op dat voor M n = maximum van X 1, X 2,..., X n geldt M n n n + 1 N zodat n + 1 n M n N Merk echter ook op dat voor alle getallen (n = N) geldt N + 1 N M N = N + 1 N N = N + 1

25 2. Schatter gebaseerd op het maximum Merk op dat voor M n = maximum van X 1, X 2,..., X n geldt M n n n + 1 N zodat n + 1 n M n N Merk echter ook op dat voor alle getallen (n = N) geldt Dus neem als schatter N + 1 N M N = N + 1 N N = N + 1 T 2 = n + 1 n M n 1 TU Delft Opleiding Technische Wiskunde

26 3. Schatter gebaseerd op tussenafstanden Definieer de tussenafstand D i als het aantal ontbrekende nummers tussen het i-de en het (i + 1)-de steekproefnummer in volgorde naar grootte

27 3. Schatter gebaseerd op tussenafstanden Definieer de tussenafstand D i als het aantal ontbrekende nummers tussen het i-de en het (i + 1)-de steekproefnummer in volgorde naar grootte Merk op dat het aantal ontbrekende nummers tussen het maximum en N ongeveer gelijk is aan de gemiddelde tussenafstand: N M n D D n 1 n 1

28 3. Schatter gebaseerd op tussenafstanden Definieer de tussenafstand D i als het aantal ontbrekende nummers tussen het i-de en het (i + 1)-de steekproefnummer in volgorde naar grootte Merk op dat het aantal ontbrekende nummers tussen het maximum en N ongeveer gelijk is aan de gemiddelde tussenafstand: Dus neem als schatter N M n D D n 1 n 1 T 3 = M n + D D n 1 n 1 TU Delft Opleiding Technische Wiskunde

29 Mogelijke schattingsmethoden 1. methode gebaseerd op het gemiddelde: T 1 = 2 X n 1

30 Mogelijke schattingsmethoden 1. methode gebaseerd op het gemiddelde: 2. methode gebaseerd op het maximum T 1 = 2 X n 1 T 2 = n + 1 n M n 1

31 Mogelijke schattingsmethoden 1. methode gebaseerd op het gemiddelde: 2. methode gebaseerd op het maximum 3. methode gebaseerd op tussenafstanden T 1 = 2 X n 1 T 2 = n + 1 n M n 1 T 3 = M n + D D n 1 n 1 TU Delft Opleiding Technische Wiskunde

32 Onderzoeken van de drie methoden Wordt schatting beter als n toeneemt?

33 Onderzoeken van de drie methoden Wordt schatting beter als n toeneemt? Hoe snel komt schatting dichter bij N?

34 Onderzoeken van de drie methoden Wordt schatting beter als n toeneemt? Hoe snel komt schatting dichter bij N? In hoeverre speelt de getrokken steekproef een rol?

35 Onderzoeken van de drie methoden Wordt schatting beter als n toeneemt? Hoe snel komt schatting dichter bij N? In hoeverre speelt de getrokken steekproef een rol? Neem als voorbeeld N = Trek zonder teruglegging n getallen uit 1, 2,...,

36 Onderzoeken van de drie methoden Wordt schatting beter als n toeneemt? Hoe snel komt schatting dichter bij N? In hoeverre speelt de getrokken steekproef een rol? Neem als voorbeeld N = Trek zonder teruglegging n getallen uit 1, 2,..., Gedrag bij toenemende steekproefomvang n Plot de waarde van de schatter als functie van n TU Delft Opleiding Technische Wiskunde

37 Gedrag bij herhaalde steekproeven van vaste omvang Is de schatting gemiddeld genomen in de buurt van N?

38 Gedrag bij herhaalde steekproeven van vaste omvang Is de schatting gemiddeld genomen in de buurt van N? Neem als voorbeeld N = en n = 500

39 Gedrag bij herhaalde steekproeven van vaste omvang Is de schatting gemiddeld genomen in de buurt van N? Neem als voorbeeld N = en n = Trek zonder teruglegging 500 getallen uit 1, 2,...,

40 Gedrag bij herhaalde steekproeven van vaste omvang Is de schatting gemiddeld genomen in de buurt van N? Neem als voorbeeld N = en n = Trek zonder teruglegging 500 getallen uit 1, 2,..., Bereken de schatter

41 Gedrag bij herhaalde steekproeven van vaste omvang Is de schatting gemiddeld genomen in de buurt van N? Neem als voorbeeld N = en n = Trek zonder teruglegging 500 getallen uit 1, 2,..., Bereken de schatter 3. Herhaal stap 1 en 2 een groot aantal malen, zeg 1000 keer

42 Gedrag bij herhaalde steekproeven van vaste omvang Is de schatting gemiddeld genomen in de buurt van N? Neem als voorbeeld N = en n = Trek zonder teruglegging 500 getallen uit 1, 2,..., Bereken de schatter 3. Herhaal stap 1 en 2 een groot aantal malen, zeg 1000 keer Plot een histogram van de 1000 herhaalde schattingen TU Delft Opleiding Technische Wiskunde

43 Onderling vergelijken van de drie methodes Hoe erg verschilt de mate van spreiding?

44 Onderling vergelijken van de drie methodes Hoe erg verschilt de mate van spreiding? Neem als voorbeeld N = en n = 500

45 Onderling vergelijken van de drie methodes Hoe erg verschilt de mate van spreiding? Neem als voorbeeld N = en n = Trek zonder teruglegging 500 getallen uit 1, 2,...,

46 Onderling vergelijken van de drie methodes Hoe erg verschilt de mate van spreiding? Neem als voorbeeld N = en n = Trek zonder teruglegging 500 getallen uit 1, 2,..., Bereken alledrie de schatters

47 Onderling vergelijken van de drie methodes Hoe erg verschilt de mate van spreiding? Neem als voorbeeld N = en n = Trek zonder teruglegging 500 getallen uit 1, 2,..., Bereken alledrie de schatters 3. Herhaal stap 1 en 2 een groot aantal malen, zeg 1000 keer Vergelijk de drie histogrammen van de 1000 schattingen TU Delft Opleiding Technische Wiskunde

48 Wat heeft dit met wiskunde te maken? 1. T ligt gemiddeld genomen dicht bij N wordt wiskundig geformaliseerd door het begrip zuiverheid van een schatter T. Stel dat T een schatter is met mogelijke waarden w 1, w 2,....

49 Wat heeft dit met wiskunde te maken? 1. T ligt gemiddeld genomen dicht bij N wordt wiskundig geformaliseerd door het begrip zuiverheid van een schatter T. Stel dat T een schatter is met mogelijke waarden w 1, w 2,.... We zeggen dat T een zuivere schatter is voor N, als voor alle N E(T ) = w 1 P (T = w 1 ) + w 2 P (T = w 2 ) + = N

50 Wat heeft dit met wiskunde te maken? 1. T ligt gemiddeld genomen dicht bij N wordt wiskundig geformaliseerd door het begrip zuiverheid van een schatter T. Stel dat T een schatter is met mogelijke waarden w 1, w 2,.... We zeggen dat T een zuivere schatter is voor N, als voor alle N E(T ) = w 1 P (T = w 1 ) + w 2 P (T = w 2 ) + = N Voor onze drie schatters geldt: E(T 1 ) = N

51 Wat heeft dit met wiskunde te maken? 1. T ligt gemiddeld genomen dicht bij N wordt wiskundig geformaliseerd door het begrip zuiverheid van een schatter T. Stel dat T een schatter is met mogelijke waarden w 1, w 2,.... We zeggen dat T een zuivere schatter is voor N, als voor alle N E(T ) = w 1 P (T = w 1 ) + w 2 P (T = w 2 ) + = N Voor onze drie schatters geldt: E(T 1 ) = N, E(T 2 ) = N

52 Wat heeft dit met wiskunde te maken? 1. T ligt gemiddeld genomen dicht bij N wordt wiskundig geformaliseerd door het begrip zuiverheid van een schatter T. Stel dat T een schatter is met mogelijke waarden w 1, w 2,.... We zeggen dat T een zuivere schatter is voor N, als voor alle N E(T ) = w 1 P (T = w 1 ) + w 2 P (T = w 2 ) + = N Voor onze drie schatters geldt: E(T 1 ) = N, E(T 2 ) = N, E(T 3 ) = N TU Delft Opleiding Technische Wiskunde

53 Wat heeft dit met wiskunde te maken? 2. De mate van spreiding van T rond N wordt wiskundig geformaliseerd door het begrip variantie van een schatter T.

54 Wat heeft dit met wiskunde te maken? 2. De mate van spreiding van T rond N wordt wiskundig geformaliseerd door het begrip variantie van een schatter T. De variantie van een schatter T is gedefinieerd als V (T ) = E(T E(T )) 2

55 Wat heeft dit met wiskunde te maken? 2. De mate van spreiding van T rond N wordt wiskundig geformaliseerd door het begrip variantie van een schatter T. De variantie van een schatter T is gedefinieerd als V (T ) = E(T E(T )) 2 Voor onze drie schatters geldt V (T 1 ) = (N n)(n + 1) 3n

56 Wat heeft dit met wiskunde te maken? 2. De mate van spreiding van T rond N wordt wiskundig geformaliseerd door het begrip variantie van een schatter T. De variantie van een schatter T is gedefinieerd als V (T ) = E(T E(T )) 2 Voor onze drie schatters geldt V (T 1 ) = V (T 2 ) = (N n)(n + 1) 3n (N n)(n + 1) (n + 2)n

57 Wat heeft dit met wiskunde te maken? 2. De mate van spreiding van T rond N wordt wiskundig geformaliseerd door het begrip variantie van een schatter T. De variantie van een schatter T is gedefinieerd als V (T ) = E(T E(T )) 2 Voor onze drie schatters geldt V (T 1 ) = V (T 2 ) = V (T 3 ) = (N n)(n + 1) 3n (N n)(n + 1) (n + 2)n (N n)(n + 1)n (n + 2)(n 1)(n + 1) TU Delft Opleiding Technische Wiskunde

58 Wat heeft dit met wiskunde te maken? 3. Bestaat er een zuivere schatter met de kleinst mogelijke variantie?

59 Wat heeft dit met wiskunde te maken? 3. Bestaat er een zuivere schatter met de kleinst mogelijke variantie? Met andere woorden, bestaat er een T die voldoet aan E(T ) = N zodanig dat V (T ) V (U) voor elke andere schatter U, die voldoet aan E(U) = N TU Delft Opleiding Technische Wiskunde

60 Wat heeft dit met wiskunde te maken? JA:

61 Wat heeft dit met wiskunde te maken? JA: Met behulp van wiskundige theorie ( ) kan worden afgeleid dat schatter T 2 = n + 1 n M n 1 een zuivere schatter is, met de kleinst mogelijke variantie onder alle zuivere schatters

62 Wat heeft dit met wiskunde te maken? JA: Met behulp van wiskundige theorie ( ) kan worden afgeleid dat schatter T 2 = n + 1 n M n 1 een zuivere schatter is, met de kleinst mogelijke variantie onder alle zuivere schatters Welke methode gebruikte men in de tweede wereldoorlog? TU Delft Opleiding Technische Wiskunde

63 Methode tijdens tweede wereldoorlog Tijdens de tweede wereldoorlog gebruikte men schatter T 3

64 Methode tijdens tweede wereldoorlog Tijdens de tweede wereldoorlog gebruikte men schatter T 3 Merk op dat T 3 = max + D D n 1 n 1

65 Methode tijdens tweede wereldoorlog Tijdens de tweede wereldoorlog gebruikte men schatter T 3 Merk op dat T 3 = max + D D n 1 n 1 max min = max + 1 n 1

66 Methode tijdens tweede wereldoorlog Tijdens de tweede wereldoorlog gebruikte men schatter T 3 Merk op dat T 3 = max + D D n 1 n 1 max min = max + 1 n 1 = n 2 n 2 1 T n 2 1 min n 1

67 Methode tijdens tweede wereldoorlog Tijdens de tweede wereldoorlog gebruikte men schatter T 3 Merk op dat T 3 = max + D D n 1 n 1 max min = max + 1 n 1 = T 2 n 2 n 2 1 T n 2 1 min n 1 TU Delft Opleiding Technische Wiskunde

68 Gemiddelde maandelijkse productie van banden tijdens periode Januari - Maart 1943 Type band schatting werkelijk Truck en auto Vliegtuig Totaal

69 Gemiddelde maandelijkse productie van banden tijdens periode Januari - Maart 1943 Type band schatting werkelijk geheime dienst Truck en auto Vliegtuig Totaal TU Delft Opleiding Technische Wiskunde

70 Productie van trucks in 1942 Type truck schatting werkelijk Lichte truck Medium truck Zware truck Totaal

71 Productie van trucks in 1942 Type truck schatting werkelijk geheime dienst Lichte truck Medium truck Zware truck Totaal TU Delft Opleiding Technische Wiskunde

72 Gemiddelde maandelijkse productie van tanks in Datum schatting werkelijk Juni Juni Augustus

73 Gemiddelde maandelijkse productie van tanks in Datum schatting werkelijk geheime dienst Juni Juni Augustus TU Delft Opleiding Technische Wiskunde

74 Jaarlijkse productie van kanonnen Type Jaar schatting werkelijk 7.5 cm. Pak cm. Kwk cm. Kwk TU Delft Opleiding Technische Wiskunde

75 Productie van V-2 raketten Periode schatting werkelijk Tot aan 15 sep sep - 29 okt okt - 24 nov nov - 15 jan jan -15 feb TU Delft Opleiding Technische Wiskunde