Kansrekening en stochastische processen 2S610

Transcriptie

1 Kansrekening en stochastische processen 2S610 Docent : Jacques Resing j.a.c.resing@tue.nl 1/39

2 Een stochastisch proces (stochastic proces) X (t) bestaat uit een experiment met een kansmaat P[ ] en een functie die een tijdfunctie x(t, s) toevoegt aan elke uitkomst s in de uitkomstenruimte van het experiment. Een uitkomst functie (sample function) x(t, s) is de tijdfunctie die wordt geassocieerd aan een uitkomst s van het experiment. 2/39

3 Het ensemble van een stochastisch proces is de verzameling van alle mogelijke tijdfuncties die kunnen resulteren uit een experiment. 3/39

4 6000 Werkeloosheid in de Verenigde Staten /39

5 1.4 x 105 Omvang arbeidsmarkt Verenigde Staten /39

6 380 CO 2 gehalte in Hawai /39

7 Discrete of continue waarden X (t) is een discrete-waarde (discrete-value) stochastisch proces als alle mogelijke waarden van X (t) voor alle mogelijke waarden t, een aftelbare verzameling S X vormt. Indien dit niet het geval is wordt dit een continue-waarde (continuous-value) stochastisch proces genoemd. 7/39

8 Discrete of continue tijd X (t) is een discrete-tijd (discrete-time) stochastisch proces als X (t) alleen gedefinieerd is voor een verzameling tijdstippen t n = nt met T een constante en n een geheel getal. Indien dit niet het geval is wordt dit een continue-tijd (continuous-time) stochastisch proces genoemd. 8/39

9 Als we X (t 1 ) bekijken voor vaste t 1 dan is dat een stochast. We kunnen dan bijvoorbeeld de kansverdeling bepalen. We kunnen ook X (t 1 ) en X (t 2 ) bekijken voor vaste t 1 en t 2 en dan zijn dit twee stochasten waarvan we de gezamenlijke kansverdeling kunnen bepalen. 9/39

10 Voorbeeld Zij X (t) = R cos(2π f t) een signaal met een stochastische amplitude R met een exponentiële kansdichtheid: { 1 f R (r) = 10 e r/10 r 0 0 anders Wat is de kansdichtheid f X (t) (x)? 10/39

11 Een onafhankelijke, identiek verdeelde stochastische rij is een stochastisch proces waarbij..., X 2, X 1, X 0, X 1, X 2,... onafhankelijke, identiek verdeelde stochastische variabelen zijn. 11/39

12 Een Bernouilli(p) proces X n is een onafhankelijke, identiek verdeelde stochastische rij waarbij elke X n een Bernouilli(p) stochastische variabele is. 12/39

13 Zij X n een onafhankelijke, identiek verdeelde stochastische rij. Voor een discrete-waarde proces heeft de bemonsteringsvector X n1 X =. X nk een gezamenlijke kansverdelingsfunctie: P X (x) = P X (x 1 )P X (x 2 ) P X (x k ) = k P X (x i ) i=1 13/39

14 Zij X n een onafhankelijke, identiek verdeelde stochastische rij. Voor een continue-waarde proces heeft de bemonsteringsvector X n1 X =. X nk een gezamenlijke kansdichtheid: f X (x) = f X (x 1 ) f X (x 2 ) f X (x k ) = k i=1 f X (x i ) 14/39

15 Een stochastisch proces N(t) is een telproces (counting proces) als voor elke uitkomst functie n(t, s) = 0 voor t < 0 en n(t, s) geheeltallig is en nietdalend in de tijd. 15/39

16 Poisson proces Een telproces N(t) is een Poisson proces met snelheid λ als: N(0) = 0. Het aantal aankomsten in een interval (t 0, t 1 ], N(t 1 ) N(t 0 ) is een Poisson stochast met verwachting λ(t 1 t 0 ). Voor elk paar niet overlappende intervallen (t 0, t 1 ] en (t 0, t 1 ], zijn het aantal aankomsten in de twee intervallen, N(t 1 ) N(t 0 ) en N(t 1 ) N(t 0 ) respectievelijk, onafhankelijke stochastische variabelen. 16/39

17 Poisson(α) stochastische variabele X is een Poisson(α) stochastische variabele als de waarschijnlijkheidsfunctie de volgende vorm heeft: P X (x) = { α x e α x! als x = 0, 1, 2,... 0 anders met de parameter α zodanig dat α > 0. 17/39

18 Voor een Poisson proces N(t) met snelheid λ, is de gezamenlijke kansverdelingsfunctie van N(t 1 ) N =. N(t k ) gelijk aan α n 1 1 e α 1 α n 2 n 1 2 e α 2 P N (n) = n 1! (n 2 n 1 )! αnk nk 1 k e α k (n k n k 1 )! als 0 n 1 n k, 0 anders met α 1 = λt 1 en voor i = 2,..., k hebben we α i = λ(t i t i 1 ). 18/39

19 Voor een Poisson proces met snelheid λ is de tussenaankomsttijd een onafhankelijke, identiek verdeelde rij met een exponentiële kansdichtheid: { λe λx x 0 f X (x) = 0 anders 19/39

20 Een telproces met onafhankelijke exponentieel(λ) verdeelde tussenaankomsttijd, is een Poisson proces met snelheid λ. 20/39

21 Zij N 1 (t) en N 2 (t) twee onafhankelijke Poisson processen met snelheid λ 1 en λ 2. Dan is het telproces N 1 (t) + N 2 (t) een Poisson proces met snelheid λ 1 + λ 2. 21/39

22 Voorbeeld Er komen auto s, bussen en vrachtwagens aan bij een tolpoort met aankomsten verdeeld volgens onafhankelijke Poisson processen met snelheden λ c = 1.2 auto s/minuut, λ b = 0.7 bussen/minuut en λ v = 0.9 vrachtwagens/minuut. In een 10 minuten interval wat is de kansverdeling van het aantal voertuigen (auto s, bussen en vrachtwagens) dat zal aankomen bij de tol. 22/39

23 Voorbeeld Zij N(t) een Poisson proces met snelheid λ. Zij N (t) het proces waarbij we alleen de even aankomsten tellen, d.w.z. aankomsten 2,4,6 van het proces N(t). Is N (t) een Poisson proces? 23/39

24 De telprocessen N 1 (t) en N 2 (t) afgeleid uit de Bernouilli decompositie van het Poissonproces van het Poisson proces N(t) zijn onafhankelijke Poisson processen met snelheden λp en λ(1 p). De Bernouilli decompositie komt door elke aankomst met een kans p een aankomst voor N 1 (t) te maken en met een kans 1 p een aankomst voor N 2 (t). 24/39

25 Voorbeeld Een website telt het aantal hits die Poisson verdeeld zijn met een snelheid van 10 hits per seconde. Elke hit is met kans 0.7 een intern verzoek en komt met kans 0.3 van buiten. Over een 10 minuten interval wat is de gemeenschappelijke kansverdeling van het aantal interne hits I en het aantal externe hits X. 25/39

26 Zij N(t) = N 1 (t)+ N 2 (t) de som van twee onafhankelijke Poisson processen met snelheden λ 1 en λ 2. Gegeven dat N(t) een aankomst heeft, is de kans dat de aankomst van N 1 (t) afkomstig is, gelijk aan λ 1 λ 1 + λ 2. 26/39

27 Brownse beweging Een stochastisch proces W (t) wordt een Brownse beweging (Brownian motion) genoemd als het de eigenschap heeft dat W (0) = 0 en W (t +τ) W (t) Gaussisch (0, ατ) is en onafhankelijk van W (t ) voor alle t t. 27/39

28 Voor een Brownse beweging W (t), is de gezamenlijke kansdichtheid van W (t 1 ) W =. W (t k ) gelijk aan f W (w) = k n=1 1 2πα(tn t n 1 ) e (w n w n 1 ) 2 /[2α(t n t n 1 )] 28/39

29 Verwachting De verwachting (expectation) van een stochastisch proces X (t) is een deterministische functie: µ X (t) = E[X (t)] 29/39

30 Autocovariantie De autocovariantie (autocovariance) van een stochastisch proces X (t) is: C X (t, τ) = Cov[X (t), X (t + τ)]. De autocovariantie van een stochastisch rij X n is: C X [m, k] = Cov[X m, X m+k ]. 30/39

31 Autocorrelatie De autocorrelatie (autocorrelation) van een stochastisch proces X (t) is: R X (t, τ) = E[X (t)x (t + τ)]. De autocorrelatie van een stochastisch rij X n is: R X [m, k] = E[X m X m+k ]. 31/39

32 Voorbeeld Bepaal de autocovariantie C X (t, τ) en de autocorrelatie R X (t, τ) van de Brownse beweging W (t). 32/39

33 Voorbeeld De ingang van een digitaal filter is een onderling onafhankelijk, identiek verdeeld stochastische rij..., X 1, X 0, X 1,... met E[X i ] = 0 en Var[X i ] = 1. De uitgang is een stochastische rij..., Y 1, Y 0, Y 1,... gerelateerd aan de ingang volgens de formule: Y n = X n + X n 1 Bepaal de verwachting E[Y n ] en de autocovariantie C X [m, k]. 33/39

34 De autocovariantie en de autocorrelatie van een stochastisch proces X (t) voldoen aan de volgende formule: C X (t, τ) = R X (t, τ) µ X (t)µ X (t + τ) De autocovariantie en de autocorrelatie van een stochastische rij X n voldoen aan de volgende formule: C X [m, k] = R X [m, k] µ X (m)µ X (m + k) 34/39

35 Stationaire processen Een stochastisch proces X (t) is stationair (stationary) dan en slechts dan als voor elke verzameling tijdstippen t 1,..., t m en elke tijdsverschil τ we hebben: f X (t1 ),...,X (t m )(x 1,..., x m ) = f X (t1 +τ),...,x (t m +τ)(x 1,..., x m ) Een stochastisch rij X n is stationair dan en slechts dan als voor elke verzameling geheeltallige tijdstippen t 1,..., t m en elke tijdsverschil k we hebben: f Xt1,...,X t m (x 1,..., x m ) = f Xt1 +k,...,x t m+k (x 1,..., x m ) 35/39

36 Voor een stationair proces X (t) hebben de verwachting, de autocorrelatie en de autocovariantie de volgende eigenschappen voor elke t: µ X (t) = µ X. R X (t, τ) = R X (0, τ) = R X (τ). C X (t, τ) = R X (τ) 2 µ 2 X = C X(τ). 36/39

37 Voor een stationaire stochastische rij X n, hebben de verwachting, de autocorrelatie en de autocovariantie de volgende eigenschappen voor elke n: E[X n ] = µ X. R X [n, k] = R X [0, k] = R X (k). C X [n, k] = R X [k] 2 µ 2 X = C X[k]. 37/39

38 Voorbeeld Ga na of de Brownse beweging met parameter α stationair is. 38/39

39 Voorbeeld Voor de ontvanger van een AM radio, is het ontvangen signaal een sinusoidale drager met frequentie f c met een stochastische fase die uniform verdeeld is op (0, 2π). Het ontvangen signaal is: X (t) = A cos(2π f c t + ) Wat is de verwachting en de autocorrelatie van het stochastische proces X (t). 39/39