4.1 College Week 4. Probleem (P 3.1 ) Zij f : D IR, met D IR n :

Transcriptie

1 4.1 College Week 4 Probleem (P 3.1 ) Zij f : D IR, met D IR n : f 0 (x) extr, f i (x) = 0, 1 i m, noemen wij een n-dimensionaal optimaliseringsprobleem met nevenvoorwaarden in vorm van een stelsel bestaande uit meer dan één vergelijking De Lagrangemethode Wij voeren op de productruimte D IR m+1 de Lagrangefunctie L in, gedefineerd door L(x, λ) = λ i f i (x). De rijvector λ wordt de Lagrange multiplicator genoemd. Wij schrijven L x (y, λ) voor de rijvector van partiële afgeleiden naar x in y: ( L L x (y, λ) = (y, λ),..., L ) (y, λ). x 1 x n Theorem 1 (Theorem 3.3 p. 143 uit B&V.) Zij f 0 differentieerbaar in y D en f i, 1 i m, continu differentieerbaar in y. Zij y een inwendig punt van D zó, dat f(y) een lokaal extremum is van f op de verzameling T = {x D : f i (x) = 0, 1 i m}. Er geldt: er bestaat een Lagrange multiplicator λ 0 m+1 zó, dat y een stationair punt is van L(x, λ), oftewel L x (y, λ) = 0 n ( λ i f i(y) = 0 fi n = λ i (y),..., f ) i (y) x 1 x n λ i f i x j (y) = 0, 1 j n. N.B.: de vectoren f i(y), 0 i m, zijn lineair afhankelijk. In worden: een lokaal extremum van het optimaliseeringsprobleem is ook altijd een stationair punt van de Lagrangefunctie. Het is echter niet altijd zo dat een lokaal extremum van het optimaliseeringsprobleem ook een lokaal extremum van de Lagrangefunctie is. 1

2 4.1.2 Interpretatie van de λ-vector Probleem (P 3.1) Zij f : D IR, met D IR n : f 0 (x) extr, f i (x) = b i, 1 i m, Stel dat de Lagrange methode kan worden toegepast op het bovenstaande probleem met ˆf i = f i b i = 0, 1 i m. De oplossing y is een stationair punt van L(x, λ). De waarde functie f 0 (b) := f 0 (y 1(b),..., y n(b)) hangt van de waarde van de restrictie b af. Veronderstel dat y (b) differentieerbaar is in b, dan is b j f 0 (b) = λ j (b), 1 j m. De Lagrangemultiplicator λ j geeft dus aan hoe waardefunctie in de optimale oplossing y van de constante b j afhangt. Het getal λ j (b) word ook schaduw prijs of marginale waarde genoemd. Het bovengenoemde resultaat is een voorbeeld van een envelop theorema. In het volgende wordt een volledig envelop theorema gegeven. Theorem 2 (Envelop theorema) De voorwaarden in theorema 1 zijn vervult. Voor 1 i m, zij restrictie f i afhankelijk van b i en continu differentieerbaar in b i. De Lagrangefunctie heeft een uniek stationair punt x = x (b ) voor b = b. Er geldt: ( ) ( ) f 0 (b) = L(x, b), 1 i m. b i b=b b i x=x (b),b=b 2

3 4.1.3 Bewijs van de Lagrangemethode Zij F gedefinieerd op R 2. De niveaukromme F (x, y) = c zij differentieerbaar op R 2. De helling van de niveaukromme in het punt (x, y) is gegeven door F (x, y) = c y = x y F (x, y) F (x, y). De vergelijking voor de tangent in het punt (x 0, y 0 ) is dan en vergelijking voor de tangent is x F (x 0, y 0 ) F (x y 0, y 0 ) x y y 0 = F (x 0, y 0 ) F (x y 0, y 0 ) (x x 0) (dus (x, y) is een punt op de tangent als (x, y) aan de bovenstaande vergelijking voldoet). Dit kan worden herschrijven als x F (x 0, y 0 )(x x 0 ) + y F (x 0, y 0 )(y y 0 ) = 0 oftewel ( x F (x 0, y 0 ), ) y F (x 0, y 0 ) (x x 0, y y 0 ) = 0 F (x 0, y 0 )(x x 0, y y 0 ) = 0. De gradient staat dus loodrecht (orthogonal) op de tangent. Zij x 0 = (x 0 1,..., x 0 n) een punt op het niveau-oppervlak F (x) = C voor F : R n R. Men noemt de verzameling van alle x = (x 1,..., x n ) zó dat F (x 0 )(x 1 x 0 x 1) F (x 0 )(x n x 0 1 x n) = 0 F (x 0 )(x x 0 ) = 0 1 de tangenten hyperruimte van het niveau-oppervlak F (x) = C in het punt x 0. De tangent is een lineaire functie. De tangent raakt daarom de functie in het algemeen ook allen in slechts één punt. De volgende stelling draait dit om en stelt dat men in de buurt van de tangent in een punt, bijvoorbeeld x, een afbeelding vinden kan die in een omgeving van x wél identiek met de functie is. 3

4 Theorem 3 (Tangent Space Theorem) Zij ˆx IR n, U IR n een open omgeving van ˆx, f i : U IR m, 1 i m, en f 1 (x 1,..., x n ) f 2 (x 1,..., x n ) F (x 1,..., x n ) =. f m (x 1,..., x n ) een vector afbeelding van U naar IR m zó dat F is continu differentieerbaar in ˆx, rankf (ˆx) = m en F (ˆx) = 0. Zij F (ˆx)v = 0, dan bestaat een afbeelding r : IR n IR n zó dat voor (een wat kleinere) omgeving U geldt dat F ( tv + r(tv) ) = 0 m voor v othogonal op de tangenten hyperruimte in ˆx, tv U en r(tv) = o(t). Andere verwoordingen voor v othogonal op de tangenten hyperruimte in ˆx : v kernf (ˆx), of v y voor ieder y in de door F (ˆx) opgespannen ruimte. 4

5 4.2 Practicum Week 4 Opgave 1 Probleem uit B&V. Opgave 2 Exercise uit B&V. Opgave 3 Exercise uit B&V. Opgave 4 Exercise uit B&V. Opgave 5 Exercise uit B&V (!) 4.3 Opdracht voor Week 4 Zelfstudie hoofdstuk 4 (tweede gedeelte) uit Optimization: Insights and Applications 5