Simulatie van informatie-entropie in financiële markten op basis van moleculaire dynamica

Transcriptie

1 Faculteit Wetenschappen Vakgroep Fysica en Sterrenkunde Voorzitter: Prof. Dr. Dirk Ryckbosch Simulatie van informatie-entropie in financiële markten op basis van moleculaire dynamica door Pieter Van Nuffel Promotor: Prof. Dr. Jan Ryckebusch Masterproef ingediend tot het behalen van de academische graad van Master in de Fysica en Sterrenkunde Academiejaar

2

3 Dankwoord Wanneer je gefascineerd raakt door interessante theorieën, dan worden die je doorgaans aangereikt door interessante mensen. Het was een regenachtige zaterdag in 2005 toen ik voor het eerst met het concept econofysica in aanraking kwam, tijdens een lezing van prof. dr. Jan Ryckebusch. Die paste in een gevarieerde lezingenreeks georganiseerd aan de UGent ter ere van het wonderjaar waarin ene Albert Einstein honderd jaar eerder een ware revolutie had ontketend in de natuurkunde. En het moet gezegd, die lezingen maakten stuk voor stuk een meeslepende indruk op mij. Na de presentatie over de fysica van financiële markten, stond mijn besluit vast: ik zou natuurkunde studeren. Vooralsnog de beste beslissing van mijn leven. Daarom wil ik Jan Ryckebusch driemaal bedanken. Ten eerste: voor die lezing. Ten tweede: als lesgever, om me anders te leren denken over concepten als temperatuur, fasetransities en kritisch gedrag. Ten derde: als promotor, voor de positieve raad en de aangename samenwerking. Dankuwel Jan. Simon Standaert verdient hier tevens een vermelding, want in de prille beginfase van mijn onderzoek werd ik door hem op weg geholpen doorheen de computercode. Ook ben ik dankbaar voor de computationele hulp die me werd aangeboden door de immer behulpzame Maarten Van Halst en Lesley De Cruz. Verder ben ik evenzeer de makers van de vrije software waarop ik beroep heb gedaan, bijzonder erkentelijk. ii

4 Uiteraard mag ik mijn persoonlijke entourage niet vergeten, want ook zij hebben -op een of andere manier- geholpen vorm te geven aan mijn denken. Bedankt zus, voor de hulp en de vele discussies. Mijn vrienden, mijn medestudenten en de redactie van Schamper dank ik voor de bemoedigende woorden. En voor de moeite om alles na te lezen, heeft Michael Houbraken nog een fles wijn van me te goed. Ik zie deze masterproef niet als het eindpunt van mijn wetenschappelijke ontplooiing, want na het indienen ervan zal mijn nieuwsgierigheid naar hoe de natuur in elkaar zit, niet verdwenen zijn. Toch kan je een thesis in zekere zin beschouwen als het sluitstuk van een eerste fase in een mensenleven. Dan komt plots het besef dat het mijn ouders waren, die er als mecenassen voor gezorgd hebben dat ik me al die tijd zorgeloos op het studeren kon focussen. En toegegeven, dan komt daarenboven het besef dat zij al die tijd nog eens mijn asociaal gedrag moesten gedogen. Aan hen ben ik bijgevolg meer dank verschuldigd dan aan wie ook op deze planeet. Pieter Van Nuffel, juli 2011 iii

5 Samenvatting In mijn masterproef onderzoek ik de entropie-evolutie van een systeem dat zich niet in evenwicht bevindt. Dat gebeurt aan de hand van simulaties van een vloeistof met behulp van moleculaire dynamica. Deze modelleringstechniek heeft het voordeel dat de evolutie van het systeem in functie van de tijd kan gevolgd worden en dat deze tijdens de simulatie uit haar evenwichtstoestand kan gebracht worden. De onderliggende bedoeling is om het robuust gedrag van financiële markten te modelleren, met een focus op causale mechanismen en statistische wetten. Empirisch blijken de distributies van aandelenprijzen namelijk niet gaussisch verdeeld te zijn (in tegenstelling tot wat door klassieke economische modellen en het centraal-limiet-theorema wordt voorspeld), maar leptokurtosisch. Met de vorm van dergelijke distributie is een lagere informatie-entropie geassocieerd dan met een gaussiche distributie. Deze leptokurtosische distributies worden tevens teruggevonden in de niet-evenwichtssimulatie. Door beroep te doen op het shannoniaans concept van informatie-entropie, kan verder de theoretische uitdrukking voor de entropie van een ideaal gas herafgeleid worden. Deze entropie, die enkel temperatuursafhankelijk is, wordt met grote nauwkeurigheid teruggevonden uit de snelheidsdistributies van de deeltjes in de simulatie. Deze ideaal gas-entropie kan gebruikt worden als basis voor een methode om de entropie van een vloeistof te berekenen, waarin de aanwezige correlaties voor een entropieverlaging zullen zorgen. iv

6 Inhoudsopgave Dankwoord Samenvatting Inhoudsopgave Lijst van afkortingen en symbolen ii iv vi vii 1 Econofysica De efficiënte markt-hypothese Return Geometrische brownse beweging Empirische data: S&P 500-index Waarschijnlijkheidsdistributie Machtswetten De tekortkomingen van de EMH Naar een vloeistofmodel Moleculaire dynamica Benaderingen Integratie-algoritme Systeemeenheden Lennard-Jones-potentiaal Het canonisch ensemble Programma Initialisatie Evolutie naar evenwicht Productiefase Correlatiefuncties Radiale distributiefunctie Snelheidsautocorrelatiefunctie Besluit v

7 3 Niet-evenwichts moleculaire dynamica Zelfgeorganiseerde kritikaliteit Softcore potentiaal Invloed van λ op de temperatuursevolutie Vette staarten Kurtosis Entropie en informatie Boltzmanndistributie Entropie van een ideaal gas Informatie-entropie Entropie à la Shannon Entropie van de Maxwell-snelheidsdistributie Configurationele entropie Entropie in de simulatie Interactie-entropie Entropie in NEMD Lokale entropie Tijdsevolutie van de entropie Informatie-entropie in financiële markten: discussie Informatie-entropie uit returns Entropie en leptokurtosis Entropiefluctuaties Dissipatie van informatie Bullwhip effect Beperkingen Mapping van stapgroottes op returns Negatieve entropie-probleem Conclusies Informatie-entropie van leptokurtosische distributies Informatie-entropie van een ideaal gas A Bepaling van de machtswetexponent 61 B Structuur van de broncode 63 B.1 Subroutine voor berekening translationele entropie S tr B.2 Subroutine voor berekening lokale entropie Lijst van referenties 67 Lijst van figuren 70 Lijst van tabellen 71 vi

8 Gebruikte afkortingen en symbolen CLT Centraal-limiet-theorema EMH Efficiënte markt-hypothese GBB Geometrische brownse beweging h Constante van Planck ( J s) H Hamiltoniaan H Informatie-entropie I Zelfinformatie k Constante van Boltzmann ( J/K) LJ Lennard-Jones (potentiaal) MD Moleculaire dynamica MLE Maximum likelihood estimation N Aantal deeltjes in de simulatie NEMD Niet-evenwichts moleculaire dynamica p j Probabiliteit dat systeem zich in toestand j bevindt PDF Probabiliteitsdistributiefunctie P ( x) Distributie van de verplaatsingen op één tijdstap RDF Radiale distributiefunctie R(t) Return van een aandeel of een index SDV Stochastische differentiaalvergelijking S(t) (Een niet nader bepaalde) stochastische variabele S Gereduceerde entropie per deeltje S Nk S tr Entropie geassocieerd met de translationele vrijheidsgraden S pos (U = 0) Entropie geassocieerd met de positionele vrijheidsgraden in afwezigheid van interacties S int (U) Entropie geassocieerd met de positionele vrijheidsgraden in aanwezigheid van interacties T Temperatuur (in gereduceerde eenheden) U Interactiepotentiaal Y (t) Waarde van een aandeel of een index β (kt ) 1 γ 2 Kurtosis ζ Normeringsfactor λ Herschalingsfactor in het niet-evenwichtsprotocol λ db h De Broglie-golflengte ( 3mkT, voor een deeltje in een ideaal gas) λ th Thermische golflengte ( h 2πmkT, voor een deeltje in een ideaal gas) µ n n e moment van een distributie σ Standaardafwijking τ Gereduceerd tijdsinterval tussen twee herschalingen in het niet-evenwichtsprotocol Ω Aantal mogelijke microtoestanden vii

9 viii

10 Hoofdstuk 1 Econofysica De term econofysica, bedacht door E. Stanley in 1995, omschrijft het multidisciplinair onderzoeksveld dat gebruik maakt van methoden uit de statistische fysica in het domein van de economie. Statistische fysica probeert het gedrag van complexe systemen bestaande uit veel interagerende deeltjes te voorspellen. Financiële markten kunnen in zekere zin ook beschouwd worden als complexe systemen waarin vele spelers met elkaar in interactie treden. Die interacties kunnen in beide systemen een collectief emergent gedrag tot gevolg hebben: fasetransities of crashes. Bovendien is een financiële markt een complex adaptief systeem dat zich voortdurend aanpast aan de nieuwe informatie die de markt binnenkomt. Het is dus een open systeem dat zich nooit in evenwicht bevindt. Deze niet-evenwichts-kijk op markten staat in schril contrast met heel wat traditionele modellen die ontwikkeld zijn in de context van de zogenaamde efficiënte markt-hypothese (sectie 1.1). Opvallend is dat die economische modellen gebaseerd zijn op de dynamica van een ánder fysisch fenomeen: de brownse beweging. Dit geeft aanleiding tot gaussische distributies (sectie 1.3). Eerder dan van modellen, hebben natuurkundigen de gewoonte om te vertrekken van empirische gegevens. Daarom wordt de voorspelling dat de distributie van prijsveranderingen gaussisch zal zijn, getoetst aan de empirische distributies van reële financiële data (sectie 1.5). Centraal in de distributie vindt men dan weliswaar dat gaussisch gedrag terug, maar in de staarten observeert men een machtswet (sectie 1.6,[Man63]). In klassieke economische modellen wordt dat niet-gaussisch gedrag in de staarten doorgaans genegeerd, terwijl het net die machtswet is die fysici zo intrigeert. Machtswetten zijn immers alomtegenwoordig in de natuur en worden in diverse systemen waargenomen. Denk aan de machtswet van Gutenberg-Richter die de distributie van de 1

11 HOOFDSTUK 1. ECONOFYSICA 2 intensiteit van aardbevingen beschrijft, of aan de Pareto-verdeling die de verdeling van rijkdom of de frequentie van woorden in een tekst typeert [New05]. Ook fasetransities worden gekarakteriseerd door het divergeren van een correlatielengte volgens een machtswet. De machtsfunctie komt tevoorschijn tijdens het kritisch moment waarop de componenten van het systeem zich op een coherente manier gaan gedragen. Opvallend is dat de kritische exponent van die machtswet een universele constante is, die enkel afhangt van de dimensie van het syteem en van de aard van de interactie tussen de componenten, maar verder onafhankelijk is van het soort systeem dat bestudeerd wordt [MC05]. Om die redenen wordt verwacht dat het machtsverband een emergent gevolg is van de onderliggende dynamische structuur van het systeem [Bou00]. De vette staarten accentueren de niet-lineaire mechanismen die gegenereerd worden door de sterke onderlinge afhankelijkheid van de interagerende entiteiten. Daarom dringt een bottom up-benadering van complexe systemen hier in het bijzonder van economische systemen zich op. 1.1 De efficiënte markt-hypothese Volgens de efficient market hypothesis (EMH) is een markt efficiënt als alle beschikbare informatie instantaan verwerkt wordt en alle prijzen zich ogenblikkelijk aan de nieuwe informatie aanpassen. De marktprijs op een gegeven moment reflecteert dus de verwachtingen van alle rationele spelers, gebaseerd op álle beschikbare informatie in de markt [Fam70]. Daaruit volgt dat de nieuwe prijs enkel nog afhankelijk zal zijn van de nieuwe informatie die de markt binnenkomt. Aangezien die nieuwe informatie als een toevalsvariabele wordt gezien (nieuws is per definitie onvoorspelbaar), zal ook de nieuwe prijs die zich instelt nadat alle investeerders hun verwachtingen hebben berekend, willekeurig zijn [Bei07]. Dit paradigma werd geformuleerd in de jaren 60, maar heeft eigenlijk al haar wortels in het werk van Louis Bachelier in Bachelier stelde in zijn Théorie de la spéculation [Bac00] dat prijsfluctuaties kunnen beschreven worden door een stochastisch proces, meerbepaald door een ongecorreleerde random walk. Random walks hebben de Markoveigenschap, wat inhoudt dat het verleden irrelevant is om de toekomst te voorspellen wanneer men het heden kent. De verwachtingswaarde E van de prijs Y t+1 op tijdstip t + 1 zal dus gerelateerd zijn aan de gekende prijzen uit het verleden door de relatie E{Y t+1 Y 0, Y 1,..., Y t } = Y t. (1.1)

12 HOOFDSTUK 1. ECONOFYSICA 3 Dit impliceert dat het onmogelijk is om toekomstige prijsveranderingen te voorspellen door het analyseren van tijdreeksen van prijsveranderingen. Prijsveranderingen worden bepaald door de willekeur van goed of slecht nieuws dat de markt binnenkomt. Omdat een economie in een geïndustrialiseerde wereld eerder de tendens heeft om te groeien, moet er echter een lichte bias naar goed nieuws bestaan. Daarom kan aan het basismodel van de random walk een driftterm toegevoegd worden die de gemiddelde tendens in rekening brengt. Dit wordt beschreven in sectie 1.3. Op dit model is de meteen-nobelprijs-onderscheiden Black-Scholes-theorie voor het berekenen van optieprijzen gebaseerd [BS73]. 1.2 Return We stellen ons eerst de vraag wat de meest geschikte variabele is om de tijdsevolutie van een indexprijs Y (t) te onderzoeken. Een logische definitie voor de return van een investering zou er een zijn die het het percentage opbrengst binnen een periode t weergeeft, R p (t) = Y (t + t) Y (t). (1.2) Y (t) Een andere definitie van de return R(t) bestaat erin het verschil te nemen tussen de natuurlijke logaritmen van de opeenvolgende prijzen, R ln (t) = ln Y (t + t). (1.3) Y (t) Voor hoogfrequente data, met kleine t, herleidt deze definitie zich tot de vorige, ( ) Y (t + t) Y (t) Y (t + t) Y (t) R ln (t) = ln 1 + = R p (t). (1.4) Y (t) Y (t) Het voordeel van de procentuele definitie van de return R p is dat deze verdwijnt als de prijs tijdens de eerste tijdstap p procent stijgt en tijdens de volgende tijdstap p procent daalt (R p = 0, terwijl R ln = ln(1 + p) + ln(1 p) 0 als p 0). Het voordeel van de logaritmische definitie van de return R ln is dat deze verdwijnt als de prijs eerst een factor f groter wordt en daarna f keer verkleint (R ln = 0, terwijl R p = f + 1 f 2 0 als f 1). 1.3 Geometrische brownse beweging De beweging van stuifmeelkorrels in een vloeistof volgt een grillig en willekeurig patroon, zag de botanicus Robert Brown in zijn microscoop. In 1905 veronderstelde Einstein

13 HOOFDSTUK 1. ECONOFYSICA 4 een random walk-model met stappen van dezelfde grootte, waartussen geen correlaties bestaan, om deze brownse beweging te verklaren als een stochastisch proces. Op dezelfde manier kan ook de schijnbaar willekeurige schommeling van indexprijzen onderhevig zijn aan een stochastisch proces. Algemeen wordt de tijdsevolutie van een stochastische variabele S(t) beschreven door een stochastische differentiaalvergelijking (SDV), waarin een van de termen dat stochastisch proces voorstelt. karakteristieke vorm Deze SDV kan bijvoorbeeld de ds(t) = µs(t)dt + σs(t)dz(t). (1.5) aannemen. In dat geval spreekt men van een geometrische brownse beweging (GBB). In het standaardmodel voor aandelenprijzen is de variabele S(t) dan de indexprijs 1 die elke infinitesimale tijdstap dt bepaald wordt door vergelijking (1.5). De tweede term is de diffusieterm waarin dz(t) het stochastisch proces voorstelt. In het GBB-model is dit dus het Wiener-proces dz = ɛ dt, waarbij ɛ getrokken wordt uit een normale verdeling, met gemiddelde 0 en standaardafwijking 1. De constante µ wordt de driftcoëfficiënt genoemd en stelt in het financieel GBB-model de verwachte return (1.2) per tijdseenheid voor. De grootte van de fluctuaties daarop wordt bepaald door de standaardafwijking σ, ook de volatiliteit genoemd. Belangrijk is dat het GBB-model de veronderstelling 2 maakt dat deze σ onafhankelijk zal zijn van de tijd t en van de prijs S(t). Ten gevolge van de stochastische term kunnen we niet zomaar ds S = d ln S stellen [Voi05]. Het lemma van Itõ laat evenwel toe om de differentiaal van een functie f(s(t), t) te berekenen wanneer de SDV van S(t) gekend is, df(s(t), t) = ( f f + µs t S (σs)2 2 f f 2 )dt + σs dz. (1.6) S S Dit volgt uit een Taylorexpansie van df(s(t), t) en substitutie van (1.5). Wanneer we daarin f(s(t), t) = f(s(t)) = ln S(t) stellen, dan vinden we de elegante vergelijking met als oplossing d ln S(t) = (µ σ2 )dt + σdz(t), (1.7) 2 ) S(t) = exp ((µ σ2 )t + σz(t) S(t = 0). (1.8) 2 1 In het oorspronkelijke random walk-model van Bachelier werd de nieuwe prijs berekend door een additieve ruisterm op te tellen bij de vorige prijs, waardoor prijzen in principe negatief konden worden. GBB daarentegen, een multiplicatief random walk-model, bevat een multiplicatieve ruis S(t)dz(t). Daardoor zullen nu de logaritmen van de prijs (dus de returns) aan een additieve ruis onderworpen zijn (vergelijking 1.7) en wordt het negatieve prijzen-probleem uit Bacheliers model vermeden. 2 Al kan dit standaard-gbb-model uitgebreid worden met een σ(t, S(t)) of met een stochastische volatiliteit die bepaald wordt door een ánder GBB-proces (zoals GARCH-modellen, [MS99]).

14 HOOFDSTUK 1. ECONOFYSICA 5 We zien dat de indexprijzen een log-normaal proces volgen. Hun logaritme, ln S(t) volgt dus een gaussische verdeling met verwachtingswaarde ln S 0 + (µ σ2 2 )t. S(t) µ =0.0045, σ =0.07 µ =0.0045, σ =0.07 µ =0.0055, σ =0.07 µ =0.0045, σ = Tijd t Figuur 1.1: De tijdsevolutie van de stochastische variabele S(t) voor verschillende waarden van µ en σ. De gele lijn volgt een SDV met een grotere driftterm µ en bijgevolg een sterker stijgende trend. De groene lijn volgt een SDV met een hogere diffusieterm σ en vertoont bijgevolg sterkere fluctuaties en een minder sterk stijgende trend. Voorbeelden van enkele GBB-processen zijn te zien in figuur 1.1. De tijdsevolutie van S(t) vertoont fluctuaties van de orde σ, maar volgt gemiddeld een trend die afhangt van µ σ2 2. Ook de waarde van de return zal een gemiddelde trend volgen. Hierbij wordt het belangrijk om een onderscheid te maken tussen beide definities. We vinden namelijk als verwachtingswaarde voor R ln (t) = d ln S(t) een trend (µ σ2 2 ) en voor R p(t) = ds(t) S(t) een trend µ. 1.4 Empirische data: S&P 500-index De S&P 500-index is een beursindex van de Verenigde Staten die een betrouwbaar beeld geeft van de ontwikkelingen op de aandelenmarkt. De 500 grootste Amerikaanse bedrij-

15 HOOFDSTUK 1. ECONOFYSICA Returns R(t) Tijd t Figuur 1.2: De absolute waarde van de returns van de S&P 500-index van 3 januari 1950 tot 8 april De piek in 1987 is de handtekening van de beurscrash op Black Monday. ven zijn erin opgenomen met een gewicht dat afhankelijk is van hun marktkapitalisatie. De index wordt samengesteld door de kredietbeoordelaar Standard & Poor s. Op basis van de intraday gegevens van de S&P 500, die vrij beschikbaar zijn op [yah], worden de indexprijzen Y (t) per dag geanalyseerd. De gegevens lopen over een periode van 3 januari 1950 tot en met 8 april Deze grote hoeveelheid data maakt de S&P 500-index geschikt om te onderzoeken of het GBB-model in overeenstemming is met de empirische observaties. Om de tijdsevolutie van een indexprijs Y (t) te karakteriseren, werd in sectie 1.2 de return R(t, t) = ln Y (t+ t) Y (t+ t) Y (t) Y (t) Y (t) gedefinieerd. Het tijdsvenster t is in dit geval één beursdag. In figuur 1.2 is het tijdsverloop van de absolute waarde van de S&P 500-returns te zien. Die zijn meestal klein (van de orde 1 procent), al worden er ook een aantal returns geobserveerd die uitzonderlijk hoog zijn (tot 22.6 procent). Zo is er op maandag 19 oktober 1987 een duidelijke piek te zien. Die dag, Black Monday, crashten de beurzen wereldwijd. Het af en toe opduiken van dergelijke extreem hoge returns en de grote variantie in de returns is typerend voor een onderliggend niet-gaussisch proces. Laten we deze returns daarom eens vergelijken met de returns uit het model van geometrisch brownse beweging (wél een gaussisch proces). Als we de standaardafwijking van de fluctuaties in de returns berekenen, dan kunnen we een waarde voor de drift µ en de diffusie σ bepalen. Dit resulteert in µ = en σ = Hiermee kan

16 HOOFDSTUK 1. ECONOFYSICA 7 een GBB-simulatie uitgevoerd worden die geassocieerd is met de robuuste gegevens van de S&P 500-index. Uit figuur 1.3 wordt duidelijk dat de GBB-returns steeds kleiner blijven dan 0.05, terwijl die van de reële data af en toe veel extremere waarden kunnen aannemen. Figuur 1.3: De S&P 500 absolute returns (boven) vergeleken met de absolute returns van het GBBmodel (onder) waarin µ = en σ = voor simulatiestappen. 1.5 Waarschijnlijkheidsdistributie De efficiënte markt-hypothese impliceert dat de distributies van prijsveranderingen gaussisch moeten zijn. Het centraal-limiet-theorema (CLT) stelt immers dat de distributie P (x n ) van de som van n onderling onafhankelijke en gelijk verdeelde stochastische variabelen x i met eindige variantie, een normaalverdeling zal volgen in de limiet n. We kunnen dat nagaan dat door de returns die bekomen worden uit een GBBsimulatie 3 te normaliseren met hun standaardafwijking en ze te rangschikken in een PDF. Deze PDF is geplot in figuur 1.4 voor een GBB-proces met µ = en σ = De term dz(t) in formule 1.5 van het GBB-model vereist gaussisch verdeelde pseudo-randomgetallen. Voor figuur 1.3 werden deze gegenereerd met de Box-Muller-methode. Deze methode schiet echter tekort om de normaaldistributie ook in de buurt van R 0 te genereren. Daarom werd hier gebruik gemaakt van de gaussische data uit de maxwelldistributies die in de MD-simulatie gegenereerd werden (fig. 4.2).

17 HOOFDSTUK 1. ECONOFYSICA 8 Ter vergelijking toont de figuur tevens de distributie P ( R σ ) van de S&P 500-returns, genormaliseerd met hun standaardafwijking σ. We zien dat zeer kleine fluctuaties frequenter voorkomen dan voorspeld door de gaussische GBB-distributies, terwijl gemiddelde fluctuaties minder frequent voorkomen. Extreem hoge returns lijken dan weer veel frequenter voor te komen. Black monday blijkt zelfs een 21σ-event te zijn. De kans dat zo n gebeurtenis zich ooit voordoet onder de assumpties van de EMH is verwaarloosbaar klein. Het verbaast dan ook niet dat na de beurscrash van 1987 de efficiënte markt-hypothese in vraag gesteld werd GBB-model S&P P(R/σ) Return R/σ Figuur 1.4: De probabiliteitsdistributie van de genormaliseerde returns van de S&P 500-index wordt vergeleken met die van het GBB-model op log-lineaire schaal. Het geïsoleerde event bij 21.2σ is de return op Black Monday. 1.6 Machtswetten We onderzoeken nu de waarschijnlijkheid dat de PDF van de returns p(r ) een waarde aanneemt die groter dan of gelijk is aan R, P c (R) = R p(r )dr. (1.9)

18 HOOFDSTUK 1. ECONOFYSICA 9 Deze cumulatieve distributiefunctie (CDF) P c (R) bezit meer gegevens in haar staarten en zal minder afhankelijk zijn van de gekozen bin-groottes. Daarom is ze beter geschikt om een machtswet te observeren [New05]. Laten we eens veronderstellen dat de CDF van de S&P 500-returns aan een machtswet P c (R > R min ) = C R α (1.10) gehoorzaamt, vanaf R min = Met behulp van een maximum likelihood methode (beschreven in appendix A) kunnen we de exponent α bepalen. Op basis van een fit aan n p = 2585 punten in de staart van de CDF, vinden we de waarde α = ± Dit is in overeenstemming met de resultaten van [GPA + 99] waarin α bepaald werd volgens een andere methode (beschreven in [Hil75]): voor CDF s van returns met tijdsvensters t < 4 dagen wordt telkens een exponent α 3 teruggevonden CDF P c (R) Returns R Figuur 1.5: Aan de cumulatieve distributiefunctie van de positieve returns wordt een machtswetstaart gefit met α = en C = (op log-log-schaal). Als de CDF asymptotisch een machtswet volgt, zal ook de PDF asymptotisch een machtswet volgen. Integratie van een machtswet p(r ) = C R β levert immers een

19 HOOFDSTUK 1. ECONOFYSICA 10 nieuwe machtswet: P c (R) = C R R β dr = C β 1 R (β 1). (1.11) De machtswet-exponent β in de staart van de PDF van de returns is dus gerelateerd aan die van de CDF door β = α Machtswetten hebben de schaalinvariante eigenschap P (cr) P (R). In tegenstelling tot normaalverdelingen, bezitten ze geen karakteristieke schaal: het is bijvoorbeeld niet mogelijk om een maximale grootte voor een return te definiëren. Daarom kunnen machtswetten contra-intuïtief zijn. Wanneer men fenomenen waarvan de distributie een machtswet volgt, probeert te modelleren met gaussische distributies kan dit bijgevolg leiden tot een verkeerde inschatting van de realiteit [Tal08]. 1.7 De tekortkomingen van de EMH Hoewel het GBB-model een eerste benadering levert om het robuust gedrag van de data van financiële markten te modelleren, vertoont het enkele tekortkomingen. De hypothese dat markten efficiënt zijn en dat alle informatie ogenblikkelijk in de prijs verwerkt zit, is van toepassing op een geïdealiseerd systeem. Reële markten zijn slechts benaderend efficiënt. Met het voorgaande in gedachten, bakenen we aan de hand van de empirische data de limieten van de EMH af. Enerzijds blijkt bij het testen van de efficient market hypothesis dat tijdscorrelaties tussen prijsveranderingen inderdaad verwaarloosbaar zijn. In [LGC + 99] wordt bijvoorbeeld aangetoond dat de autocorrelatiefunctie van de returns exponentieel naar nul vervalt binnen korte tijd ( exp( t τ ) met τ 4 minuten). Dit is in overeenstemming met de idee dat in een efficiënte markt de mogelijkheid van arbitrage dergelijke correlaties snel wegfiltert en dat toekomstige aandelenprijzen niet voorspeld kunnen worden op basis van hun verleden. Anderzijds wijzen empirische observaties er echter ook op dat het mogelijk is om op grotere tijdschaal hogere orde-correlaties terug te vinden [MS99]. Zonder dergelijke lange dracht -correlaties zouden de extreme fluctuaties moeilijk te verklaren zijn. Beurscrashes zouden dan enkel kunnen optreden ten gevolge van gebeurtenissen van buitenaf (rampen), niet door de dynamica van het systeem zelf. Verder blijkt de volatiliteit in reële data tijdsafhankelijk te zijn in tegenstelling tot de veronderstellingen die gemaakt werden in sectie 1.3 en treden er fenomenen als volatiliteitsclustering op [MS99]. De empirische return-distributies van de S&P 500 komen niet volledig overeen met het veralgemeend GBB-model. De zeldzame uitschieters die zich in de staarten van de

20 HOOFDSTUK 1. ECONOFYSICA 11 distributie bevinden, worden niet gereproduceerd, terwijl het net deze zeldzame gebeurtenissen zijn die een grote impact kunnen hebben. Dit wijst erop dat het gebruik van dit GBB-model kan leiden tot het onderschatten van risico s. 1.8 Naar een vloeistofmodel De 61-jarige tijdreeks van de dagelijkse S&P 500-indexprijzen (alsook andere indexprijzen [GPA + 99]) toont dat extreme prijsvariaties veel frequenter blijken voor te komen dan verwacht vanuit het GBB-paradigma. Vanuit de geometrisch brownse beweging zijn de vette staarten die we in de return-distributies hebben waargenomen immers moeilijk te begrijpen. De bedoeling is om een simulatiemodel te vinden dat dergelijke fenomenen vanuit hun onderliggende universele dynamica tracht te verklaren. Daarvoor wordt een vloeistofmodel vooropgesteld. In een vloeistof bewegen de deeltjes niet onafhankelijk van elkaar (in tegenstelling tot een ideaal gas). Er bestaat geen lange dracht-orde (in tegenstelling tot een vaste stof), maar er zijn wel sterke korte dracht-correlaties aanwezig [Ryc10]. We insinueren dat economische modellen die gebaseerd zijn op de dynamica van de brownse beweging en waarin prijsveranderingen gezien worden als onafhankelijke random-variabelen, kunnen verbeterd worden door ze te baseren op een systeem waarin opeenvolgende toestanden niet langer ongecorreleerd zijn. Zulk vloeistofmodel wordt gesimuleerd met de techniek van moleculaire dynamica (MD), die in hoofdstuk 2 uiteengezet wordt. Hoewel de opeenvolgende stappen in die evenwichts-md-simulatie gecorreleerd zijn, zal de distributie van de stapgroottes van de deeltjes nog steeds een gaussische vorm hebben. We werken immers nog altijd in het evenwichtsformalisme, terwijl we geponeerd hebbend dat markten zich niet in evenwicht bevinden. Daarom zullen we in hoofdstuk 3 een methode introduceren om de simulatie uit evenwicht te drijven, met de bedoeling om ook die andere robuuste eigenschap van markten vette staarten in de distributie van prijsveranderingen te genereren. Een vloeistofmodel waarin dergelijke niet-gaussische distributies opduiken, zou een meer accurate beschrijving kunnen geven van de geobserveerde dynamische eigenschappen van financiële markten.

21 Hoofdstuk 2 Moleculaire dynamica Thermodynamische grootheden kunnen voorspeld worden door uit te middelen over alle mogelijke microtoestanden waarin een veeldeeltjessysteem zich kan bevinden. Zoiets voor reële systemen op een computer simuleren is echter onbegonnen werk. Gelukkig kunnen we die uitmiddeling over de mogelijke microtoestanden relateren aan een uitmiddeling over tijd, in de veronderstelling dat elke microtoestand even waarschijnlijk wordt als het systeem maar lang genoeg gevolgd wordt. Dit ergodisch principe rechtvaardigt de benadering om uit te middelen over een beperkte set configuraties. De methode van moleculaire dynamica laat ons toe om die configuraties één voor één uit elkaar te genereren door numeriek alle bewegingsvergelijkingen te integreren. Het N-deeltjessysteem volgt dan een pad in de faseruimte waarvan de positionele coördinaten r i bepaald worden door de oplossing van deze bewegingsvergelijkingen: d 2 r i dt 2 = F i m i i = 1,..., N. (2.1) Hierin is m i de massa van deeltje i. De kracht F i die op elk deeltje inwerkt, wordt teruggevonden als de som van de interacties met alle andere deeltjes in het systeem: N F i = F ( r i r j ) e ij, (2.2) j=1,j i met e ij de eenheidsvector die gericht is volgens r j r i. 2.1 Benaderingen Moleculaire dynamica is dus de simulatietechniek waarin de tijdsevolutie van een groot aantal deeltjes bepaald wordt door na elke stap de differentiaalvergelijkingen (2.1) nu- 12

22 HOOFDSTUK 2. MOLECULAIRE DYNAMICA 13 meriek op te lossen. Deze oplossingen zullen benaderend zijn, omwille van de volgende redenen [Thi99]: We beperken ons tot een klassieke beschrijving: kwantumeffecten worden genegeerd. Het verwaarlozen van interferentie-effecten tussen de de Broglie-golven van de deeltjes is pas gerechtvaardigd als λ db l, (2.3) waarin l = ( V N ) 1 3 de gemiddelde separatie tussen de deeltjes voorstelt en λ db = hun de Broglie-golflengte is [Ryc10]. In het geval van Argon-atomen bij kamertemperatuur ( atomen per cm 3 ) vinden we bijvoorbeeld dat h 3mkT l m, λ db m. (2.4) Onder zulke normale omstandigheden (geen te hoge dichtheid, geen te lage temperatuur) bevinden we ons dus in het klassiek regime en kunnen we het golfkarakter van de deeltjes gerust buiten beschouwing laten. De interactiepotentiaal is niet exact gekend, enkel in geparametriseerde vorm. De interactie tussen twee deeltjes in een ideale vloeistof kan bijvoorbeeld benaderd worden door de fenomenologische Lennard-Jones-potentiaal (2.10). We doen beroep op de veronderstelling dat alle mogelijke toestanden even waarschijnlijk zullen zijn (het ergodisch principe). Een uitmiddeling van een fysische grootheid O over alle mogelijke configuraties O zal bijgevolg equivalent zijn aan een uitmiddeling Ō over de tijd, O = Ō = lim 1 T T T 0 Odt. (2.5) De computationele kost is N 2 -afhankelijk. Typische simulaties draaien daarom slechts met N 10 3 deeltjes. Er kan dus enkel een zeer klein deel van een reëel systeem (met N ) gesimuleerd worden. Dit laat zich voelen in de verhoogde oppervlakte-bulkverhouding. Beschouwen we bijvoorbeeld een 10x10x10-volume, dan zitten er van de 1000 deeltjes 488 op het oppervlak, een verhouding die veel te hoog is in vergelijking met de werkelijkheid. Om dit probleem te omzeilen kunnen we ons simulatiesysteem omringen met oneindig veel equivalente replica s ervan. We passen periodieke randvoorwaarden toe zodat deeltjes die aan het oppervlak verdwijnen, langs de andere zijde van het simulatievolume opnieuw verschijnen.

23 HOOFDSTUK 2. MOLECULAIRE DYNAMICA 14 De kracht F ij die op deeltje i inwerkt ten gevolge van deeltje j, is dan de som van de krachten tussen deeltje i en alle kopieën van deeltje j. Omdat de krachten doorgaans een eindige dracht hebben, kunnen we de berekeningen echter vereenvoudigen met behulp van de minimum image convention: de interactie tussen twee deeltjes wordt bepaald door het eerste deeltje en door de meest nabije kopie van het tweede deeltje. In een simulatie zijn ruimte en tijd niet continu aangezien de bewegingsvergelijkingen enkel kunnen opgelost worden voor een eindige tijdstap t. Er zullen dus steeds afwijkingen van de orde ( t) n optreden (met n = 2 voor het hieronder beschreven snelheids-verlet-algoritme). In een typische simulatie is t van de grootteorde in systeemeenheden. Zoals wordt uitgelegd wordt in sectie 2.3, komt dat voor een vloeistof in de realiteit overeenkomt met seconden. 2.2 Integratie-algoritme Om de differentiaalvergelijkingen (2.1) op te lossen wordt beroep gedaan op het snelheids- Verlet-algoritme. Met behulp van de Taylor-ontwikkeling vinden we benaderend telkens de nieuwe positie r i, snelheid v i en versnelling a i van deeltje i: r i (t + t) = r i (t) + v i (t) t a i(t) t 2 (2.6) v i (t + t) = v i (t) + a i (t) t b i (t) t 2 (2.7) a i (t + t) = a i (t) + b i (t) t, (2.8) met b i = d a i dt de jerk van deeltje i. Bij het snelheids-verlet-algoritme wordt de snelheid berekend uit: v i (t + t) = v i (t) + a i(t) + a i (t + t) t, (2.9) 2 wat als voordeel heeft dat snelheden en posities op dezelfde ogenblikken kunnen bepaald worden. De positie wordt bij elke simulatiestap berekend uit formule (2.7). De ver- F snelling a i = i m i wordt daarin telkens bepaald aan de hand van vergelijking (2.2). Op welbepaalde tijdstappen wordt r i (t + t) r i (t) bijgehouden om er later de distributie van de stapgroottes uit te kunnen bepalen (sectie 3.4). De cumulatieve fout van het snelheids-verlet-algoritme schaalt volgens ( t) 2. Zoals blijkt uit figuur 2.2 belet dit symplectisch integratieschema het optreden van een energiedrift [Thi99].

24 HOOFDSTUK 2. MOLECULAIRE DYNAMICA Systeemeenheden Om de computationele berekeningen te vereenvoudigen, wordt er gewerkt met gereduceerde eenheden, waarbij telkens gedeeld wordt door de karakteristieke schaal. De interactiepotentiaal wordt vaak gemodelleerd door een Lennard-Jones-potentiaal: U LJ (r) = 4ɛ[( σ r )12 ( σ r )6 ]. (2.10) De grootheden ɛ en σ bepalen dan respectievelijk de energie- en de lengteschaal van de interactie. Omdat in het geval van Argon-atomen de LJ-potentiaal de empirisch verkregen potentiaal uitermate goed benadert (fig. 2.1), kiezen we de parameters voor Argon als systeemeenheden: ɛ Ar k B = 119.8K (2.11) σ Ar = m (2.12) m Ar = kg (2.13) De energie wordt dan gemeten in functie van ɛ Ar (E = E ɛ Ar ), lengtes in functie van σ Ar ( r = r mar σar σ Ar ) en bijgevolg tijd in functie van 2 ɛ Ar (t = t ɛ Ar ) en temperatuur in m Ar σar 2 functie van eenheden 119.8K (T = k B ɛ Ar T ). In hoofdstuk 4 zal de entropie S doorgaans uitgedrukt worden als de dimensieloze gereduceerde entropie per deeltje, S = S Nk. 2.4 Lennard-Jones-potentiaal Wanneer we de LJ-potentiaal (2.10) bekijken, dan vinden we volgende eigenschappen: een korte dracht: zoals te zien in figuur 2.1 verdwijnt de potentiaal nagenoeg voor r > 3, zodat enkel interacties in rekening gebracht moeten worden voor deeltjes die zich dicht bij elkaar bevinden. In de simulatie is het daarom computationeel voordelig om een lijst bij te houden van deeltjes die zich binnen een bepaalde radius van elkaar bevinden en die lijst slechts om een bepaald aantal tijdstappen te actualiseren. attractief voor r > 1, door de vanderwaals-interacties. harde kern waarin een sterk repulsieve kracht heerst, te wijten aan het eindig volume dat elk atoom inneemt. De potentiaal divergeert voor r 0, zodat op het

25 HOOFDSTUK 2. MOLECULAIRE DYNAMICA 16 Figuur 2.1: De fenemenologische LJ-potentiaal komt overeen met de empirische potentiaalcurve voor twee Argon-atomen in functie van hun interatomaire afstand R = r 3.405Å. [wik] moment dat de elektronenwolken van twee atomen atomen beginnen te overlappen, er een oneindig hoge kinetische energie nodig zou zijn om die potentiaalbarrière te overwinnen. 2.5 Het canonisch ensemble Er wordt gewerkt in het canonisch (T, V, N)-ensemble waarin temperatuur T, aantal deeltjes N en volume V van het systeem initieel worden ingegeven en constant worden gehouden doorheen de tijd. Een ensemble is de verzameling van alle mogelijke microtoestanden {x 1,..., p N } die aanleiding geven tot eenzelfde macrotoestand. Deze macrotoestand wordt enkel bepaald door externe parameters die vast gehouden worden. De microtoestanden worden vertegenwoordigd door punten in een 6N-dimensionale faseruimte. Als de deeltjes geen interne vrijheidsgraden bezitten, wordt de microtoestand immers enkel bepaald door de ruimtelijke posities x j en door de coördinaten in de momentumruimte p j (j = 1,..., N). Om de gemiddelde waarde van een bepaalde observabele O te bepalen, moeten we deze uitmiddelen over het deel van de faseruimte dat door het ensemble wordt beschreven.

26 HOOFDSTUK 2. MOLECULAIRE DYNAMICA 17 Dit ensemblegemiddelde wordt dus gedefinieerd door: O = 1 O( x i, p i )ψ( x i, p i )d 3 x 1...d 3 x N d 3 p 1...d 3 p N, (2.14) Z met normering Z = ψ( x i, p i )d 3 x 1...d 3 x N d 3 p 1...d 3 p N. (2.15) De distributie ψ( x i, p i ) bepaalt het gewicht dat aan elk punt in de faseruimte wordt gegeven. De vorm ervan is afhankelijk van het ensemble. Voor het microcanonisch (E, V, N)-ensemble is dit bijvoorbeeld gewoon de deltafunctie ψ ENV ( x i, p i ) = δ(h( x i, p i ) E) die behoud van energie verzekert. In het canonisch ensemble is deze gelijk aan de boltzmannfactor ψ T NV ( x i, p i ) = exp( βh( x i, p i )), zoals wordt aangetoond in sectie Programma Initialisatie Het aantal deeltjes N, de dichtheid ρ, de gewenste temperatuur T en het aantal tijdstappen worden als parameters ingegeven. Initieel worden de deeltjes op een rooster gezet. In het geval van Argon-atomen is een FCC-rooster namelijk de meest stabiele configuratie. Omdat elke eenheidscel dan vier atomen bevat, wordt het deeltjesaantal doorgaans N = 4M 3 = 256, 500, 864,... gekozen. De initiële snelheden worden verdeeld volgens een Maxwell-Boltzmann-distributie. Dit gebeurt door elke snelheidscomponent uit een Gaussische distributie met gemiddelde 0 en standaardafwijking 1 te trekken en kt daarna deze dimensieloze getallen te schalen met een standaardafwijking m. Aan- gezien snelheid uitgedrukt wordt in functie van ɛar m Ar wordt dit in systeemeenheden vj = v0 T j m. Daarna wordt de totale impuls p tot berekend en wordt ptot Nm i van de initiële snelheidsvector van elk deeltje afgetrokken, zodat de totale impuls van het systeem terug nul wordt Evolutie naar evenwicht We laten het systeem thermaliseren. De bewegingsvergelijkingen worden geïntegreerd met behulp van het snelheids-verlet-algoritme. De tijd die het systeem nodig heeft om evenwicht te bereiken is afhankelijk van de initiële condities. Deze relaxatietijd zal groter zijn dan de tijdscorrelaties in het systeem. Wanneer het systeem in evenwicht is, zal de temperatuur fluctueren rond een evenwichtswaarde die in het algemeen zal afwijken van

27 HOOFDSTUK 2. MOLECULAIRE DYNAMICA 18 de initieel gewenste temperatuur T D. Daarom wordt de snelheid tijdens deze fase na welbepaalde tijdsintervallen (bijvoorbeeld twintig simulatiestappen) herschaald met een factor λ = (N 1)3k B T D N i=1 m. (2.16) ivi 2 Hierin is N i=1 m iv 2 i de totale kinetische energie van N deeltjes, uitgemiddeld over die twintig tijdstappen. Wanneer λ naar 1 convergeert (of T naar T D, volgens het equipartitietheorema) en wanneer de fluctuaties tussen de opeenvolgende λ s verwaarloosbaar worden (dan is T ongeveer constant) wordt evenwicht verondersteld en kan de productiefase van start gaan Productiefase Eens evenwicht bereikt is, wordt de tijd terug op nul gezet en worden de thermodynamische grootheden en correlatiefuncties berekend. Als het systeem n 0 thermalisatiestappen nodig heeft om tot evenwicht te komen, wordt het ensemblegemiddelde van een statische fysische grootheid O bepaald uit n integratiestappen, volgens 1 n Ō = O ν. (2.17) n n 0 ν>n 0 Kinetische energie De kinetische energie E k van het systeem wordt op elke tijdstap bepaald uit: E k (t) = 1 2 N m i vi 2 (t). (2.18) i=1 Temperatuur Met behulp van het equipartitietheorema, vindt men dan de temperatuur T : T (t) = N i=1 m ivi 2(t). (2.19) 3k(N 1) Potentiële energie De potentiële energie E p van het systeem wordt bepaald door de interactiepotentiaal U tussen alle deeltjesparen op te tellen. N E p (t) = U( r i r j ). (2.20) i<j=1

28 HOOFDSTUK 2. MOLECULAIRE DYNAMICA 19 Figuur 2.2: De tijdsevolutie van de potentiële energie E pot, kinetische energie E kin en hun som E tot, voor een simulatie met 256 deeltjes bij ρ = 0.5 en T = 0.7. Hierin is r i r j de afstand tussen beide deeltjes (volgens de minimale beeldconventie, zoals uitgelegd in sectie 2.1) Het Verlet-algoritme heeft de eigenschap dat het de totale energie constant houdt, daarom zal E p (t) + E k (t) opgeslagen worden ter controle. Het behoud van energie en de temperatuurfluctuaties zijn voor een typische simulatie te zien in figuur Correlatiefuncties Het random walk-model negeert het effect van de interacties tussen de deeltjes, waardoor opeenvolgende stappen ongecorreleerd zijn. Het schiet dus tekort om de sterke correlaties ten gevolge van de korte dracht-interacties in een vloeistof te verklaren. Om inzicht in dergelijke correlaties te krijgen, kunnen we correlatiefuncties introduceren. Daarmee kunnen we bovendien nagaan of het systeem zich in een vaste, gasvormige of vloeistoffase bevindt.

29 HOOFDSTUK 2. MOLECULAIRE DYNAMICA Radiale distributiefunctie De radiale distributiefunctie (RDF) geeft een beeld van de ruimtelijke correlaties in het systeem. Deze wordt gedefinieerd als [Ryc10]: g (2) (r) = ( V N ) 2 N(N 1) d r3 d r4... dr N exp( β i<j U( r i r j ) d r1 d r2 d r3... dr N exp( β i<j U( r i r j ). (2.21) en geeft de kans om op een afstand r van een referentiedeeltje een ander deeltje te vinden. Het aantal moleculen in een bolschil tussen r en r + r wordt dan gegeven door: N V g(2) (r)4πr 2 r. (2.22) Als we dit integreren over het volledige simulatievolume, vinden we uiteraard N g (2) (r)4πr 2 r = N 1. (2.23) V In de praktijk zal een histogram voor elk interval [r, r + r] het aantal deeltjesparen n(r) bijhouden die zich op een afstand r van elkaar bevinden. De maximale afstand tussen twee deeltjes is de helft van de lengte van het simulatievolume, zodat voor een histogram dat I dergelijke intervallen bevat, de grootte van elk interval gegeven wordt door: r = boxsize 2I. Wanneer alles in het histogram opgeteld wordt, dan vinden we boxsize/2 r n(r) = N(N 1). (2.24) 2 Dit is het equivalent van (2.23). We kunnen de radiale distributiefunctie dus uit het histogram berekenen volgens: g (2) (r) = 2V n(r) N 2 4πr 2 r. (2.25) Dit is geïllustreerd in fig In de vaste fase zijn de ruimtelijke correlaties duidelijk het grootst: de RDF vertoont duidelijke pieken die een indicatie zijn voor het verwachte aantal deeltjes op afstand r van het referentiedeeltje. In de gasfase daarentegen verdwijnen de ruimtelijke correlaties al voor r > 2.5. Ten gevolge van de harde pit van de LJ-potentiaal is de waarschijnlijkheid dat een deeltje zich bevindt op een afstand r < 1 nul. In fig. 2.3 is te zien dat g (2) (r) inderdaad verdwijnt voor r < 1. Op grote afstand dooft de oscillerende radiale afhankelijkheid van g (2) (r) uit en nadert deze naar 1.

30 HOOFDSTUK 2. MOLECULAIRE DYNAMICA 21 Figuur 2.3: De radiale distributiefunctie voor Ar bij T = 0.7, ρ = 0.5 (gasvormig), bij T = 0.4, ρ = 0.5 (vloeibaar) en T = 0.7, ρ = 1 (vast). De intermoleculaire afstand r is uitgedrukt in functie van σ Ar Snelheidsautocorrelatiefunctie De autocorrelatiefunctie geeft een beeld van de tijdscorrelaties in het systeem. Een velocity autocorrelation function (VAF) wordt algemeen berekend uit het scalair product van de snelheidsvector op een bepaalde tijdstap met de snelheidsvector op een vorige tijdstap. Voor een systeem in evenwicht kunnen we veronderstellen dat deze VAF invariant is onder tijdstranslaties en zich herleidt tot: V (t) = 1 Nv 2 0 waarin de normeringsfactor v 2 0 N v i (τ) v i (τ + t) τ R, (2.26) i gedefinieerd is als v 2 0 = 1 N N v i (0) v i (0). (2.27) i Zoals te zien in fig. 2.4 nadert de VAF gestaag naar nul bij lage dichtheid. In dat geval zijn er weinig botsingen en vergeet het deeltje niet snel zijn initiële beweging. Voor grote dichtheid en hoge temperatuur zal de frequentie van botsingen met andere deeltjes vergroten. Door die botsingen wordt de richting van de snelheidsvector sneller verstoord, zodat de VAF veel sneller naar nul zal naderen. Hoe hoger de dichtheid, hoe frequenter de botsingen en hoe moeilijker de richting en grootte van de snelheidsvector behouden blijft.

31 HOOFDSTUK 2. MOLECULAIRE DYNAMICA 22 Bij zeer hoge dichtheid is te zien dat de VAF zelfs negatief kan worden: de snelheden worden negatief gecorreleerd doordat het deeltje verplicht is om in tegenovergestelde richting te bewegen op het moment dat het botst met zijn dichtste naburen. Figuur 2.4: De snelheidsautocorrelatiefunctie voor τ = 0 (zonder convolutie) uit een simulatie met 846 deeltjes bij T = 0.7 en verschillende dichtheden Besluit In hoofdstuk 1 werd opgemerkt dat de returns in het GBB-model ongecorreleerd zijn, terwijl financiële tijdreeksen wél een korte correlatietijd kennen [LGC + 99]. In bovenstaande evenwichts-md-simulatie werden ook korte tijdscorrelaties teruggevonden in de snelheidsautocorrelatiefunctie van een vloeistof (figuur 2.4). Wat de tijdscorrelaties betreft, weerspiegelt dit model van een vloeistof dus beter de realiteit dan het GBB-model. Verder bleek echter dat de return-distributies van financiële tijdreeksen niet-gaussisch zijn. In de context van evenwichts-moleculaire dynamica is het onmogelijk om deze nietgaussische distributies te genereren. Daarom zullen we in het volgende hoofdstuk een aanvaardbare methode voorstellen om het systeem uit evenwicht te dwingen.

32 Hoofdstuk 3 Niet-evenwichts moleculaire dynamica Tot zover zijn we erin geslaagd om een systeem te simuleren dat dezelfde eigenschappen vertoont als die van een vloeistof. In zulk systeem dat zich in evenwicht bevindt en waarin normale diffusie geldt, zorgt het CLT ervoor dat de distributie van de stapgroottes een normaalverdeling zal volgen. Om de vette staarten in de probabiliteitsdistributies van de returns uit hoofdstuk 1 te genereren en een link te kunnen leggen 1 met financiële markten, zullen we dus niet-evenwichtsomstandigheden moeten introduceren. We zullen daarvoor beroep doen op niet-evenwichts moleculaire dynamica (NEMD). 3.1 Zelfgeorganiseerde kritikaliteit Een complex systeem wordt gekenmerkt door een grote mate van onderlinge afhankelijkheid tussen de entiteiten waaruit het is opgebouwd. Daardoor is de dynamica ervan onderworpen aan positieve, versterkende feedbacklussen die er voor zorgen dat de voorwaarden voor het CLT niet langer geldig zijn. Deze correlaties in het systeem verhinderen dus de convergentie naar een normaalverdeling en kunnen tot gevolg hebben dat er vette staarten worden gegenereerd. Om de gedachte te vestigen, grijpen we eerst terug naar het befaamde sandpilemodel van Per Bak, C. Tang en K. Wiesenfeld waarin een zandberg gemodelleerd wordt als een cellulaire automaat [MC05]. Elke extra zandkorrel die op de zandberg terecht komt, speelt de rol van een externe schok. Afhankelijk van de hellingsgraad kan er helemaal niets gebeuren of kan deze externe verstoring juist aanleiding geven tot lawines 1 Dit impliceert dus een mapping van de stapgroottes x(t) op de returns R(t), zie sectie

33 HOOFDSTUK 3. NIET-EVENWICHTS MOLECULAIRE DYNAMICA 24 die zich doorheen het ganse systeem voortzetten. De grootte van die lawines blijkt niet gaussisch verdeeld te zijn, maar een distributie te vertonen die in haar staarten een machtswet volgt. De respons van het systeem op de initiële perturbatie is dus onafhankelijk van de details ervan. De belangrijkste voorwaarde is het herhaaldelijk toebrengen van een exogene schok op welbepaalde tijdstappen, waartussen het systeem tijd heeft om te relaxeren volgens haar interne dynamica. Tijdens die relaxatiefase is het systeem in een zelfgeorganiseerde kritische toestand. Kritisch, omdat de correlatielengte divergeert en er een machtswet wordt waargenomen. Zelfgeorganiseerd, omdat daarvoor geen finetuning van de relevante parameters vereist is (het kritisch punt is een attractor). Dit fenomeen van zelfgeorganiseerde kritikaliteit lijkt een vrij universeel concept te zijn waarmee het robuust gedrag van heel wat niet-evenwichtssystemen met een groot aantal vrijheidsgraden kan begrepen worden. Meer en meer worden ook financiële markten bestudeerd als complexe systemen die zich in een zelfgeorganiseerde kritische toestand bevinden [BM11]. Op een gelijkaardige manier zullen we daarom externe schokken aanbrengen in de MD-simulatie. In [SRC10] wordt een methode voorgesteld waarin het systeem uit evenwicht gedreven wordt door op welbepaalde periodieke tijdstappen de radiale afstand in de potentiaal te veranderen. Dit komt in feite neer op het herschalen van de grootte van de deeltjes met een factor λ. De facto wordt in de potentiaal r λr gezet, na elk tijdsinterval τ. De parameters λ en τ worden ingegeven tijdens de start van de simulatie en blijven constant. Deze voorwaarden van een constante discontinue input tonen inderdaad sterke gelijkenissen met de voorwaarden om een systeem in een zelfgeorganiseerde kritische toestand te brengen. Doordat het systeem traag gedreven wordt de injectering van potentiële energie gebeurt slechts op welbepaalde tijdstappen heeft het immers de tijd om te relaxeren. Tijdens die niet-evenwichtsfase verwachten we dan ook schaalinvariant gedrag. Als de distributie van de stapgroottes P ( x) daadwerkelijk zal voldoen aan een machtswet in zijn staarten, dan verwachten we dat ook zeer grote stapgroottes x kunnen opduiken. 3.2 Softcore potentiaal Wanneer een deeltje evenwel een zeer grote afstand x kan afleggen in één tijdstap, kan het tengevolge van de eindige tijdsresolutie die inherent is aan een simulatie mogelijk binnendringen in de harde kern van de LJ-potentiaal van andere deeltjes. Daardoor verkrijgt het een onfysische hoeveelheid potentiële energie en bijgevolg een nóg hogere snelheid. Dat kan op zijn beurt aanleiding geven tot een kettingreactie waardoor de

34 HOOFDSTUK 3. NIET-EVENWICHTS MOLECULAIRE DYNAMICA 25 simulatie onstabiel en oncontroleerbaar wordt [SRC10]. Het probleem zit in het korte dracht-stuk van de LJ-potentiaal, zodat we deze harde kern-potentiaal moeten aanpassen. Een goed alternatief is volgende softcore (SC) potentiaal [Fra07] H U SC (r) = 1 + exp (r R r ) U A exp ( (r R A) 2 ). (3.1) De parameters R A, R r, en δ A werden zo gekozen opdat het lange dracht-stuk zou overeenkomen met dat van de LJ-potentiaal (tabel 3.1). De SC-potentiaal bezit dan ook ongeveer dezelfde eigenschappen als de LJ-potentiaal, op de divergentie voor r 0 na. Verder vertonen de VAF en de RDF van een SC-potentiaal kwalitatief hetzelfde gedrag als de VAF en de RDF voor een LJ-potentiaal. De hardheidsparameter H bepaalt de hoogte van potentiaalbarrière en dus de hardheid van de potentiaal, hoe moeilijk het is om binnen te dringen. In figuur 3.1 is een SC-potentiaal gefit met H = 20. Daaruit blijkt dat we het effect van de herschaling (voor λ < 1) kunnen interpreteren als een effectieve vergroting van het ruimtelijk volume dat een deeltje inneemt. 2δ 2 A H R A U A R R 2δA Tabel 3.1: Gefitte parameters van de SC-potentiaal in systeemeenheden[sta10] 3.3 Invloed van λ op de temperatuursevolutie Wanneer we de radiale afstand telkens veranderen volgens een multiplicatief proces (r λr), dan wordt de effectieve schalingsfactor na M herschalingen λ(t = Mτ) = [λ(t = 0)] M. (3.2) De extra potentiële energie die door de schaalvergroting in het systeem wordt binnengebracht, wordt in de relaxatiefase gedissipeerd in kinetische energie. Dit heeft telkens een temperatuurstijging tot gevolg. Het viriaaltheorema leert immers dat 3 2 NkT = 1 2 N r i F i. (3.3) Omdat F ij = F ji, valt de viriaalterm in het rechterlid met behulp van formule (2.2) te herschrijven als 1 2 N i,j=1 r i F ij = 1 4 N i,j=1 i=1 r ij F ij = 1 2 N r ij F ij = 1 2 i<j N r ij F ij. (3.4) i<j

35 HOOFDSTUK 3. NIET-EVENWICHTS MOLECULAIRE DYNAMICA 26 Figuur 3.1: Het effect van de herschaling op een softcore potentiaal met H = 20, in gereduceerde simulatie-eenheden: hoe kleiner de factor λ waarmee de lengteschaal vermenigvuldigd wordt, hoe groter het effectieve volume van elk deeltje Hierin is r ij = r i r j en F ij = du(r ij) dr ij. (3.5) Na de herschaling U(r ij ) U(λr ij ), zal F ij F ij. Bijgevolg verandert de viriaal en bereikt het systeem een nieuwe temperatuur 3 2 NkT = 1 2 N r i i=1 F i (λ). (3.6) Wanneer we daarin du LJ (r) dr invullen, dan blijkt steeds een dalende functie van λ te zijn. Daaruit begrijpen we dat een effectieve schaalvergroting van de of du SC(r) dr T (λ) T (λ=1) deeltjes (λ < 1) inderdaad een temperatuurstijging tot gevolg heeft. Zoals blijkt uit figuur 3.2 (in het rood) zal de temperatuur na enkele herschalingen al snel stijgen naar zeer grote waarden. Een mogelijke oplossing voor dit probleem bestaat erin om de temperatuur terug naar haar beginwaarde te brengen, telkens ze een bepaalde maximumwaarde overschrijdt. volgens dezelfde procedure als in vergelijking (2.16). Dit gebeurt door de snelheden te herschalen

36 HOOFDSTUK 3. NIET-EVENWICHTS MOLECULAIRE DYNAMICA 27 Figuur 3.2: Het effect van het niet-evenwichts-protocol op de gereduceerde temperatuur T van tien 1 opeenvolgende herschalingen met = 1.15, elke τ = 1000 stappen, bij λ(t=0) ρ = 0.1. Met een steeds kleiner wordende herschaling ( 1 λ ) neemt de temperatuur minder λ λ λ snel toe (in het blauw) dan met herschalingen waarin λ constant blijft (in het rood). Een andere oplossing bestaat erin om de lengteschaal van de potentiaal op een meer gestage manier te laten veranderen. In plaats van een constante schaalfactor λ(t) = λ(t = 0), kunnen we deze bijvoorbeeld na elke stap verkleinen volgens 1 λ 1 λ + ( 1 λ λ ). Daardoor verandert de lengteschaal nu op een additieve manier r r + r met r 1 λ. Zoals blijkt uit figuur 3.2 (in het blauw) zal de temperatuur daardoor elke tijdstap gelijkmatig stijgen. Deze methode heeft dus als voordeel dat de temperatuur in de simulatie beter onder controle blijft. In wat volgt zullen we daarom deze manier van herschaling gebruiken in plaats van de herschaling r λr die in [SRC10] vooropgesteld werd. 3.4 Vette staarten In [SRC10] wordt aangetoond dat herschalingen met constante λ niet-gaussische verplaatsingsdistributies kunnen genereren. Hier wordt onderzocht of de nieuwe methode

37 HOOFDSTUK 3. NIET-EVENWICHTS MOLECULAIRE DYNAMICA Equilibrium-MD NEMD Gaussian 10-1 P( x/σ) x/σ Figuur 3.3: In een simulatie die elke τ = 1000 stappen uit evenwicht gebracht wordt met N = 4000 en initieel P ( x σ ). 1 λ(t=0) = 1.15, verschijnen vette staarten in de distributie van de stapgroottes waarbij de herschaling additief gebeurt, eveneens aanleiding geeft tot dergelijke vette staarten in de distributies van de stapgroottes. De netto verplaatsingen x(t) = x(t + t) x(t)zijn niet enkel afhankelijk van de niet-evenwichtsomstandigheden, maar ook van de dichtheid en de temperatuur in het systeem. Om verschillende distributies P ( x) te kunnen vergelijken met elkaar en met een normaalverdeling zullen we de stapgroottes delen door de standaardafwijking σ van de distributie. Omdat we een driedimensionaal systeem simuleren, worden ook P ( y) en P ( z) berekend. Uitgemiddeld over alle ensembles zorgt de symmetrie van het probleem ervoor dat P ( x σ ) = P ( y σ ) = P ( z σ ). Om de hoeveelheid statistiek te verhogen worden de distributies uit de drie richtingen dan ook opgeteld, maar voor de eenvoud nog steeds P ( x σ ) genoemd. De standaardafwijking wordt daarin evenwel berekend uit σ = 1 N ( x i x) 3N 2 + ( y i x) 2 + ( y i x) 2, (3.7) i=1 met x = 1 N 3N i=1 ( x i + y i + z i ). In figuur 3.3 is dan te zien dat de stapdistributie P ( x σ ) breder uitgesmeerd wordt in haar staarten en scherper gepiekt wordt wanneer

38 HOOFDSTUK 3. NIET-EVENWICHTS MOLECULAIRE DYNAMICA 29 het systeem uit evenwicht gebracht wordt. Hierin herkennen we de niet-gaussische distributies van de returns uit financiële tijdsreeksen (figuur 1.4). De leptokurtosische curve in figuur 3.3 werd gesimuleerd in NEMD met een specifieke herschalingsparameter λ((t = 0)) = 1/1.15. Dit is echter geen toevalstreffer: ook voor andere waarden van λ (en τ) werden dergelijke vette staarten teruggevonden. Ze zijn dus een robuuste eigenschap in NEMD en er komt geen finetuning aan te pas. 3.5 Kurtosis Begrippen als gepiektheid, vette staarten of het optreden van extreme waarden zijn nogal kwalitatieve omschrijvingen. Daarom gaan we op zoek naar een geschikte grootheid om dergelijke niet-gaussische eigenschappen van een probabiliteitsdistributie op een meer kwantitatieve manier te karakteriseren. Die vinden we bijvoorbeeld in de kurtosis. Figuur 3.4: Voor leptokurtosische distributies daalt de kans op extreme evenementen zeer traag Beschouw de PDF P (x) van een random-variabele x. Zoals de standaardafwijking σ en de scheefheid gebaseerd zijn op de verwachtingswaarde van de tweede en de derde macht van (x x), zo wordt de kurtosis berekend uit de verwachtingswaarde van de vierde macht daarvan: γ 2 = (x x)4 σ 4 3. (3.8) Hierin is x = µ 1 het gemiddelde van de distributie. Analoog kunnen we het n e moment voorstellen door µ n = x n P (x)dx. Na uitwerking vinden we γ 2 = µ 4 4µ 1 µ 3 + 6µ 2 µ 2 1 3µ4 1 σ 4 3. (3.9)

39 HOOFDSTUK 3. NIET-EVENWICHTS MOLECULAIRE DYNAMICA 30 De normering met de vierde macht van σ maakt de kurtosis dimensieloos. De term 3 werd ingevoerd omdat voor een gaussische distributie gecentreerd rond nul (µ 1 = 0) geldt dat µ 4 = 3, zodat de kurtosis van een gaussische distributie verdwijnt. Algemeen worden σ 4 zulke distributies met kurtosis gelijk aan nul, mesokurtosisch genoemd. Distributies met een positieve kurtosis daarentegen zijn scherper gepiekt rond het gemiddelde en hebben vettere staarten (zie fig. 3.4). Daardoor vergroot de kans op evenementen die ofwel dicht bij het gemiddelde liggen ofwel zeer extreme waarden hebben. Zulke distributies dragen de naam leptokurtosisch. In figuur 3.5 is te zien dat voor de distributie van de verplaatsingen op één tijdstap de kurtosis op bepaalde tijdstappen de hoogte inschiet. Op dat moment is het systeem ver uit evenwicht en worden de staarten van de distributies breder. Dit wijkt af van het gaussisch gedrag γ 2 0 dat teruggevonden wordt in evenwichtssimulaties. 5 4 mul SC add SC equilibrium LJ 3 kurtosis steps Figuur 3.5: De tijdsevolutie van de kurtosis voor een systeem in evenwicht (groen) verschilt met die voor een systeem dat uit evenwicht gebracht werd door een multiplicatieve herschaling 1 (blauw) en een additieve herschaling (rood) met = 1.15, τ = 500. De pieken met λ(t=0) γ 2 > 3 verschijnen pas nadat de temperatuur terug op haar beginwaarde gezet werd, iets wat langer duurt voor de additieve herschaling omdat de temperatuur volgens die methode minder snel divergeert. We kunnen de kurtosis dus gebruiken als een maat die aangeeft in hoeverre zeldzame gebeurtenissen een rol spelen. In de volgende hoofdstukken zullen we argumenteren dat, behalve cumulanten als σ of γ 2, ook de informatie-entropie H kan gebruikt worden om een PDF op een kwantitatieve manier te karakteriseren.

40 Hoofdstuk 4 Entropie en informatie Op de grafzerk van Ludwig Boltzmann ( ) staat een formule gegraveerd die het aantal mogelijke microtoestanden Ω waarin een systeem zich kan bevinden, koppelt aan een welbepaalde macroscopische grootheid, genaamd entropie (S), S = k ln Ω, (4.1) waarin de boltzmannconstante k J/K. De grootheid S was al eerder gekend uit de tweede hoofdwet van de thermodynamica die stelt dat de entropie van een geïsoleerd systeem nooit zal dalen, wat wil zeggen dat het aantal microtoestanden horende bij een welbepaalde macrotoestand gemaximaliseerd wordt. Hierdoor worden twee intuïtieve interpretaties van entropie met elkaar gekoppeld: een maat voor wanorde en een maat voor onzekerheid. Of nog: de interpretatie van entropie als beschrijving van irreversibiliteit en haar probabilistische interpretatie. Bovenstaande formule is enkel geldig in evenwichtsomstandigheden. De probabilistische interpretatie van entropie komt nog beter tot uiting in haar meer algemene vorm, de Gibbs-entropie: S = k p j ln(p j ), (4.2) j waarin gesommeerd wordt over alle mogelijke microtoestanden en p j de probabiliteit is dat het systeem zich in toestand j bevindt. Wanneer elke toestand even waarschijnlijk wordt (p j = 1 Ω ) herleidt deze zich tot formule (4.1). Om de entropie te kunnen berekenen van een systeem waarin die evenwichtstoestand op bepaalde tijdstappen verstoord wordt, zullen we in dit proefschrift vertrekken van de uitdrukking (4.2). De Gibbs-entropie S wordt bepaald door p j, dus gaan we eerst op zoek naar de de distributie die de probabiliteit bepaalt dat het systeem zich in een toestand j bevindt. 31

41 HOOFDSTUK 4. ENTROPIE EN INFORMATIE Boltzmanndistributie Beschouw daartoe een systeem bestaande uit een subsysteem en een reservoir [MC05]. Beiden kunnen energie met elkaar uitwisselen, maar de totale energie blijft constant. In evenwicht hebben het subsysteem en het reservoir een gemeenschappelijke temperatuur T. We gaan nu op zoek naar de probabiliteit p j dat het subsysteem een energie E j heeft. Als het subsysteem zich in een toestand zou bevinden met een energie E j, dan kan het reservoir zich in elke microtoestand bevinden die overeenkomt met een constante energie E R = E tot E j. Volgens het ergodisch principe zijn deze microtoestanden allen even waarschijnlijk. Bijgevolg is de probabiliteit dat het subsysteem een energie E j heeft evenredig met het aantal microtoestanden Ω R (E tot E j ) die het reservoir kan aannemen, consistent met die energie: p j Ω R (E tot E j ). (4.3) Omdat het reservoir veel groter is dan het subsysteem, zal E tot >> E j, en kunnen we het aantal toegelaten microtoestanden expanderen in machten van E j. Omdat deze een exponentiële functie is van de energie en bijgevolg veel te snel varieert, zullen we ln(p j ) ontwikkelen in plaats van p j. zijn. ln[ω R (E tot E j )] = ln[ω R (E tot )] E j ln(ω R ) E r +... (4.4) De energie van het ganse systeem ligt vast, zodat de eerste term een constante zal De partieel afgeleide in de tweede term is niets anders dan de definitie van de inverse temperatuur β R. Het subsysteem en het reservoir zijn op dezelfde temperatuur zodat β = β R. De gezochte probabiliteit dat het subsysteem een energie E j heeft, wordt dus na normalisatie gegeven door 1 p j = exp( βe j) j exp( βe j). (4.5) 4.2 Entropie van een ideaal gas We kunnen de entropie van een reëel gas opsplitsen in een ideaal gas-bijdrage S tr die enkel te wijten is aan de translationele vrijheidsgraden in het systeem en in een bijdrage afkomstig van de interactie tussen de deeltjes S int. S = S tr ( p 1, p 2,... p N ) + S int ( r 1, r 2,... r N ) (4.6) 1 De boltzmannfactor kan ook eenvoudig afgeleid worden met behulp van Lagrange-multiplicatoren door de entropie te maximaliseren onder de voorwaarden P i pi = 1 en P i piei = cte.

42 HOOFDSTUK 4. ENTROPIE EN INFORMATIE 33 Om te beginnen, negeren we interacties en focussen we ons op de contributie S tr die enkel geassocieerd is met de kinetische energie van het systeem. We vertrekken opnieuw van de Gibbs-entropie, waarin de waarschijnlijkheid p j dat het systeem een energie E j heeft, gegeven wordt door (4.5). In het geval van een klassiek ideaal gas, wordt dit met S tr = k j p j = p tr j = exp( β N i Z p j ln(p j ), (4.7) p 2 i 2m ). (4.8) Aangezien de gasdeeltjes niet onderscheidbaar zijn, wordt de N-deeltjes-partitiefunctie bij benadering Z(T, V, N) 1 N! [Z 1(T, V )] N, (4.9) waarin de één-deeltjes-partitiefunctie van de translationele vrijheidsgraden, gelijk is aan: Z tr 1 (T, V ) = 0 4πp 2 dp h 3 met de thermische golflengte gedefinieerd als zodat p tr j λ = = N!λ3N V N exp( βp2 2m ) = V λ 3, (4.10) h 2πmkT (4.11) exp( β N i p 2 i ). (4.12) 2m We bedenken dat als we de impuls van deeltje 1 en deeltje 2 verwisselen, dit aanleiding geeft tot dezelfde p j. We kunnen de sommatie over alle microtoestanden dus vervangen door een integratie over alle vrijheidsgraden op voorwaarde dat we delen door N! als correctie voor het feit dat de deeltjes niet onderscheidbaar zijn. impulsvrijheidsgraden een rol spelen in p j, wordt de entropie dan: S ideaal = k V N h 3N N! d 3 p 1 d 3 p 2...d 3 N!λ 3N N p N exp( β V N S ideaal = k( λ h ) 3N d 3 p 1 d 3 p 2...d 3 p N exp( β of na N integraties: S ideaal = k( λ h ) 3N (2πmkT ) 3N 2 N i i p 2 i 2m ) p 2 i 2m ) ln [ ln( N!λ3N V N [ ln( N!λ 3N V N ) + 3N 2 Aangezien enkel de [ N!λ 3N V N ) β N exp( β N i p 2 i 2m ) ] ]. (4.13) i, p 2 i 2m ) ],

43 HOOFDSTUK 4. ENTROPIE EN INFORMATIE 34 Met behulp van Stirlings formule en formule (4.11) wordt dit: S ideaal = S ideaal Nk = ln( V Nλ 3 ) (4.14) Dit levert dezelfde formule als welke Otto Sackur (en onafhankelijk van hem de 17- jarige Hugo Tetrode) bekwam op basis van thermodynamische beschouwingen [Sac13]. Uitgaande van Gibbs probabilistische definitie van entropie die algemeen geldig is, ook voor een systeem uit evenwicht wordt dus de correcte uitdrukking voor de entropie van een ideaal mono-atomisch gas bekomen. We willen nagaan of deze wetmatigheid ook teruggevonden wordt via de MD-simulatie. We ontbreken echter nog het inzicht hoe de onderliggende distributies aanleiding geven tot deze entropie. Daarvoor zullen we eerst teruggrijpen naar de betekenis van entropie in de context van informatietheorie. 4.3 Informatie-entropie Entropie à la Shannon Gibbs definitie van de entropie (4.2) is gebaseerd op de probabiliteit dat het systeem zich in een bepaalde microtoestand bevindt, dus op onze kennis (of onwetendheid) over die microtoestand. In die zin is entropie eerder een beschrijving van de informatie die we hebben over het thermodynamisch systeem dan een eigenschap van het systeem zelf. In de context van informatietheorie ontstaat informatie als een gebeurtenis plaatsvindt waarvan vooraf onzeker was of deze daadwerkelijk zou gebeuren. De zelfinformatie I is dan de hoeveelheid informatie die kennis over de uitkomst van een gebeurtenis toevoegt aan onze totale kennis. De functionele vorm hiervan kan afgeleid worden uit de axioma s van de informatietheorie en blijkt logaritmisch afhankelijk van de probabiliteit p [Sha48]. Veronderstellen we immers: informatie is een niet-negatieve grootheid, I(p) 0, een gebeurtenis die zich voordoet met probabiliteit p = 1 zal geen informatie opleveren, I(1) = 0, als twee ongecorreleerde gebeurtenissen zich voordoen (zodat hun gezamenlijke probabiliteit het product is van hun individuele probabiliteiten) zal de informatie bekomen door ze beide te observeren de som zijn van de informatie geassocieerd met de afzonderlijke gebeurtenissen, I(p 1 p 2 ) = I(p 1 ) + I(p 2 ), de maat voor informatie is een continue en monotone functie van de probabiliteit ervan,

44 HOOFDSTUK 4. ENTROPIE EN INFORMATIE 35 dan volgt daaruit dat I(p a ) = ai(p) voor elke reële a en zien we in dat I(p) inderdaad een logaritmische functie moet zijn. Bovendien zal de informatie van een geobserveerde gebeurtenis groter worden wanneer de waarschijnlijkheid p waarmee die gebeurtenis zich voordoet kleiner wordt. Bij een uitkomst j met probabiliteit p j hoort dus een zelfinformatie log 2 (p j ). Wanneer deze zelfinformatie uitgemiddeld wordt door ze te wegen met de waarschijnlijkheid p j dat de uitkomst j zich ook effectief voordoet, bekomen we de verwachtingswaarde van de zelfinformatie: H = j p j log 2 (p j ). (4.15) Deze grootheid is maximaal (H = log 2 n) als alle n toestanden even waarschijnlijk zijn en minimaal (H = 0) als we a priori weten in welke toestand het systeem zich bevindt. We zouden H dus kunnen interpreteren als onzekerheid. Naar analogie met de statistische mechanica verkoos Claude Shannon echter de naam entropie. H wordt doorgaans uitgedrukt in bits, waarbij iedere bit het aantal mogelijke toestanden verdubbelt. Daarom maakt de definitie gebruik van de binaire logaritme, met grondtal 2. Shannons definitie van entropie kan echter evengoed geschreven worden in natuurlijke logaritmen door over te gaan van binaire eenheden naar logaritmische eenheden (1 nat = 1 ln2 bit). De aanwezigheid van de boltzmannconstante k is dan nog het enige verschil tussen de definities (4.2) en (4.15). Deze staat er echter omwille van historische redenen (om ervoor te zorgen dat de statistische definitie van entropie dimensioneel overeenstemt met de thermodynamische definitie van Clausius S = Q/T ) en kan dus evengoed opgeslorpt worden in een gereduceerde entropie 2 S = S/k. Op basis van deze equivalentie zullen we H en S voortaan beide bestempelen als de informatie-entropie van het systeem. We interpreteren deze als een maat voor onze onwetendheid over het systeem, of anders gezegd, als de vrijheid die het systeem heeft om zich een toestand te kiezen, gegeven de informatie die we over het systeem hebben Entropie van de Maxwell-snelheidsdistributie Uit het voorgaande volgt dat we de informatie-entropie kunnen zien als een statistische eigenschap van een discrete waarschijnlijkheidsdistributie. We kunnen dit veralgemenen voor een continue waarschijnlijkheidsdistributie door de sommatie in de Shannon-entropie (4.15) te vervangen door een integraal. 3 Om de gedachte te vestigen, berekenen we eerst 2 [BN08] houdt een pleidooi om de term entropie te vervangen door ontbrekende informatie en herformuleert de statistische mechanica door temperatuur en energie in dezelfde eenheden kt uit te drukken. 3 Bemerk evenwel de discussie in sectie die met deze overgang gepaard gaat.

45 HOOFDSTUK 4. ENTROPIE EN INFORMATIE 36 de informatie-entropie geassocieerd met een gaussische distributie, p(x) = 1 2πσ 2 H = = exp( x2 2σ 2 ). 4 p(x) ln p(x)dx (4.16) p(x) ln 2πσ 2 dx + p(x) x2 2σ 2 dx = ln 2πσ = ln( 2πeσ). We kunnen deze redenering uitbreiden naar een n-dimensionale randomvector x i met distributie p(x 1,...x n ) = 1 (2π) n c ij exp( 1 2 aij x i x j ), waarin a ij de inverse van de covariantiematrix c ij is en c ij de determinant ervan. De informatie-entropie van deze n-dimensionale gaussische distributie wordt dan: ( H = ln (2πe) n/2 c ij 1/2). (4.17) In de afwezigheid van correlaties tussen de verschillende componenten, zal c ij = δ ij σ 2 en wordt dit: H = n ln(2πe) + n ln σ. (4.18) 2 Eén deeltje in een warmtebad De impulsvector van een deeltje dat in contact staat met een warmtebad volgt een waarschijnlijkheidsdistributie die evenredig is met de boltzmannfactor (4.5). Voor een niet-interagerend deeltje met enkel kinetische energie E = p2 2m, wordt dit P [1] 1 ( p) = (2πmkT ) 3/2 exp( p2 x + p 2 y + p 2 z ). (4.19) 2mkT De normeringsconstante werd daarin bepaald uit P [1] ( p)d p = 1. De impulsvector van een deeltje dat beweegt in drie dimensies en in contact staat met een warmtebad, volgt dus een driedimensionale gaussische distributie met standaardafwijking σ = mkt. Volgens (4.18) is de hiermee geassocieerde informatie-entropie: H = S k = 3 2 ln 2πe + 3 ln mkt. (4.20) 4 Zoals aangetoond door [Sha48] is dit de distributie die de Shannon-entropie maximaliseert bij de randvoorwaarden R p(x)dx = 1 en R p(x)x 2 dx = σ 2.

46 HOOFDSTUK 4. ENTROPIE EN INFORMATIE 37 N deeltjes Beschouw nu N niet-interagerende deeltjes in een volume V. We brengen wederom enkel de impulsvrijheidsgraden in rekening zodat E = N p 2 i i=1 2m. De faseruimte komt nu overeen met een 3N-dimensionale vector p i. De hiermee geassocieerde probabiliteitsdistributie P ( p i ) wordt P [N] ( p 1,... p N ) = P [1] ( p 1 )P [1] ( p 2 )...P [1] ( p N ). (4.21) waarin P [1] ( p i ) telkens de driedimensionale gaussische distributie (4.19) is. Met behulp van vergelijking (4.18), vinden we dan de informatie-entropie voor een systeem van N deeltjes die vrij bewegen in een driedimensionale ruimte. S tr = P [N] ( p 1,... p N ) ln[p [N] ( p 1,... p N )]d p 1...d p N (4.22) k = 3N 2 ln 2πe + 3N 2 Of, met behulp van formule (4.11): ln mkt. (4.23) S tr = S tr Nk = 3 h3 + ln 2 λ 3. (4.24) Dit is de informatie-entropie die enkel te wijten is aan de impulsvrijheidsgraden. In sectie 4.14 werd de veronderstelling gemaakt dat de entropie van een ideaal gas enkel haar oorsprong vindt in de translationele vrijheidsgraden, geassocieerd met de kinetische energie van het systeem. Vergelijking met (4.14) toont dat die redenering niet volledig was. De entropie van een ideaal gas bevat namelijk nog een extra term ln ev We zullen nu aantonen dat deze term gerelateerd is aan de positionele vrijheidsgraden in het systeem en overeenkomt met de informatie-entropie van een uniforme distributie Configurationele entropie Eén deeltje Om de microtoestand volledig te karakteriseren kunnen we de faseruimte opdelen in zesdimensionale cellen. Het lijkt er dan op dat als we de cellen maar klein genoeg kiezen, een eindig volume aanleiding zal geven tot een oneindig aantal mogelijke toestanden. Volgens het onzekerheidsprincipe van Heisenberg 5 is zulke continue beschrijving van h 3 N. 5 Merk op dat we hier gebruik maken van de oorspronkelijke formulering uit Heisenbergs artikel [Hei27] en dat deze een factor 16π 3 verschilt van σ xσ yσ zσ px σ py σ pz 3 8, die bekomen wordt uit de Robertson Schrödinger-relatie en de kwantummechanische commutatieregels.

47 HOOFDSTUK 4. ENTROPIE EN INFORMATIE 38 de faseruimte echter onmogelijk. Ze legt immers een fundamentele limiet op aan het minimaal volume van elke cel, x y z p x p y p z = h 3. (4.25) Omdat de natuur kwantummechanisch is en de faseruimte bijgevolg granulair, heeft een deeltje dus slechts de keuze tussen V mogelijke microtoestanden. Er bestaat bovendien h 3 geen enkele reden waarom een bepaalde ingenomen positie waarschijnlijker zou zijn dan een andere, zodat p i = h3 V uniform verdeeld is. De informatie-entropie geassocieerd met de positie van één deeltje is dan volgens (4.15) S 1( r) k = ln V h 3. N deeltjes In afwezigheid van interacties factoriseert de probabiliteitsdistributie van N deeltjes opnieuw in de afzonderlijke distributies van elk deeltje. Voorgaande redenering, heden toegepast op een deeltje dat beweegt in een 6N-dimensionale faseruimte, leert: P ( r 1,..., r N ) = P ( r 1 )...P ( r N ) = h3n V N. (4.26) Er treedt echter nog een complicatie op waarmee we rekening moeten houden: de deeltjes in de simulatie zijn niet onderscheidbaar. Daarom zal het verwisselen van de faseruimtecoördinaten van twee deeltjes aanleiding zal geven tot dezelfde toestand. Omdat het aantal toestanden die N niet onderscheidbare deeltjes kunnen bezetten N! keer kleiner is dan het aantal toestanden die N onderscheidbare deeltjes kunnen innemen, vinden we voor de uniforme distributie van de positionele vrijheidsgraden: P ( r 1,..., r N ) = h3n N! V N. (4.27) De bijdrage van de positionele vrijheidsgraden aan de entropie, wordt dan: S pos (U = 0) = S( r 1,..., r N ) Nk = 1 N ln V ev h 3 = ln N! h 3 N. (4.28) Deze is enkel geldig in afwezigheid van interacties (U = 0). Optellen van (4.24) en (4.28) levert dan de correcte uitdrukking voor de entropie van een ideaal gas (4.14), S ideaal = S tr + S pos (U = 0) = ln( V Nλ 3 ) (4.29)

48 HOOFDSTUK 4. ENTROPIE EN INFORMATIE Entropie in de simulatie We ontwikkelen een methode om de translationele bijdrage aan de entropie S tr te bepalen in de simulatie. Naar analogie met vergelijking (4.22) kunnen we S tr trachten te berekenen door te sommeren over alle impulswaarden die de deeltjes in het simulatiesysteem kunnen aannemen. Aangezien we m i = 1, i = 1...N gekozen hebben in de simulatie, kunnen we de probabiliteit p j associëren met de snelheidsverdeling P (v x,y,z ) van de deeltjes. Omdat we voor het translationeel gedeelte, de interacties tussen deeltjes buiten beschouwing laten, bewegen ze onafhankelijk van elkaar. factoriseert dan in het product van N identieke termen: S tr k = j De probabiliteitsdistributie p j ln(p j ) = N( v x P (v x ) ln[p (v x )]+ v y P (v y ) ln[p (v y )]+ v z P (v z ) ln[p (v z )]). (4.30) In de simulatie worden tijdens elke tijdstap de snelheidscomponenten van de deeltjes in een histogram gerangschikt. Om alles op één te normeren, wordt er achteraf gedeeld door het aantal deeltjes N. Elke bin b bevat dan de probabiliteit P b = N b N dat de snelheidscomponent zich in het bijhorende snelheidsinterval bevindt. Om over te gaan van een histogram naar een kansdistributie met oppervlakte één, wordt die waarde gedeeld door de breedte van de bins = vx,y,z. Daarna wordt P b ln P b elke tijdstap over alle bins opgeteld en vermenigvuldigd met. 6 In figuur 4.1 worden de kansdistributies op drie verschillende tijdstappen vergeleken met de gaussische maxwelldistributie bij T = 0.7. In figuur 4.2 is de hieruit berekende waarde S tr (t) op elke tijdstap gevisualiseerd. Het is duidelijk dat de entropie in de simulatie fluctueert rond een gemiddelde waarde. Wanneer we S tr (t) uitmiddelen over alle tijdstappen dan bekomen we de gemiddelde entropie, gerelateerd aan de translationele vrijheidsgraden. Als we uit tien simulaties telkens deze entropie bepalen, dan vinden we S tr = ± , een significante overeenkomst met de theoretische waarde uit vergelijking (4.23), Str = Bovenstaande analyse ondersteunt dus dat men met grote nauwkeurigheid de entropie kan bepalen uit een probabiliteitsdistributie. De verdeling van één snelheidscomponent j = x, y, z convergeert naar een gaussische distributie die de vorm 1 v 2 j p(v j ) = exp( 2πT 2T ) (4.31) krijgt wanneer haar parameters uitgedrukt worden in systeemeenheden, met m = 1. De variantie daarvan wordt dus volledig bepaald door de gereduceerde temperatuur T in het systeem (figuur 4.3). Bijgevolg zal de entropie van de translationele vrijheidsgraden 6 De structuur van de relevante broncode is toegevoegd in bijlage B.1.

49 HOOFDSTUK 4. ENTROPIE EN INFORMATIE 40 Figuur 4.1: De gereduceerde snelheidscomponent vx van 4000 deeltjes werd gerangschikt in 50 bins. P (v x) geeft de waarschijnlijkheid dat een deeltje een snelheidscomponent heeft in het interval [vx, vx + vx]. Drie verschillende gesimuleerde histogrammen P (v x) zijn te zien tijdens drie verschillende tijdstappen en deze volgen de maxwelldistributie (in het zwart). Figuur 4.2: De tijdsevolutie van S tr in een simulatie met 4000 deeltjes bij ρ = 0.5 en T = 0.7. S tr = S[P [N] (p x)] + S[P [N] (p y)] + S[P [N] (p z)] wordt elke tijdstap berekend uit histogrammen zoals in fig. 4.1 en fluctueert rond de theoretische waarde S tr =

50 HOOFDSTUK 4. ENTROPIE EN INFORMATIE T =0.5 T =0.7 T = P(v x ) v x Figuur 4.3: De gereduceerde snelheidshistogrammen (waarvan er enkele zijn geplot op verschillende tijdstappen in de simulatie) convergeren naar een maxwelldistributie waarvan de variantie stijgt met de temperatuur T. enkel temperatuursafhankelijk zijn en dus niet afhangen van de dichtheid of van de potentiële energie in het systeem. Tabel 4.1 bevestigt dat deze voorspelde waarde telkens kan gereproduceerd worden voor verschillende waarden van de temperatuur. T S tr -uit vergelijking (4.24) S tr -uit de simulatie Tabel 4.1: De temperatuursafhankelijkheid van S tr voor een simulatie met 4000 deeltjes en ρ = 0.5. S tr volgt de theoretische afhankelijkheid uit onze redenering in sectie

51 HOOFDSTUK 4. ENTROPIE EN INFORMATIE Interactie-entropie Tot nog toe hebben we steeds een hamiltoniaan beschouwd voor N niet-interagerende deeltjes die vrij bewegen in een volume V. We gaan nu op zoek naar de bijdrage tot de entropie die te wijten is aan de interacties en we vertrekken van de hamiltoniaan H = N i p 2 i 2m + U(i, j). (4.32) i<j De potentiële energie inwerkend op één deeltje is afhankelijk van de positiecoördinaten van alle andere deeltjes. Daarom kunnen we de probabiliteitsdistributie niet langer factoriseren in de distributies horende bij één deeltje. Volgens vergelijking (4.5) wordt de configurationele probabiliteitsdistributie nu: P ( r 1,..., r N ) = h3n N! exp β V N i<j De redenering uit sectie vereist namelijk dat de factor h3n N! V N geplaatst. De normeringsfactor ζ werd hierin gedefinieerd als ζ = 1 V N ζ U(i, j). (4.33) expliciet voorop wordt d r 1...d r N exp β i<j U(i, j), (4.34) zodat deze convergeert naar één in de afwezigheid van interacties U = 0 en de uniforme distributie van de positionele vrijheidsgraden (4.27) inderdaad teruggevonden wordt. De configurationele distributie gehoorzaamt dus aan volgende normalisatieconditie: d r 1...d r N 1 h 3N N! P ( r 1,..., r N ) = 1 (4.35) en de daaraan gerelateerde entropie wordt: S( r 1,..., r N ) = k S( r 1,..., r N ) k d r 1...d r N 1 h 3N N! = ln V N ζ h 3N N! h 3N N! exp β V N d r 1...d r N 1 V N exp β i<j U(i, j) ζ i<j [ h 3N N! ln V N exp β i<j ζ U(i, j) [ β U(i, j)]. i<j In de tweede term herkennen we het ensemblegemiddelde (2.14) van de potentiële energie Ū = E p (t), S( r 1,..., r N ) k ζ = ln V N ζ h 3N + βū. (4.36) N! U(i, j) ],

52 HOOFDSTUK 4. ENTROPIE EN INFORMATIE 43 We vinden dus de interactie-entropie door bij de entropie geassocieerd met de positionele vrijheidsgraden in afwezigheid van interacties, een correctieterm op te tellen. S pos (U) = S pos (U = 0) + 1 (ln(ζ) + βū). (4.37) N De grootheid Ū kan berekend worden via een MD-gemiddelde. Voor de factor ζ hebben we een benadering nodig. Laten we ζ daarom berekenen met behulp van een perturbatie-expansie. Daavoor gaan we over op de hulpfunctie van Mayer [GT07]: λ(i, j) = exp( βu(i, j)) 1. We passen daarop volgende reeksontwikkeling toe: i<j(1 + λ(i, j)) = 1 + k<l λ(k, l) + k<l,n<m λ(k, l)λ(n, m) +... (4.38) De eerste term daarin is de ideaal gas-bijdrage, terwijl de tweede de interactie tussen twee nabije deeltjes voorstelt. De derde term wordt maar relevant wanneer drie deeltjes zich in elkaars nabijheid bevinden. Voor een hogere dichtheid en sterke interacties moeten steeds meer hogere orde-termen in rekening gebracht worden. Voor lage dichtheid convergeert deze expansie snel genoeg, zodat we ze kunnen afbreken na de tweede term: ζ = 1 V N d r 1..., d r N exp βu(i, j) (4.39) i<j V N d r 1...d r N λ(k, l). (4.40) De som in bovenstaande vergelijking telt N(N 1) 2 termen, zijnde het aantal manieren waarop twee deeltjes aan elkaar gelinkt kunnen worden. Deze termen zijn allen gelijk want ze verschillen enkel maar in de manier waarop hun integratievariabelen gelabeld zijn. We vinden dus: k<l ζ = 1 + V N 2 N(N 1) V N d r 1 d r 2 λ(1, 2) (4.41) 2 N(N 1) = 1 + 2V 2 d r 1 d r 2 ( 1 + exp βu( r 1, r 2 )) (4.42) N(N 1) = 1 + d r 12 ( 1 + exp βu( r 12 )), (4.43) 2V waarbij in de laatste stap werd overgegaan op relatieve coördinaten door één van beide deeltjes als oorsprong te kiezen. De eerste term in de integraal zorgt ervoor dat de integraal convergeert. Wanneer de interacties verwaarloosbaar worden, nadert ζ naar 1.

53 HOOFDSTUK 4. ENTROPIE EN INFORMATIE 44 Figuur 4.4: De dichtheidsafhankelijkheid van de gereduceerde entropie S(ρ ) bij T = 0.7 in een simulatie met 4000 deeltjes waarvan de interactie gemodelleerd werd met een LJ-potentiaal. Het ideaal gas-deel S ideaal ervan wordt tevens vergeleken met de theoretische waarde van Sackur en Tetrode S th (daarin zijn de foutenvlaggen onzichtbaar klein). Interactie-entropie in de MD-simulatie De totale gereduceerde entropie van het syteem wordt, na het in rekening brengen van interacties S = S Nk = S pos (U) + S tr (4.44) = ln( V Nλ 3 ) N (ln ζ + βū) = S ideaal + 1 (ln ζ + βū). (4.45) N Deze gemiddelde entropie wordt nu berekend in de MD-simulatie uit enerzijds het tijdsgemiddelde van de potentiële energie en uit anderzijds de snelheidsdistributies van de deeltjes (zoals in sectie 4.4). Door telkens een nieuwe simulatie uit te voeren bij een ande-

54 HOOFDSTUK 4. ENTROPIE EN INFORMATIE S S ideaal 3 S f Figuur 4.5: Het effect van de interactie op de gereduceerde entropie S: in een simulatie met N = 2048 deeltjes (T = 0.7, ρ = 0.5) waarvan de interactie gemodelleerd werd met een gereduceerde LJ-potentiaal, neemt S toe als die interacties zwakker gemaakt worden met een factor f. re dichtheid ρ, kan de dichtheidsafhankelijkheid van de entropie gecontroleerd worden (figuur 4.4). We zien dat bij hogere dichtheid de toenemende interacties in het systeem ervoor zorgen dat de totale entropie van het systeem verlaagt. Dit blijkt ook uit vergelijking (4.45), waarin de laatste term negatief is. Het verwaarlozen van correlaties in het systeem had dus een overschatting van de entropie tot gevolg. Voor zeer lage dichtheid verdwijnt de interactie-entropie en convergeert de totale entropie van het systeem naar de entropie van een ideaal gas. In het vaste stof-regime ( ρ 0.8) zal de dichtheidsexpansie niet meer convergeren en gaat de benadering in vergelijking (4.40) niet meer op. De figuur toont dus enkel een goede schatting van de entropie bij niet al te hoge dichtheden. Verder dient bemerkt te worden dat de correctieterm ln ζ/n een contributie geeft die ervoor zorgt dat S niet langer een intensieve grootheid is, wat een tekortkoming is van de hier vooropgestelde methode om interacties in rekening te brengen. Wanneer de interacties zwakker gemaakt worden door de interactiesterkte te herschalen met een factor f [0, 1]: U LJ (r) = f 4ɛ[( σ r )12 ( σ r )6 ], dan zal de entropie tevens convergeren naar haar waarde voor een ideaal gas (fig. 4.5).

55 HOOFDSTUK 4. ENTROPIE EN INFORMATIE Energy fluctuations Energy fluctuations y E p y E p x x 0.5 Figuur 4.6: De ruimtelijke distributie van de veranderingen in potentiële energie voor een LJ-potentiaal in evenwichtsomstandigheden (links) en voor een SC-potentiaal op het moment dat het systeem uit evenwicht gebracht wordt (rechts). Een typische projectie op het xy-vlak waarin z i < 0.5 i, wordt getoond voor een simulatie met ρ = 0.5, T = 0.7 en N = Entropie in NEMD Wanneer het systeem een exogene schok ondervindt door het herschalen van de lengteschaal in de interactiepotentiaal, zal dat zijn invloed hebben op de interacties tussen de deeltjes. Het effect op de potentiële energie wordt geïllustreerd in figuur 4.6. Daarin is een dwarsdoornede te zien van de simulatiebox waarin voor ieder deeltje de verandering van de potentiële energie in vergelijking met de vorige tijdstap gevisualiseerd is, E p ( r i ) = U( r ij (t + t)) U( r ij (t)). (4.46) j i De potentiële energiefluctuaties worden duidelijk veel groter op het moment dat het systeem uit evenwicht gebracht wordt Lokale entropie De herschaling introduceerde in bepaalde gebieden van het simulatiesysteem dus een potentiële energiestijging die veel groter is dan haar gemiddelde waarde. We gaan nu na wat het effect daarvan is op de entropie. In tegenstelling tot potentiële energie is entropie een eigenschap die niet kan worden toegeschreven aan één deeltje, maar enkel aan een

56 HOOFDSTUK 4. ENTROPIE EN INFORMATIE Equilibirum Entropy S tr y x Str Figuur 4.7: De ruimtelijke verdeling van de entropie verbonden met de translationele vrijheidsgraden S tr voor een systeem in evenwicht (links) en voor een systeem dat uit evenwicht gebracht 1 werd volgens ( = 1.15, τ = 500 ) (rechts). Deze wordt getoond als een projectie op λ(t=0) het xy-vlak tijdens een typische tijdstap in een simulatie met 8788 deeltjes bij ρ = 0.5 en T = 0.7. distributie of een systeem van deeltjes. Om de ruimtelijke entropiefluctuaties te kunnen berekenen, zal dus een manier van coarse-graining vereist zijn. Daarom wordt ons simulatiesysteem opgedeeld in n n subsystemen van hetzelfde volume. Om genoeg data over te houden en om die subsystemen eenvoudig te kunnen visualiseren wordt de z-dimensie onveranderd gelaten. Uit de snelheden van alle deeltjes die in een bepaald subsysteem bewegen, wordt dan een Maxwell-Boltzmann-distributie gegenereerd 7. Daaruit wordt telkens de entropie S tr bepaald die correspondeert met de snelheidsverdeling van de deeltjes in het subvolume. Ter verduidelijking zijn de groottes van die entropiewaarden afgebeeld in figuur 4.7 voor een typische dwarsdoorsnede. In de evenwichtssimulatie zien we dat de entropie overal in de buurt ligt van de gemiddelde waarde S tr 3.7. Op het moment dat het systeem uit evenwicht gebracht is, merken we op dat de verschillen tussen de lokale entropiewaarden sterk toenemen Dit is een gevolg van het feit dat de temperatuur T niet langer als een globale eigenschap van het systeem kan beschouwd wordt, maar zich ten gevolge van de herschaling als een lokale variabele gedraagt. De fluctuaties in de temperatuur bepalen de fluctuaties op de variantie van de snelheidsverdelingen en bijgevolg ook de fluctuaties in S tr. 7 De relevante pseudocode is terug te vinden in bijlage B.2.