Utrecht, caleidoscoop, 24 april, 212 Computerized Tomography: The ART of inspection Program Wat is tomografie? Zuiver wiskundige aanpak Praktische aanpak Praktische complicaties Gerard Sleijpen Department of Mathematics Het lineaire algebra probleem Oplosmethoden ART SIRT CG Controleren van effecten van meetfouten http://wwwstaffscienceuunl/ sleij11/
Wat is tomografie? Hoe krijg je zicht op het inwendige van Openmaken? 1 een piramide 2 de aarde 3 een mens 1 onpraktisch 2 onmogelijk 3 onwenselijk Wat is tomografie? 1 hoog frequentie akoestische golven: meet reistijd (voor olie & gas) 2 schokgolven van aardbevingen voor beeld aarde: meet reistijd 3 x-stralen, stralen van deeltjes (SPECT, PET), licht, elektrische impedantie, meet verlies intensiteit 4 Magnetische resonantie (MRI), Alternatief: tomografie schiet er stralen doorheen; vergelijk wat er uitkomt met wat erin gaat; reconstrueer beeld hieruit
Straal S = {r(t) t [t 1, t 2 ]} is een kromme g(s) = f(r) dr S Straal S = {r(t) t [t 1, t 2 ]} is een kromme g(s) = f(r) dr S Seismische tomografie: S is de baan van de drukgolf van de haard van de aardbeving naar een meetstation Banen zijn niet recht Banen zijn wel (in goede benadering) bekend f = 1/c, met c(x) de snelheid van de schokgolf op plaats x 1/c heet de traagheid c hangt af van de temperatuur, druk, De vorm van de baan hangt af van c en van begin en eindpunt g(s) = T S is de totale reistijd van de schokgolf langs straal S Medische tomografie: S is de baan van de straling van de stralenbron naar het detectiepunt Banen zijn recht: S = L(s, φ) f(x) is de absorbtiecoëfficiënt in plaats x g(s) = g(s, φ) is het relatieve verlies aan intensiteit van de straling langs baan S = L(s, φ) In dit geval noemen we s g(s, φ) het spookbeeld of de projectie van f vanuit de richting φ Radon transformaties g(s, φ) = f(r) dr L(s,φ) Probleem f onbekend Hoe vind je f als g(s, φ) bekend is voor iedere s R, φ [, π)? Problemen FBP Discrete versies zijn instabiel voor het geval f niet glad Discrete versies vereisen data in allerlei mooi verdeelde richtingen Eventueel voorkennis kan niet uitgebuit worden Verschillende formules bekend (1-st Radon, 1917) Analytisch equivalent, numeriek verschillend Filtered Back Projection Veel commerciële codes voor medische tomografie maken standaard gebruik van een of andere discrete versie van FBP
We bespreken nu een praktische aanpak die ook werkt als de stralen niet in parallelle bundels komen, zoals bij aardbevingen : haard aardbeving : meetstation Discretiseer Neem aan dat de banen recht zijn heet i cel Per cel i: c i is de gemiddelde snelheid in cel i; d i 1/c i Per straal S: T S is de totale reistijd van de schokgolf langs S Per straal S en per cel i: l i is de lengte van straal S in cel i t i is de tijd die de schokgolf nodig heeft om door cel i te reizen langs S: t i = l T S = i l i d i waarbij T S gemeten, l i bekend, d i te bepalen T S = i l i d i Matrix-vektor vergelijking d l 1 (1) l 2 (1) 1 T d S(1) l 1 (2) l 2 (2) 2 = T S(2) d #cellen T S(#stralen) Te schrijven als een matrix-vector vergelijking # stralen = # metingen 1 7 (in ISC bestand) Ax = b Nummer de cellen c 1, c 2,, nummer de stralen S(1), S(2), l i (j) is de lengte van straal S(j) in cel i d l 1 (1) l 2 (1) 1 T d S(1) l 1 (2) l 2 (2) 2 = T S(2) d #cellen T S(#stralen) Aantal cellen hangt samen met de cel-afmetingen Kleinere cellen = grotere resolutie Huidige cel grootte: (5km) 3 # cellen 2 2 7 8 131 7
Ax = b De matrix is slecht geconditioneerd Minimum eis: # metingen # cellen Problemen seismische tomografie Matrix slecht geconditioneerd Voor goede resolutie, hoog dimensionaal probleem: kleine cellen veel verschillende metingen Soorten golven P-golven (pressure waves) S-golven (shear waves) Rayleigh golven Love golven Verschillende soorten golven hebben verschillende snelheid
Problemen seismische tomografie Locatie haard aardbeving onbekend Snelheid c(x) onbekend Stralen lopen krom; hangt af van c(x) Verschillende soorten golven Golven hebben een zekere breedte Golven kunnen reflecteren Meetresultaten met fouten belast Meetresulaten niet alle even betrouwbaar Spreiding meetstations onevenwichtig Aardbevingen zijn oncontroleerbaar
Problemen medische tomografie Idealiter: As = d Matrix slecht geconditioneerd Voor goede resolutie, hoog dimensionaal probleem: kleine cellen veel verschillende metingen Resultaten moeten snel beschikbaar zijn Resultaten moet betrouwbaar zijn Metingen beperkt houden: duur metingen gevaar stralingen Intesiteitsverlies hangt ook af van de energie van de straal (beam hardering) Stralen niet altijd vanuit ieder punt mogelijk Echter b = d + f bekend; f fouten Ax = b A is ijl & groot sterk overbepaald: n l effectief onderbepaald: rang(a) < l inconsistent: er is geen oplossing Zoek x die b Ax minimaliseert Zoek daaronder degene met minimale x, de zogenaamde minimum residu minimum norm oplossing Zoek onder de x die b Ax minimaliseren degene waarvoor x minimaal is Normaal vergelijkingen x minimaliseert b Ax precies dan als b Ax Ay y = (Ay) T (b Ax) = y T (A T b A T Ax) y A T Ax = A T b ( ) x minimum residu oplossing met x minimaal als x y y Kern(A) x = A T z zekere z Stelling x is de minimum residu minimum norm oplossing precies dan als A T Ax = A T b en x = A T z zekere z Oplosmethoden Gauss eliminatie? Het vormen van A T A is rekenintensief A T A is niet ijl Gauss eliminatie is rekenintensief Wat doen we als oplossing A T Ax = A T b niet uniek? Praktisch alternatief: iteratieve methoden Wat zijn iteratieve methoden? Voorbeelden Richardson, Gauss-Seidel,
Choose α > Choose x x = x, r = b Ax repeat u = A T r x x + αu r = b Ax end repeat Richardson iteratie x = x + α(a T (b Ax)) Stelling Met start x = en α > voldoende klein ( ) convergeert Richardson naar de minresminnorm oplossing ( ) α < M max{ AT Ay y Convergentie is langzaam, y } M (en zeker µ) is lastig te bepalen Geometrische interpretatie a T 1 b 1 Ax = a T 2 x = b 2 = b k-de coördinaat: a T k x = b k, maw x L k { x a T k x = b k } (,) T a k x L k bk a T k ak a k a T k x = b k & a T k y = a T k (x + y) = b k Eigenschap Oplossing x van Ax = b op snijpunt van alle hypervlakken L k Gauss-Seidel Algebraic Reconstruction Technique 1 GaussSeidel 1 GaussSeidel 1 ART 1 ART x x 1 x x x 1 1 1 1 2 2 2 2 3 3 3 x 1 3 4 4 4 4 5 5 5 5 6 6 6 6 7 7 7 7 x 1 8 9 1 1 2 3 4 5 6 7 8 9 8 9 1 1 2 3 4 5 6 7 8 9 8 9 1 1 2 3 4 5 6 7 8 9 8 9 1 1 2 3 4 5 6 7 8 9 Convergeert dit proces altijd? x 1 = x + αa 1 { x a T 1 x = b 1 } α = ρ σ = b k a T 1 x a T 1 a 1
Algebraic Reconstruction Technique SIRT (for n matrix A) ART = Gauss-Seidel voor AA T y = b en vindt x = A T y Stelling Als gestart wordt met x = en A niet overbepaald (n <= l) en volle rang, ART convergeert naar de minimum norm oplossing Voor overbepaalde stelsels (n > l) fluctueert de oplossing sterk + Iedere nieuwe rij (nieuwe meting) kan onmiddellijk gebruikt worden In medische tomografie worden telkens nieuwe rijen gemaakt, onmiddellijk gebruikt en vervolgens weggegooid Choose x x = x, r = b Ax repeat u = For k = 1,2,, n σ = a T k a k ρ = r k, α = ρ/σ end for u u + αa k x x + 1 n u r = b Ax end repeat Op het eind van de for loop n r u = k a k=1 T k a A T e k k = A T n k=1 r k a T k a ke k = A T D 1 r, waarbij D de diagonaal matrix is met D kk = a T k a k SIRT (for n matrix A) Simultanuous Iterative RT Choose x x = x, r = b Ax repeat u = A T D 1 r x x + 1 n u r = b Ax end repeat waarbij D de diagonaal matrix is met D kk = a T k a k Richardson voor = A T D 1 (b Ax) met α = n 1 SIRT= Richardson voor A T D 1 Ax = A T D 1 b waarbij D de diagonaal matrix is met Stelling Als gestart met x =, SIRT convergeert naar de mininorm minresidu oplossing van D kk = a T k a k D 1 2 Ax = D 1 2 b + Convergentie naar n min norm min res opl Oplossing van een geschaald probleem Willen we herschaling? Zonder schaling geen convergentie Convergentie is erg langzaam, dwz er zijn veel stappen nodig
CG for Normal Equations A T Ax = A T b CG NE Choose x x = x, r = b Ax u =, ρ = 1 repeat s = A T r σ = ρ, ρ = s T s, β = ρ σ u s + βu c = Au σ = c T c, α = ρ σ x x + αu r r αc end repeat Optimaliseren in 2 laatste vorige richtingen = optimaliseren in alle voorgaande richtingen Te verwachten: s SIRT k r exp ( k ) C s CGNE k < r exp ( k C Stelling Als gestart met x = CG convergeert naar de minresidu minnorm oplossing van Ax = b + Convergentie naar de minresidu minnorm opl + Het ongeschaalde probleem wordt opgelost + Convergentie optimaal in zekere zin Je mag geen rijen toevoegen of weglaten tijdens het rekenproces Effect van meetfouten Stel A = Σ diagonaal matrix } Σs = d Σ(x s) = f x i s i = f i Σx = d + f Groot als Erg als d i f i ( d i ) Regulariseer Kies τ > Neem 1/max(, τ) ipv 1/ : f i x i s f σ i = i i τ d i +f i τ d i = f i τ (1 τ )s i if < τ maximale standaard fout = 1 2 15 1 5 5 1 = f i s i 1 2 3 4 5 6 7 8 9 1 σ langs de x as,
2 15 Regularizeren met τ = 18 2) Bereken x die Regulariseren maximale regularizeer fout = 11 1 5 5 Oplossing: Als A = Σ: x i s i = Ax b 2 + τ 2 x 2 x = (A T A + τ 2 ) 1 A T b σ 2 i + τ2 (d i + f i ) d i minimaliseert 1 1 2 3 4 5 6 7 8 9 1 σ langs de x as, = σi 2 + f τ2 i τ2 σi 2 + s τ2 i = f i s i 2 15 Glad regularizeren met τ = 11 Regulariseren 3) Pas SIRT toe (zonder regulariseringsparameter τ) maximale regularizeer (glad) fout = 1 1 5 5 x i s i = (1 φ()) f i φ( )s i = f i s i met φ(t) = (1 ω 2 t 2 ) k 4) Pas CG toe (zonder regulariseringsparameter τ) x i s i = (1 φ(σ2 i )) f i φ( )s i = f i s i met φ(t) van graad k φ() = 1 minimaliseert 1 1 2 3 4 5 6 7 8 9 1 σ langs de x as, + SIRT en CG regulariseren impliciet mits het aantal stappen beperkt blijft
2 15 7 stappen met CG 2 15 7 stappen met SIRT maximale CG fout = 114 1 5 maximale SIRT fout = 238 1 5 5 5 1 1 2 3 4 5 6 7 8 9 1 σ langs de x as, 1 1 2 3 4 5 6 7 8 9 1 σ langs de x as, 2 15 5 stappen met SIRT 2 15 14 stappen met CG maximale SIRT fout = 118 1 5 maximale CG fout = 131 1 5 5 5 1 1 2 3 4 5 6 7 8 9 1 σ langs de x as, 1 1 2 3 4 5 6 7 8 9 1 σ langs de x as, 46
2 15 15 stappen met SIRT maximale SIRT fout = 15 1 5 5 1 1 2 3 4 5 6 7 8 9 1 σ langs de x as,