Inleiding Adaptieve Systemen Hoofdstuk 5: Ongesuperviseerd Leren

Transcriptie

1 Inleiding Adaptieve Systemen Hoofdstuk 5: Ongesuperviseerd Leren Cursusjaar Gerard Vreeswijk β-faculteit, Departement Informatica en Informatiekunde, Leerstoelgroep Intelligente Systemen 17 juni 2015 Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

2 Ongesuperviseerd leren en zelf-organiserende netwerken Leerdoelen: Weten wat ongesuperviseerd leren is. Tenminste twee categorieën ( technieken) van ongesuperviseerd leren kunnen noemen. De volgende clustering technieken kunnen uitleggen en er mee kunnen rekenen: K-means clustering. Competitief leren, zowel ruimtelijk als in de vorm van een neuraal netwerk. Vector-kwantisatie. Kohonen netwerken. Het verschil tussen batch vs. online leren (i.h.b. batch vs. online clustering) kunnen aangeven. Enkele toepassingen kunnen noemen. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

3 Ongesuperviseerd leren Met ongesuperviseerd leren ontvangen we data-punten (voorbeelden, instanties) zonder classificatie. Er is geen waardering of fout in voorbeelden. De geleerde informatie moet dus volledig uit de invoerpatronen gehaald worden. Twee categorieën van ongesuperviseerd leren: Clustering: Clustering: groepeer de data in clusters. Vector kwantisatie: verdeel een continue inputruimte in stukjes. Inbedding: map data als zijnde ruimte met dimensie N, in een ruimte met dimensie N + 1. Inductief leren: Leren van als-dan regels waarbij de conclusie van de als-dan regel onbepaald is. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

4 Clustering Data clustering is een belangrijke vorm van ongesuperviseerd leren. Data clustering is een familie van machine-learning technieken die er op gericht is overeenkomsten in data te vinden. Mogelijke toepassingen: het vinden van groepen van Hoe? Mensen (sociologie, antropologie). Producten (marketing). Muziekgenres (marketing, vrije tijd). Start met individuen als groep. Verenig twee groepen als ze voldoende overeenkomst hebben. Doe dit recursief. Hiërarchisch clusteren. Start met een vast aantal individuen als representanten. Vorm groepen rond representanten. Itereer. Partitioneel clusteren. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

5 Deel I: K-means clustering Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

6 K-means clustering Data: vectoren in R n. Clusterpunten ook in R n. Het algoritme begint met K prototype vectoren w 1,..., w K welke clusters (C 1,..., C K ) representeren. Herhaal tot clusters niet meer veranderen: Bereken welke voorbeelden x 1,..., x n in elk van de clusters vallen. Een instantie x i valt in een cluster C j als w j de cluster-vector is met de kleinste afstand tot het voorbeeld: d(w j, x i ) d(w l, x i ) Voor alle l j Met d(x, y) = i (x i y i ) 2 de afstand tussen x en y. Beweeg cluster-vectoren naar het centrum van de input voorbeelden in het cluster. Dus doe voor alle w j : w j := zwaartepunt van( C j ). Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

7 Voorbeeld K-means clustering We hebben vier voorbeelden: (1,2) (1,4) (2,3) (3,5) We initialiseren 2 prototype vectoren w 1 = (1, 1) en w 2 = (3, 3) We zien dat de voorbeelden in de volgende clusters vallen: (1,2) Cluster(w 1 ) (1,4) Cluster(w 2 ) (2,3) Cluster(w 2 ) (3,5) Cluster(w 2 ) Nu berekenen we de nieuwe cluster-centra en krijgen: w 1 = (1, 2) en w 2 = (2, 4). Hierna vallen alle voorbeelden weer in dezelfde clusters dus zijn we klaar. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

8 Batch en online leren K-means clustering is een vorm van batch leren. Alle data moet aan het begin beschikbaar zijn wordt simultaan verwerkt. Competitief clusteren en vector-kwantisatie zijn vormen van online leren. Online vormen van partitioneel clusteren: Competitief met Euclidische afstand. Competitief met genormaliseerde gewichten en inproduct als afstand. Vector-kwantisatie met gesuperviseerd kwantitatief leren. Vector-kwantisatie met gesuperviseerd kwalitatief leren. Kohonenen netwerken (SOMs). Kohonenen netwerken (SOMs) met gesuperviseerd kwantitatief leren. Kohonenen netwerken (SOMs) met gesuperviseerd kwalitatief leren. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

9 Deel II: Competitief leren Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

10 Competitief leren Competitief leren is de online pendant van batch K-means clustering. Gebruik en training lopen door elkaar. Gebruik: classificatie van datapunt is dichtstbijzijnde clusterpunt. output o input i Training: het dichtstbijzijnde clusterpunt wordt iets naar het trainingsvoorbeeld geschoven. wio Dit proces kan worden gemodelleerd als een 2-laags netwerk. Aantal input-knopen: de dimensie van de input ruimte. Aantal output-knopen: het aantal cluster-centra. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

11 Leerproces competitief netwerk (1) Elke output unit o berekent zijn activatie y o door het inwendig produkt y o = w o x = i w io x i (2) Vervolgens wordt de output neuron k met maximale activatie gekozen: o k : y o y k Dit heet de winnaar. Activaties worden gediscretiseerd zodat y k = 1 en y o k = 0. (3) Tenslotte worden de gewichten van het winnende neuron k veranderd door de volgende leerregel: w k (t + 1) = w k(t) + γ(x(t) w k (t)) w k (t) + γ(x(t) w k (t)) Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

12 Werking van competitief leren Vectoren worden genormaliseerd (teruggebracht naar lengte 1). Hierdoor kunnen afstanden tussen clusteren inputvectoren makkelijk worden berekend met het inwendig product. Immers, w x = w x cos(θ) = 1 1 cos(θ). Voor elk voorbeeld wordt de dichtsbijzijnde clustervector naar dat voorbeeld toegedraaid. Dus gaan gewichten vectoren wijzen naar gebieden waar veel inputs verschijnen. w 1 w 2 w w1 w1 x w 2 x w 2 Winnaar = 1 Winnaar = 1 3 Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

13 Selecteren van de winnaar met de Euclidische afstand Als inputs en gewichten vectoren niet genormaliseerd zijn, kunnen we de Euclidische afstand nemen om de winnaar te bepalen: Winnaar k : w k x w o x o. De gewichten update-regel schuift de gewichtenvector (cluster-centrum) van het winnende neuron naar het inputpatroon x p : w k (t + 1) = w k (t) + γ(x p w k (t)) Beweging van cluster-centrum hangt ook af van de volgorde waarin de data binnenkomt. Er kan worden aangetoond dat, als de vectoren genormaliseerd zijn, het gebruik van de Euclidische afstand dezelfde winnaar teruggeeft als het gebruik van het inwendig produkt. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

14 Competitief Leren (niet genormaliseerd) Er zijn K clusterpunten (neuronen) w i, 1 i K. Eerst berekenen we voor elk clusterpunt de Euclidische afstand naar een voorbeeld met: d(w i, x p ) = (wj i x p j )2 De winnende neuron k heeft de minimale d(w k, x p ) Vervolgens verschuiven we de winnende neuron k naar voorbeeld x p : j w k i = w k i + γ(x p i w k i ) Voorbeeld: We hebben K = 2 neuronen met geïnitialiseerde waarden: w 1 = (1, 1) en w 2 = (3, 2). Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

15 Competitief Leren (niet genormaliseerd) Twee neuronen w 1 = (1, 1) en w 2 = (3, 2). Vier leervoorbeelden komen één voor één binnen: x 1 = (1, 2), x 2 = (2, 5), x 3 = (3, 4), x 4 = (2, 3). We zetten de leersnelheid γ = 0.5. Dan: x 1 = (1, 2) d(w 1, x 1 ) = 1, d(w 2, x 1 ) = 2. Winnaar w 1 = (1, 1). Toepassen van de update vergelijking geeft: w 1 = (1, 1) + 0.5((1, 2) (1, 1)) = (1, 1.5). x 2 = (2, 5) d(w 1, x 2 ) = 13.25, d(w 2, x 2 ) = 10. Winnaar w 2 = (3, 2). Toepassen van de update vergelijking geeft: w 2 = (3, 2) + 0.5((2, 5) (3, 2)) = (2.5, 3.5). x 3 = (3, 4) d(w 1, x 3 ) = 10.25, d(w 2, x 3 ) = 0.5. Winnaar w 2 = (2.5, 3.5). Toepassen van de update vergelijking geeft: w 2 = (2.5, 3.5) + 0.5((3, 4) (2.5, 3.5)) = (2.75, 3.75). Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

16 Initialisatie Een probleem van de recursieve clustering methodes is de initialisatie: Het kan gebeuren dat een neuron nooit winnaar wordt en dus niet leert. Er zijn (tenminste) twee oplossingen: Initialiseer een neuron op een inputpatroon Gebruik zg. leaky learning : Elk neuron leert op elk voorbeeld. De winnaar wk leert met met leersnelheid γ. w k (t + 1) = w k (t) + γ(x w k (t)) De verliezers w l, l k leren ook, maar dan met een kleinere leersnelheid γ << γ: w l (t + 1) = w l (t) + γ (x w l (t)) Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

17 Correctheid van competitive clustering Competitive clustering vaart bij de gedachte dat overeenkomsten tussen inputs in dezelfde cluster veel groter zijn dan inputs in andere clusters. De mate van overeenkomst wordt uitgedrukt in termen van Euclidische afstand. Een gebruikelijke maat om de kwaliteit van een clustering te berekenen is gegeven door de volgend kwadratische-fout kostenfunctie: E = 1 w k x p 2 2 Hier is k weer de winnende neuron voor inputpatroon x p. p Er kan aangetoond worden dat competitief leren het minimum van de kostenfunctie zoekt door de negatieve afgeleide te volgen. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

18 Minimalisering van de fout-functie Stelling. De foutfunctie voor patroon x p : E p = 1 (w ik x p i ) 2 2 waar k een winnend neuron is, wordt geminimaliseerd door de gewichten-update regel. Bewijs. De partiële afgeleide van E p is gelijk aan i E p = w io w io x p i als o = k, = 0 anders. Om de fout t.o.v. x p te verlagen moeten we w k dus verschuiven in de richting van de negatieve afgeleide, en dat is (w k x p ). Dit is precies wat de update-formule doet: w k (t + 1) = w k (t) + γ(x p w k (t)). Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

19 Deel III: Vector-kwantisatie Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

20 Vector-kwantisatie Een andere belangrijke toepassing van competitief leren is vector-kwantisatie. Vector-kwantisatie verdeelt de input-ruimte in een aantal verschillende deel-ruimtes. Het verschil met clustering is dat we nu niet zo zeer geïnteresseerd zijn in clusters van gelijke data, als wel in het partitioneren (opdelen) van de hele input-ruimte, bijvoorbeeld ten behoeve van functie-approximatie op deelgebieden van de input. De kwantisatie die geleerd wordt door competitief leren respecteert de verdeling van inputs: meer inputs in een regio leidt tot een grotere clusterdichtheid. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

21 Combinatie met gesuperviseerd leren Vector-kwantisatie kan gebruikt worden als pre-processing stadium voor een gesuperviseerd lerend systeem. Een voorbeeld is het volgende netwerk dat vector-kwantisatie in de eerste laag combineert met gesuperviseerd leren in de 2e laag: Vector Quantisatie i wih h Feed Forward who o Y We kunnen eerst de vector-kwantisatie uitvoeren en dan de gesuperviseerde leerstap maken, of we kunnen beide lagen tegelijk aanpassen. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

22 Leeralgoritme gesuperviseerde vector-kwantisatie Presenteer het netwerk met input x en doelwaarde d = f (x). Voer de ongesuperviseerde kwantisatie stap uit. Bereken de afstand van x naar elke gewichten vector en bepaal de winnaar k. Stel de gewichtenvector bij met de ongesuperviseerde leerregel. Voer de gesuperviseerde leerstap uit: w ko (t + 1) = w ko (t) + γ(d w ko (t)) (Dit is de delta-regel voor de ouptut-laag met y o = w ko waar k de winnende neuron is.) Elk gewicht van hidden unit h naar output unit o convergeert naar het gemiddelde van de doelwaarde voor alle keren dat de neuron wint. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

23 Gesuperviseerde vector-kwantisatie Het winnende neuron verschuift volgens dezelfde update regel als bij vector-kwantisatie, maar bovendien wordt er een output y k voor de winnende neuron w k na het leervoorbeeld bijgesteld met: y k = y k + α(d p y k ) Stel nu weer 2 clusterpunten : Clusterpunt 1: w 1 = (1, 1) met y 1 = 0. Clusterpunt 2: w 2 = (3, 2) met y 2 = 0. We krijgen de volgende leervoorbeelden één voor één binnen: (x 1 D 1 ) = (1, 2 3) (x 2 D 2 ) = (2, 5 7) (x 3 D 3 ) = (3, 4 7) (x 4 D 4 ) = (2, 3 5) Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

24 Gesuperviseerde vector-kwantisatie (voorbeeld) Stel we zetten de leersnelheid γ = 0.5 en α = 0.5. Eerste voorbeeld: x 1 = (1, 2) d(w 1, x 1 ) = 1, d(w 2, x 1 ) = 2. Dus winnaar is w 1 = (1, 1). Toepassen van de update vergelijking geeft w 1 = (1, 1) + 0.5((1, 2) (1, 1)) = (1, 1.5). Dit is precies als hiervoor. Het enige verschil is dat we nu ook de output van de winnende neuron moeten bijstellen: y 1 = (3 0) = 1.5 We laten nu enkel zien hoe de output waarden van de neuronen veranderen, de gewichtenvectoren w i veranderen net als hiervoor. x 2 = (2, 5). Winnaar is neuron 2. y 2 = (7 0) = 3.5. x 3 = (3, 4). Winnaar is neuron 2. y 2 = (7 3.5) = Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

25 Vector-kwantisatie met gesuperviseerd leren op kwalitatieve voorbeelden Idee: leer beslis-grenzen aan de hand van kwalitatieve voorbeelden (bv. labels A, B,... ), zodat elk voorbeeld in een regio valt met het juiste klasse-label. Algoritme: Associeer met elke output-neuron (cluster-centrum) o een klasse label y o Presenteer een leervoorbeeld (x p, d p ) Gebruik een afstandsmaat tussen gewichtenvectoren en inputvector x p om de winnende neuron k 1 en de op één na beste neuron k 2 te vinden. x p w k1 < x p w k2 < x p w i i k 1, k 2. De labels y k1 en y k2 worden vergeleken met d p, waaruit een gewichtenverandering wordt bepaald. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

26 Update-voorbeeld met kwalitatieve gesuperviseerde VQ Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

39 Update regels Als y k1 = d p : Voer de gewichten update regel voor k 1 uit: w k1 (t +1) = w k1 (t)+γ(x p w k1 (t)) A B C D A Anders, als y k1 d p en y k2 = d p : Voer de gewichten update regel voor k 2 uit: w k2 (t + 1) = w k2 (t) + γ(x p w k2 (t)) en beweeg de winnende neuron van het voorbeeld af: w k1 (t + 1) = w k1 (t) γ(x p w k1 (t)) Anders: doe niets. (Anders bewegen cluster-centra te veel door noise.) Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

40 LVQ: voorbeeld Stel, we beginnen met de clusterpunten: w 1 = (1, 1) en label y 1 = A. w 2 = (3, 2) en label y 2 = B. Stel, we krijgen de volgende leervoorbeelden één voor één binnen: (x 1 D 1 ) = (1, 2 A) (x 2 D 2 ) = (2, 5 B) (x 3 D 3 ) = (3, 4 A) (x 4 D 4 ) = (2, 3 B) We hebben nu K = 2 clusterpunten (neuronen) met een gelabelde output. We berekenen de dichtstbijzijnde neuron w k1 en de op één na dichtstbijzijnde neuron w k2. (1, 2 A), winnaar is Cluster 1. Eén na beste is Cluster 2. Het label van Cluster 1 is ook A. Dus: Cluster 1 verschuift naar het voorbeeld: w 1 = (1, 1) + 0.5((1, 2) (1, 1)) = (1, 1.5). (2, 5 B), winnaar is Cluster 2. Eén na beste is Cluster 1. Het label van Cluster 2 is ook B, dus Cluster 2 verschuift naar het voorbeeld: w 2 = (3, 2) + 0.5((2, 5) (3, 2)) = (2.5, 3.5). Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

41 LVQ: voorbeeld (Vervolg) Op dit moment is Cluster 1 gelijk aan w 1 = (1, 5.5) en Cluster 2 gelijk aan w 2 = (2.5, 3.5). Het derde voorbeeld komt binnen: (x 3 D 3 ) = (3, 4 A), winnaar is Cluster 2. Eén na beste is Cluster 1. Het label van Cluster 2 is niet gelijk aan het label van voorbeeld 3, A. Het label van Cluster 1 is wel gelijk aan A. Dus verschuiven we Cluster 1 naar het voorbeeld en Cluster 2 weg van het voorbeeld: w 1 = (1, 1.5) + 0.5((3, 4) (1, 1.5)) = (2, 2.75) w 2 = (2.5, 3.5) 0.5((3, 4) (2.5, 3.5)) = (2.25, 3.25) Je zou zelf eens een keer de updates behorende bij Voorbeeld 4 kunnen uitrekenen. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

42 Deel IV: Kohonen netwerken Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

43 Kohonen netwerken Een Kohonen netwerk wordt gebruikt bij dimensionaliteitsreductie van data. Voorbeeld Een dataverzameling. We vermoeden dat deze geprojecteerd kan worden naar een lagere dimensie. Lagere dimensie = 1 Kohonen netwerk is een lijnstuk ( kralensnoer ) dat zichzelf langs de data legt. Lagere dimensie = 2 Kohonen netwerk is een begrensd vlak ( visnet ) dat zich plooit naar de data. Lagere dimensie = 3 Kohonen netwerk is een eindig stuk R 3 ( kubusstructuur ). Werking (informeel): bij elk nieuw datapunt verschuift de dichtstbijzijnde netwerkknoop een stukje naar dat datapunt, en trekt daarbij zijn buren mee. Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

44 Voorbeeld leerproces Door deze collectieve leermethode worden inputs die dichtbij elkaar vallen gemapped op output neuronen die dicht bij elkaar zitten. Hierdoor blijft de topologie inherent in de invoersignalen bewaard in het geleerde Kohonen netwerk: Iteratie 0 Iteratie 600 Iteratie 1900 Als de dimensie van S kleiner is dan die van N, dan worden de neuronen van het netwerk gevouwen in de input ruimte: Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

45 Kohonen netwerk: voorbeeld We hebben een Kohonen netwerk met 3 neuronen verbonden in een lijn. We maken gebruik van de burenrelaties door g(k, k) = 1 te nemen en g(h, k) = 0.5 te zetten als h en k directe buren zijn, anders is g(h, k) = 0. Nu berekenen we weer eerst de winnende neuron k, en vervolgens updaten we alle neuronen als volgt: w i = w i + γg(i, k)(x p w i ) Nu initialiseren we w 1 = (1, 1), w 2 = (3, 2), w 3 = (2, 4). Weer zetten we γ = 0.5. We krijgen weer de voorbeelden: x 1 = (1, 2) x 2 = (2, 5) x 3 = (3, 4) x 4 = (2, 3) Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

46 Kohonen netwerk: voorbeeld (Vervolg) Op x 1 = (1, 2) wint neuron 1. Dit resulteert in de update: w 1 = (1, 1) ((1, 2) (1, 1)) = (1, 1.5). We moeten ook de buren updaten. g(2, 1) = 0.5 en g(3, 1) = 0. Dus updaten we neuron 2: w 2 = (3, 2) ((1, 2) (3, 2)) = (2.5, 2). Op x 2 = (2, 5) wint neuron 3. Dit resulteert in de update: w 3 = (2, 4) ((2, 5) (2, 4)) = (2, 4.5). We moeten ook de buren updaten. g(2, 3) = 0.5 en g(1, 3) = 0. Dus updaten we neuron 2: w 2 = (2.5, 2) ((2, 5) (2.5, 2)) = (2.375, 2.75). Op x 3 = (3, 4) wint neuron 3. Dit resulteert in de update: w 3 = (2, 4.5) ((3, 4) (2, 4.5)) = (2.5, 4.25). We moeten ook de buren updaten. g(2, 3) = 0.5 en g(1, 3) = 0. Dus updaten we neuron 2: w 2 = (2.375, 2.75) ((3, 4) (2.375, 2.75)) = (2.53, 3.06). Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

47 Kohonen netwerk: gesuperviseerd leren Een Kohonen netwerk kan ook gebruikt worden voor gesuperviseerd leren. Hiervoor kunnen we elke output neuron h een tabel-entry (w ho ) verschaffen Leren: Elk neuron leert, maar de buren leren iets minder hard: w ho = w ho + γ(d w ho ) g(h, k) g(i, k) i S Output: Voor het bepalen van de output y nemen we het gewogen gemiddelde van de output van de neuron zelf en zijn buren. De buren bepalen navenant minder: y = h S g(h, k)w ho g(h, k) h S Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48

48 Samenvatting Ongesuperviseerde leermethoden kunnen gebruikt worden voor clustering, vector kwantisatie, dimensionaliteitsreductie en feature extraction. In competitief leren strijden de neuronen om geactiveerd te worden. Ongesuperviseerd leren kan uitgebreid worden met een extra uitvoerlaag om ook gesuperviseerd te kunnen leren. De leeralgoritmen respecteren het lokaliteitsprincipe: inputs die dicht bij elkaar liggen worden samen gegroepeerd. Voor gesuperviseerd leren zijn de getoonde leeralgoritmen geschikt als de functie grillig (niet glad) is. Clusterpunten groeperen naar gebieden met veel data. Het kiezen van het aantal clusters is een probleem. Andere clustertchnieken, zoals hierarchical clustering bezitten deze problemen niet. (Maar hebben weer andere problemen.) Gerard Vreeswijk (ICS Dept.) Hoofdstuk 5: Ongesuperviseerd Leren 17 juni / 48