Data Mining: Classificatie

Transcriptie

1 Data Mining: Classificatie docent: dr. Toon Calders Gebaseerd op slides van Tan, Steinbach, and Kumar. Introduction to Data Mining Overzicht Wat is classificatie? Leren van een beslissingsboom. Problemen bij classificatie Evalueren van een model

2 Overzicht Wat is classificatie? Definitie Soorten modellen Voorbeelden Leren van een beslissingsboom. Problemen bij classificatie Evalueren van een model Classificatie: Definitie Gegeven een verzameling objecten (training set) ingedeeld in klasses. Vind een model voor de klasse in functie van de andere attributen. Doel: onbekende voorbeelden moeten zo accuraat mogelijk in klassen ingedeeld kunnen worden. Accuraatheid wordt gemeten op een test set.

3 10 10 Illustratie van een classificatie taak Tid Attrib1 Attrib2 Attrib3 Class 1 Yes Large 125K No 2 No Medium 100K No 3 No Small 70K No 4 Yes Medium 120K No 5 No Large 95K Yes 6 No Medium 60K No 7 Yes Large 220K No 8 No Small 85K Yes 9 No Medium 75K No 10 No Small 90K Yes Learn Model Tid Attrib1 Attrib2 Attrib3 Class 11 No Small 55K? 12 Yes Medium 80K? 13 Yes Large 110K? 14 No Small 95K? 15 No Large 67K? Apply Model Voorbeelden van classificatie Voorspellen of tumor kwaadaardig is Classificeren van kredietkaart transacties als al dan niet fraudulent. Classificeren van nieuwsberichten als: financieel, weersvoorspelling, entertainment, sport, etc. Classificeren van meetingen als al dan niet foutief.

4 10 Classificatie technieken Op basis van het soort model dat geleerd wordt: Beslissingsbomen Classificatieregels Geheugengebaseerde methodes NaïveBayes en Bayesiaanse belief netwerken Neurale netwerken Support Vector Machines Voorbeeld van een beslissingsboom categorical Tid Refund Marital Status categorical Taxable Income continuous Cheat class Splitting Attributes 1 Yes Single 125K No 2 No Married 100K No 3 No Single 70K No 4 Yes Married 120K No 5 No Divorced 95K Yes 6 No Married 60K No 7 Yes Divorced 220K No 8 No Single 85K Yes 9 No Married 75K No 10 No Single 90K Yes Refund Yes No MarSt Single, Divorced TaxInc < 80K > 80K YES Married Training Data Model: Beslissingsboom

5 Voorbeeld van een beslissingsboom categorical Tid Refund Marital Status categorical Taxable Income continuous 1 Yes Single 125K No 2 No Married 100K No 3 No Single 70K No 4 Yes Married 120K No Cheat 5 No Divorced 95K Yes 6 No Married 60K No 7 Yes Divorced 220K No 8 No Single 85K Yes 9 No Married 75K No 10 No Single 90K Yes class Married MarSt Yes Single, Divorced Refund No TaxInc < 80K > 80K YES Er is mogelijk meer dan 1 boom voor dezelfde trainingset! Classificeren met de beslissingsboom Tid Attrib1 Attrib2 Attrib3 Class 1 Yes Large 125K No 2 No Medium 100K No 3 No Small 70K No 4 Yes Medium 120K No 5 No Large 95K Yes 6 No Medium 60K No 7 Yes Large 220K No 8 No Small 85K Yes 9 No Medium 75K No 10 No Small 90K Yes Learn Model Tid Attrib1 Attrib2 Attrib3 Class 11 No Small 55K? 12 Yes Medium 80K? 13 Yes Large 110K? 14 No Small 95K? 15 No Large 67K? Apply Model Decision Tree

6 Toepassen van het model op de nieuwe data Start vanaf de root van de boom. Refund Yes No Nieuwe data Refund Marital Status Taxable Income No Married 80K? Cheat MarSt Single, Divorced Married TaxInc < 80K > 80K YES Toepassen van het model op de nieuwe data Nieuwe data Refund Marital Status Taxable Income Cheat Yes Refund No No Married 80K? MarSt Single, Divorced Married TaxInc < 80K > 80K YES

7 10 10 Toepassen van het model op de nieuwe data Nieuwe data Refund Marital Status Taxable Income Cheat Yes Refund No No Married 80K? MarSt Single, Divorced Married TaxInc < 80K > 80K YES Toepassen van het model op de nieuwe data Nieuwe data Refund Marital Status Taxable Income Cheat Yes Refund No No Married 80K? MarSt Single, Divorced Married TaxInc < 80K > 80K YES

8 10 10 Toepassen van het model op de nieuwe data Nieuwe data Refund Marital Status Taxable Income Cheat Yes Refund No No Married 80K? MarSt Single, Divorced Married TaxInc < 80K > 80K YES Toepassen van het model op de nieuwe data Nieuwe data Refund Marital Status Taxable Income Cheat Yes Refund No No Married 80K MarSt Single, Divorced Married TaxInc < 80K > 80K Ken klasse No toe YES

9 10 10 Overzicht Wat is classificatie? Leren van een beslissingsboom Algoritme van Hunt. Hoe vinden we de beste split? Wanneer stoppen? Problemen bij classificatie Evalueren van een model Leren van een beslissingsboom Tid Attrib1 Attrib2 Attrib3 Class 1 Yes Large 125K No 2 No Medium 100K No 3 No Small 70K No 4 Yes Medium 120K No 5 No Large 95K Yes 6 No Medium 60K No 7 Yes Large 220K No 8 No Small 85K Yes 9 No Medium 75K No 10 No Small 90K Yes Learn Model Tid Attrib1 Attrib2 Attrib3 Class 11 No Small 55K? 12 Yes Medium 80K? 13 Yes Large 110K? 14 No Small 95K? 15 No Large 67K? Apply Model Beslissingsboom

10 Algoritmes voor beslissingsbomen Vinden van de beste beslissingsboom is niet wenselijk Hoge complexiteit Beste boom voor trainingdata is daarom nog niet de beste boom voor nieuwe data (cfr. Later: overfitting) Daarom: heuristieken Meeste algoritmes optimaliseren lokale criteria. Meeste algoritmes vinden suboptimale oplossingen. Inductie van een Beslissingsboom Vele algoritmes: Algoritme van Hunt (een van de eerste) CART ID3, C4.5 SLIQ, SPRINT

11 Algoritme van Hunt Zoek de beste split voor D B.v.b. A 5 >5 Splits D volgens dit criterium in D 1,, D k Hier dus: D 1 = records met A 5 D 2 = records met A>5 Werk recursief verder op de delen D 1,, D k Vind boom voor D 1, boom voor D 2, Combineer de bomen Algoritme van Hunt Zoek de beste split voor D Splits D volgens dit criterium in D 1,, D k Werk recursief verder op de delen D 1,, D k Vind boom voor D 1, boom voor D 2, Combineer de bomen: A 5 >5 T 1 T 2

12 Algoritme van Hunt (Binaire attributen) Algoritme: Hunt(dataset D(A 1,, A k, class)) Maak een nieuwe node root If ( Stopconditie(D) ) Label root met de grootste klasse in D Return root Else Selecteer het attribuut A dat Split_Kwaliteit( D 0, D 1 ) maximaliseert, waarbij D j = {t in D t.a = j} T 0 = Hunt(D 0 ); T 1 = Hunt(D 1 ) Label root met A, Voeg edges van de root naar T 0.root, resp. T 1.root met label 0, resp. 1. Return root Beslissingsboom Induction Greedy strategie. Splits de nodes gebaseerd op een lokaal criterium: slechts 1 attribuut tegelijk. Nog te bepalen/generisch Hoe splitsen we? Nietbinaire attributen Hoe meten we de kwaliteit van een split? Split_Kwaliteit( D 0, D 1 ) Wanneer moeten we stoppen? Stopconditie(D)

13 Hoe splitsen we? Hangt af van het attribuuttype Nominaal Ordinaal Continu en het aantal vertakkingen dat is toegestaan 2way split Multiway split Splitsen op basis van nominale attributen Multiway: Gebruik zoveel vertakkingen als er waarden zijn. Family CarType Sports Luxury Binaire split: Verdeel de waarden in twee verzamelingen. Zoek een optimale opdeling. {Sports, Luxury} CarType {Family} OF {Family, Luxury} CarType {Sports}

14 Splitsen op basis van een continu attribuut Different ways of handling Discretiseren ordinale attributen Binaire split: splits op in (A < v) en (A v) Beschouw alle mogelijke splitpunten Mogelijk computationeel erg complex Splitsen op basis van een continu attribuut

15 Beslissingsboom Induction Greedy strategie. Splits de nodes gebaseerd op een lokaal criterium: slechts 1 attribuut tegelijk. Nog te bepalen/generisch Hoe splitsen we? Nietbinaire attributen Hoe meten we de kwaliteit van een split? Split_Kwaliteit( D 0, D 1 ) Wanneer moeten we stoppen? Stopconditie(D) Welke split heeft jouw voorkeur? Vooraf: 10 records met klasse 0 10 records met klasse 1

16 Welke split heeft jouw voorkeur? Vooraf: 10 records met klasse 0 10 records met klasse 1 Niet homogeen Vrij homogeen Meest homogeen Te veel splits! Hoe bepalen we de kwaliteit van een split? We willen nodes met een homogene klasse distributie We hebben een maat van homogeniteit nodig: Niet homogeen Homogeen

17 Maten van homogeniteit Dataset D: k klassen, n records d j records met klasse j, j=1..k Gini Index GINI( D) = 1 k j= 1 d j n 2 Vraag Dataset D heeft slechts 2 klassen, 0 en 1 GINI( D) = 1 k j= 1 d j n 2 Bij welke verdeling tussen de klassen is de GINIindex maximaal? Minimaal?

18 Vraag Dataset D heeft slechts 2 klassen, 0 en 1 GINI( D) = 1 k j= 1 d j n 2 Bij welke verdeling tussen de klassen is de GINIindex maximaal? Minimaal? d 1 = n.x d 2 = n.(1x) Gini(x) = 1 (x 2 ) (1x) 2 = 2x 2x 2 (Gini(x)) = 24x nulpunt op 0.5 (Gini(x)) = 4 < 0 maximum

19 GINI: algemeen k klassen Maximum 11/k wordt bereikt als de klassen elk een relatieve frequentie van 1/k hebben Minst interessante geval Minimum 0 wordt bereikt als alle records tot 1 klasse behoren Meest interessante geval. C1 0 C2 6 Gini=0.000 C1 1 C2 5 Gini=0.278 C1 2 C2 4 Gini=0.444 C1 3 C2 3 Gini=0.500 Voorbeelden berekening GINI C1 0 C2 6 GINI( D) = 1 k j= 1 d j n 2 C1 1 C2 5 C1 2 C2 4

20 Voorbeelden berekening GINI C1 0 C2 6 d 1 = 0/6 = 0 d 2 = 6/6 = 1 GINI( D) = 1 Gini = 1 d 1 2 d 2 2 = = 0 k j= 1 d j n 2 C1 1 C2 5 d 1 = 1/6 d 2 = 5/6 Gini = 1 (1/6) 2 (5/6) 2 = C1 2 C2 4 d 1 = 2/6 d 2 = 4/6 Gini = 1 (2/6) 2 (4/6) 2 = Splitsen gebaseerd op GINI Gebruikt in CART, SLIQ, SPRINT. Kwaliteit van een split is het gewogen gemiddelde over alle kinderen: GINI split = k i= 1 ni n GINI ( i) met, n i = aantal records voor het kind c i, n = totale aantal nodes in p.

21 Voorbeeld Voor split: C0 C1 N00 N01 M0 A? B? Yes No Yes No Node N1 Node N2 Node N3 Node N4 C0 N10 C0 N20 C0 N30 C0 N40 C1 N11 C1 N21 C1 N31 C1 N41 M1 M2 M3 M4 M12 Gain = M0 M12 vs M0 M34 M34 Waarom gewogen gemiddelde? Effect van het wegen: Grotere partities worden gezocht. B? Parent C1 6 Gini(N1) = 1 (5/6) 2 (2/6) 2 = Gini(N2) = 1 (1/6) 2 (4/6) 2 = Yes Node N1 N1 N2 C1 5 1 C2 2 4 Gini=0.333 No Node N2 C2 6 Gini = Gini(Children) = 7/12 * /12 * = 0.333

22 Beslissingsboom Induction Greedy strategie. Splits de nodes gebaseerd op een lokaal criterium: slechts 1 attribuut tegelijk. Nog te bepalen/generisch Hoe splitsen we? Nietbinaire attributen Hoe meten we de kwaliteit van een split? Split_Kwaliteit( D 0, D 1 ) Wanneer moeten we stoppen? Stopconditie(D) Stop criteria voor beslissingsbomen Verschillende mogelijkheden:

23 Stop criteria voor beslissingsbomen Verschillende mogelijkheden: Stop als alle nodes tot dezelfde klasse behoren. Stop als GINIindex beneden bepaalde waarde komt. Stop als aantal objecten te klein wordt. Stop als alle attributen ongeveer dezelfde waarde hebben. Early termination (zie later) Overzich beslissingsbomen Voordelen: Weinig tijd nodig om te berekenen Classificeren van nieuwe voorbeelden is erg snel Makkelijk te interpreteren modellen (indien niet te veel nodes) Voor vele datasets scoren beslissingsbomen meer dan behoorlijk Nadelen: In detail

24 Overzicht Wat is classificatie? Leren van een beslissingsboom. Problemen bij classificatie Evalueren van een model Practische problemen bij classificatie Sommige functies zijn moeilijk uit te drukken m.b.v. beslissingsbomen Parity (Is het aantal binaire attributen die True zijn, even?) Lager in de boom = minder trainingvoorbeelden = minder statistische relevantie Underfitting en Overfitting Gerelateerd aan de vraag: wanneer stoppen?

25 Moeilijk uit te drukken Hoe zien de beslissingbomen die door het algoritme van Hunt gegenereerd worden er uit voor de volgende dataset? A B Moeilijk uit te drukken Hoe zien de beslissingbomen die door het algoritme van Hunt gegenereerd worden er uit voor de volgende dataset? A B

26 Moeilijk uit te drukken Hoe zien de beslissingbomen die door het algoritme van Hunt gegenereerd worden er uit voor de volgende dataset? A B Moeilijk uit te drukken Hoe zien de beslissingbomen die door het algoritme van Hunt gegenereerd worden er uit voor de volgende dataset? A B

27 Moeilijk uit te drukken Hoe zien de beslissingbomen die door het algoritme van Hunt gegenereerd worden er uit voor de volgende dataset? A B Moeilijk uit te drukken Hoe zien de beslissingbomen die door het algoritme van Hunt gegenereerd worden er uit voor de volgende dataset? A B

28 Typische grafiek. Wat gebeurt er hier? Underfitting Overfitting Underfitting: Als het model te simpel is; de boom is nog te eenvoudig Overfitting: Het model is zo gedetailleerd dat het zelfs de ruis uit de input heeft geleerd

29 Overfitting door ruis Goed model B A Overfitting door ruis Slecht model, toch kleinere error op trainingsset B A

30 Bemerkingen over overfitting Resulteert in complexere bomen dan noodzakelijk. Training error is niet langer een goede maat om te meten hoe de classifier zal presteren op nieuwe data. Betere manieren nodig om fouten te meten. Hoe gaan we overfitting tegen? PrePruning (Early Stopping) Stop voordat de volledige boom gemaakt is. Stop indien het aantal instanties te klein wordt Stop als de klasdistributie onafhankelijk is van de afzonderlijke features (gebruik bvb. χ 2 test) Stop indien er geen split is die resulteert in een positive gain

31 Hoe gaan we overfitting tegen? Postpruning Maak de volledige beslissingsboom Behandel de splits bottomup Als de generalization error verkleint door het wegnemen van een split: haal de split weg en vervang door een blad. Label wordt de grootste klasse in het nieuwe blad. Vraag: Hoe meten we generalization error?

32 Vraag: Hoe meten we generalization error? Splits D vooraf in twee delen: D 1 en D 2 Leer de boom op D 1 Evalueer de generalization errors op D 2 Overzicht Wat is classificatie? Leren van een beslissingsboom. Evalueren van een model Volgende les