Capita Selecta. Berekenen van Fokwaarden door middel van Machine Learning. Joan ter Weele. Augustus Versie 1.0

Transcriptie

1 Berekenen van Fokwaarden door middel van Machine Learning Augustus 2009 Versie 1.0

2 Inhoudsopgave Introductie...3 Opdracht...4 De opdracht...4 Onderzoeksvragen...4 Terminologie...6 Dataset...10 Interbull...10 Rassenstandaarden...10 Welke Levensduurfokwaarde te gaan gebruiken...11 Ruwe data...11 Verdere verfijning van de data...12 De verfijnde dataset...12 Correlatie...14 Nogmaals verfijnen...16 De uiteindelijke dataset(s)...17 Regression Analasis...20 Fitting...20 Multiple Regression...23 Regression trees...26 Pruning...27 Neural Networks...37 NRS uitkomsten...39 Conclusie...40 Verder onderzoek...42 Bronnen...43 Bijlage...44 Pagina 2 van 45

3 Introductie Om een goede koe te fokken wordt er een goede stier bij een koe gezocht die alle minpunten van die koe kan verbeteren en de goede punten van de koe ook nog kan versterken en ondersteunen. Dit alles heeft als doen om de vaarskalfjes die hier uit geboren kunnen worden uiteindelijk nog betere koeien worden, liefst met het behalen van de predicaten, honderdduizend liter koe en tienduizend kilogram vet en eiwit. Van elke stamboek geregisterde koe wordt veel informatie bij gehouden zoals melksamenstelling, exterieur 1, gezondheid kenmerken etc. Als van een stier veel dochter informatie beschikbaar is, is het mogelijk om te achterhalen hoe goed hij welke kenmerken overdraagt aan zijn dochters. Deze informatie wordt nog gecorrigeerd met de rasbasis. Elke 5 jaar worden er nieuwe rasbasissen berekend. Dieren die aan een set richtlijnen voldoen worden dan in de desbetreffende basis meegenomen, de basispopulatie. De gemiddelde fokwaarden van deze dieren wordt gelijk gesteld aan 100, bij melk, vetpercentage en eiwitpercentage is dit 0. Nadat de kenmerken van de stier zijn gecorrigeerd met de basis is bekend hoeveel beter, of slechter, de dochter van de stier het doen ten opzichte van de rasbasis. Hieruit kan dan een fokwaarde worden berekend. Het Nederlands Rundvee stamboek (NRS) heeft hier diverse methoden bedacht om deze fokwaarden te kunnen bereken, deze methoden staan uitgelegd in het handboek van het NRS. [NRS ] Kort samen gevat, een fokwaarde van een stier geeft aan hoe zijn dochter zich verhouden tot de basis populatie. In Nederland is in april 2008 de fokwaarde levensduur geïntroduceerd. Deze fokwaarde geeft het gemiddelde aantal dagen weer dat de dochter van die stier of koe langer blijft lopen op de boerderij dan de basispopulatie. Doordat de fokwaarde wordt gebaseerd op het aantal dagen dat een koe leeft, is het zeer lastig om jonge stieren hiervoor een betrouwbare fokwaarde te geven. Er zijn dan immers nog niet veel dochters afgevoerd 2. 1 Exterieur: de uiterlijke kenmerken van runderen. Hoe is het dier gebouwd. Dit zijn kenmerken zoals de hoogte van het dier, stand van de poten, speenlengte, enzovoorts. 2 Afvoer: Een dier dat wordt afgevoerd gaat richting de slacht of het dier is dood gegaan. Als een dier verhuist naar een andere boerderij wordt ook soms afvoer genoemd maar dit telt niet mee in de fokwaarde. Pagina 3 van 45

4 Opdracht De levensduurfokwaarde kent een lage genetische aanleg [NRS , hoofdstuk E19] en is mede daardoor zeer moeilijk te voorspelen. Mijn vermoeden is dat het toch te voorspellen valt door gebruik te maken van andere fokwaarden (met een hogere genetische aanleg). Er zijn diverse reden dat melkveehouder hun dieren afvoeren voor de slacht. Bij ons thuis op de boerderij zijn de drie belangrijkste reden van afvoer: te lage melkgift, vruchtbaarheid en celgetal/mastitis. Deze redenen zijn samen goed voor ruim 85 procent van de afgevoerde dieren in de laatste drie jaar. Omdat het per bedrijf kan verschillen heb ik de belangrijkste reden van afvoer ook aan andere melkveehouders gevraagd. De top drie is ongeveer bij alle bedrijven gelijk maar bij bedrijven die door blauwtong zijn getroffen is het aandeel vruchtbaarheid hoger. Dit kan onder andere verklaard worden doordat het aantal verwerpers 3 bij blauwtongbedrijven 4 veel groter is. Deze dieren worden moeilijker weer drachtig of ze worden direct afgevoerd. De andere manier van afvoer is als het dier is gestorven. De reden dat een dier sterft kunnen zeer uiteen lopen en door de lage aantalen dieren is over de sterfte niets te voorspellen. De drie eerder genoemde reden waarom een dier wordt afgevoerd hebben temaken met de fokwaarden Milk, Fertility en BV Somatic Cell Score. Mijn verwachting is dat een stier met een lage score voor deze fokwaarden een lagere levensduur heeft. Om te onderzoeken of het mogelijk is om de levensduur te voorspellen aan de hand van andere fokwaarden wordt er gebruik gemaakt van diverse Machine Learning technieken. De opdracht Is er een verband / correlatie tussen de fokwaarde levensduur en de andere fokwaarden die van een stier worden berekend. Aan de hand van de mogelijk te vinden verbanden wordt, indien mogelijk, een nieuwe methode of formule samen gesteld waarmee de fokwaarde levensduur voor jonge stieren kan worden berekend. Op deze manier probeer ik nauwkeuriger en betrouwbaarder de fokwaarde te voorspellen dan huidige methode van het NRS. Onderzoeksvragen Hier uit kunnen de volgende onderzoeksvragen worden gehaald. 1. welke fokwaarden hebben een verband met de fokwaarde levensduur. 2. welke fokwaarden zijn betrouwbaar genoeg om te gebruiken bij jonge stieren. 3. wat is de betrouwbaarheid van de nieuwe methode. 3 Verwerper: een dier dat tijdens de dracht de vrucht / kalfje verwerpt. 4 Bedrijven met dieren die getroffen zijn door de dierziekte blauwtong. Runderen kunnen zeer ziek worden van deze ziekte en er zelfs aan bezwijken. Pagina 4 van 45

5 4. wat is de nauwkeurigheid van de nieuwe methode. Pagina 5 van 45

6 Terminologie Voor mensen die geen agrarische achtergrond hebben kan enige uitleg over fokwaarden handig zijn. In de tabel hieronder staan de fokwaarden genoemd die gebruikt gaan worden in deze capita selecta samen met een beknopte uitleg. De fokwaarden zijn onder gegroepeerd in vijf categorieën: Productie: Kenmerken die gaan over de productie drang die koeien hebben. Bovenbalk: Een bovenbalk kenmerk is een totaal waardering over een aantal onderbalk metingen. Onderbalk: De exterieuronderdelen die je kunt meten/constateren. Stier: De gebruikskenmerken van de directe nakomelingen van de stier. Dochters: De gebruikskenmerken van de dochters van de stier. Voor alle behalve productie fokwaarden geldt. 100 is gemiddeld boven de 100 is verbetering ten opzichte van de basispopulatie en onder de 100 is een verslechtering t.o.v. de basispopulatie. Boven de 100 voldoet het dier meer aan het ideale uiterlijk waarop gekeurd wordt. Productie Bovenbalk Engels Nederlands uitleg Milk Melk Het aantal kilogrammen melk dat de stier over erft Fat Kg vet De kilogrammen melkvet die de dochter meer of minder gemiddeld gaan geven. Fat percentage Vet % De verandering/verbetering van het vetpercentage in de melk Protein Kg eiwit De kg melkeiwit die de dochter gemiddeld meer of minder gaan geven Protein percentage Eiwit % De verandering in het eiwit gehalte van de melk Inet is een formule gebaseerd op de Inet Inet kilogrammen melk, vet en eiwit, hiermee wordt het extra melkgeld t.o.v. de basis aangegeven. Frame Fame De bouw van de frame/torso van de koe Dairy strength Robuustheid Of de koe er solide uitziet. UDDER Uier Fokwaarde voor de waardering van het uier FEET and LEGS Beenwerk Fokwaarde voor de waardering van de benen en klauwen. Fokwaarde voor het gehele FINAL SCORE Totaal exterieur exterieur van de nakomelingen van de stier. Pagina 6 van 45

7 Onderbalk Strature Hoogtemaat De hoogte van het dier gemeten op het staartbot Chest width Voorhand De breedte van de borst. Body depth Inhoud De grootte (diepte en breedte) van de romp. Angularity Openheid De hoek van de ribben en de afstand tussen de ribben Condition score Conditie score Hoe vet een dier is. Optimum is iets vet. En na kalveren iets schraal. Rump Angle Kruisligging De hellingsgraad van het kruis. (van heup naar zitbeen) Rump width Kruisbreedte De afstand tussen de zitbeenderen van het dier. Locomotion Beengebruik De correctheid van het lopen van het dier. Rear Legs Rear View Beenstand achter De stand van de klauwen (van achteren bekeken) Rear Legs side view Beenstand zij De hoek van het spronggewicht (knie) Foot angel Klauwhoek De hoek van de klauwen Fore udder attachment Vooruieraanhechting De hoek tussen het uier en de romp Front teat placement Voorspeenplaatsing Afstand tussen de voorspenen Teat length Speenlengte De lengte van spenen Udder depth Uierdiepte Hoe hoog het uier van de grond hangt. Rear udder height Achteruierhoogte Hoe hoog het uier doorloop aan de achterkant van de koe. Rear teat placement Achterspeenplaatsing Afstand tussen de achterspenen De kracht van de spier die het uier Udder support Ophangband vasthoudt. Deze spier zit aan de achterzijde van de koe. Pagina 7 van 45

8 Stier BV Birth weight Geboortegewicht Wegen de kalveren van deze stier boven of onder het gemiddelde. BV Calving ease Geboortegemak Worden de kalveren van deze stier makkelijker (>100) of moeilijker (<100) geboren dan het populatiegemiddelde. BV Gestation length Drachtsduur Hoeveel dagen de dracht duurt. Vitality Levensvatbaarheid (geboorte) Blijft het kalf de eerste 24 uur leven Heifer vitality Levensvatbaarheid Kalf Blijf het dier leven tot aan de eerste maal afkalveren Cow vitality Levensvatbaarheid Koe Fokwaarde die de levensvatbaarheid van de dochters aangeeft. Daughters Dochters (levensduur) Het aantal dochters waarop de fokwaarde levensduur is berekend Dead daughters Het aantal dode dochters waarop Dode dochters de fokwaarde levensduur is (levensduur) berekend CC BV Carcass weight Koe karkasgewicht Het geslacht gewicht van de slachtkoeien CC BV Meat content Koe Vleeshoeveelheid De hoeveelheid vlees van de slachtkoeien CC BV Fat score Fokwaarde voor de vetscore van het Kalf Vet percentage vlees vlees van de slachtkoeien VC BV Carcass weight Kalf karkasgewicht Het geslacht gewicht van onvolwassen nakomelingen VC BV Meat content Kalf Vleeshoeveelheid De hoeveelheid vlees van de onvolwassen nakomelingen Fokwaarde voor de vetscore van het VC BV Fat score Kalf Vet percentage vlees vlees van de onvolwassen nakomelingen VC BV Veal color Kalfsvlees kleur De kleur correctheid van het vlees van de kalveren. BS BV Beef Merit Fokwaarde voor de kwaliteit van het Vleesstieren Vleesklasse vlees van vleesstieren BS BV Meat content Vleesstieren De hoeveelheid vlees van BS BV Fat score Vleeshoeveelheid Vleesstieren Vet percentage vlees vleesstieren Fokwaarde voor de vetscore van het vlees van vleesstieren Pagina 8 van 45

9 Fertility Vruchtbaarheid Hoeveel inseminaties dat het dier nodig heeft om drachtig te worden en hoeveel dagen ze daar over heeft gedaan. BV Non Return 56 Non-Return 56 dagen Het percentage dieren dat binnen 56 dagen na inseminatie opnieuw wordt aangeboden voor herinseminatie. (lager percentage is beter) BV Interval calving first insemination Interval eerste inseminatie Dagen tussen kalveren en eerste inseminatie. BV calving Interval Tussenkalftijd Aantal dagen tussen afkalven BV Maternal calving Afkalfgemak Hoe gemakkelijk kalven de dochters Maternal Vitality Levensvatbaarheid Blijven de kalveren van de dochters afkalveren de eerste 24 uur in leven. Blijven de pinken van de dochters Maternal Heifer vitality Levensvatbaarheid Kalf inleven tot aan de eerste maal afkalveren Maternal Cow vitality Levensvatbaarheid Koe Fokwaarde die de levensvatbaarheid van de kleindochters van de stier aangeeft. BV Somatic Cell Score Celgetal Het aantal cellen dat er in de melk zit BV Body weight Gewicht Het gewicht van het dier. BV Persistency Persistentie Hoe persistent het dier de productie tijdens de lactatie volhoudt BV Rate of Maturity Laatrijpheid De tijd die het dier erover doet om optimaal te kunnen presteren BV Milking speed Melksnelheid Hoe makkelijk de hoe de melk laat lopen tijdens het melken BV Temperament Karakter Het karakter van de koe tijdens het melken. BV Urea Ureum Het percentage ureum in de melk Tabel 1, uitleg over de te gebruiken fokwaarden Dochter Pagina 9 van 45

10 Dataset De ruwe data is aangeleverd door het bedrijf CRV (Coöperatie Rundvee Verbetering) het moederbedrijf van het NRS, zij berekenen de fokwaarden voor de Nederlandse Veeverbetering Organisatie (NVO). De NVO is een stichting die beslist wat er berekend moet worden en velt een eindoordeel over het resultaat hiervan. Deze data bevat alle stiergegevens die beschikbaar zijn in Nederland. Bij een gedeelte van de stieren zijn de fokwaarden gebaseerd op Nederlandse dochterinformatie wat resulteert in een Nederlandse fokwaarde. Bij het overgrote merendeel van de data zijn de fokwaarden gebaseerd op de Interbull fokwaarden. Interbull Interbull is een internationale organisatie voor het uitwisselen van fokwaarden voor rundvee. Aangezien elk land andere fokwaarden publiceert en berekend is het niet mogelijk om deze direct over te nemen. Ook de verschillen in leefomgeving kunnen er voor zorgen dat de fokwaarden niet goed te vergelijken zijn. Bijvoorbeeld in Australe krijgen de koeien veel gras en is het er zeer warm terwijl in Nederland de koeien meer maïs krijgen en minder aan extreme temperaturen worden blootgesteld. Doordat (goede) stieren ook in andere landen worden gebruikt is het bekend hoe die stieren zich verhouden in de verschillende landen. Hierdoor is het mogelijk om omreken formules te maken voor de buitenlandse fokwaarden naar nationale fokwaarden, ook dit wordt gedaan door Interbull. Deze omgerekende fokwaarden worden daarom Interbull fokwaarden genoemd. Doordat deze fokwaarden omgerekend zijn is de betrouwbaarheid lager dan van een nationale fokwaarde. Wanneer er voldoende dochters aan de melk zijn voor een betrouwbaardere nationale fokwaarde, dan wordt deze gepubliceerd in plaats van de Interbull fokwaarde. Niet voor alle gepubliceerde fokwaarden is het mogelijk om een omrekenformule te maken. Dit kan komen omdat in het buitenland die fokwaarde niet word berekend (bijvoorbeeld de fokwaarde melksnelheid) of omdat er niet voldoende stieren uit dat land zijn gebruikt om een betrouwbare Interbull fokwaarde te kunnen bereken (Bijvoorbeeld exterieur fokwaarden van Japan). Rassenstandaarden De dataset bevat informatie voor diverse rassen. In Nederland worden de fokwaarden gepubliceerd op drie standaarden, Zwartbontbasis, Roodbontbasis en MRIJ-basis. Alle zwartbonte melkveerassen en het ras jersey worden toegekend aan de zwartbontbasis. Mrij en blaarkoppen horen bij de Mrijbasis en alle overige dieren worden toegerekend aan de roodbontbasis. [Overzicht van alle bases voor fokwaarden per 1 april 2008] Pagina 10 van 45

11 Interbull onderkent een aantal hoofdgroepen/rassen namelijk, Holstein (zwartbont en roodbont), Jersey, Brown Swiss, Simmental (met hierin Flecvieh en Montbéliarde), Guernsey en Rode melkveerassen (met hierin Ayrshire en Scandinavische rode rassen). Welke Levensduurfokwaarde te gaan gebruiken De dataset bevat twee fokwaarden levensduur (longevity) namelijk, National proof with predictors en National proof without predictors. Deze namen zullen worden afgekort tot LONGEVITY without en LONGEVITY with. De eerste geeft de berekende fokwaarde aan de hand van de afvoer van de dochter van de stier. De tweede, LONGEVITY with, is ook gebaseerd op de afvoer van de dochter maar hierin zitten ook een aantal voorspellers van de levensduurfokwaarde. Deze voorspellers zijn Locomotion (beengebruik), BV Somatic Cell Score (celgetal) en Udder depth (uier diepte). In de tabellen van dit hoofdstuk zullen telkens beide fokwaarden worden weergegeven maar uiteindelijk zal alleen met de fokwaarde zonder voorspellers worden gebruikt in de diverse methodes. Deze fokwaarde is nog niet voorzien van voorspellers en Ruwe data De geleverde dataset bestaat uit een groot tekst bestand met regels, elke regel bestaat uit 530 velden met een totaal van 2568 karakters. Deze data bevat alle stiergegevens van alle stieren die aangemeld zijn bij Interbull. Om deze data te kunnen gebruiken is het aantal velden gereduceerd naar een goede tweehonderd. Dit is gedaan door alle tekst velden, niet gebruikte velden en informatie over het aantal buitenlandse dochters uit de dataset te halen. De volgende stap was om alle stieren uit de data te halen die niet tot het ras Holstein behoren. Holstein is het grootste ras in Nederland met bijna een miljoen stamboekgeregistreerde koeien. Alle Interbull fokwaarden zijn uit de lijst verwijderd en mocht een stier hierdoor geen fokwaarde meer overhouden dan werd deze ook verwijderd uit de data. Dit resulteerde uiteindelijk in een dataset van 9662 stieren met 64 fokwaarden en bijbehoorde betrouwbaarheid percentages, en een aantal velden zoals Interbull id, naam, ras etc. Elke berekende fokwaarde heeft een betrouwbaarheid. Hoe meer data er bekend is hoe kleiner de meet- /schattingsfouten worden en dus wordt de betrouwbaarheid van de fokwaarde dan groter. Hiervoor is een formule beschikbaar. Betrouwbaarheid is een getal tussen 0.0 en 1.0 Wat houd dit getal precies in. Dit getal is een standaarddeviatie en hiermee wordt aangeven hoeveel de fokwaarde nog kan afwijken ten opzicht van de huidige fokwaarde. Bijvoorbeeld bij de fokwaarde levensduur. De genetische spreiding is daar 270 dagen. De stier Kian heeft een betrouwbaarheid van 99 procent wat resulteert in een schattingsfout van 27 dagen. De fokwaarde levensduur van Kian is 544 dagen. Dit betekent dat er 68,3% kans is dat de werkelijke fokwaarden tussen 517 en 571 dagen in ligt. En 95,4% kans dat de werkelijke fokwaarden tussen 490 en 528 dagen in ligt Pagina 11 van 45

12 Verdere verfijning van de data Er is gekozen voor een minimale betrouwbaarheid percentage van 70%. Dit is tweemaal het minimale betrouwbaarheidspercentage van stieren die voor de eerste maal gepubliceerd worden, NVO publiceert de fokwaarden pas bij 35 betrouwbaarheid. Vanaf een betrouwbaarheid van ongeveer 70% kiezen de ki verenigen of een proefstier een fokstier mag worden. In Nederland worden veel stieren getest (proefstier) en alleen de beste stieren worden gebruikt om mee te fokken (fokstier). Ki verenigen kijken dan naar de 70% grens van de productie en de exterieurfokwaarden. Door het hanteren van een 70% grens voor alle fokwaarden viel de fokwaarde BV Udder Health, in het Nederlands Uiergezondheid af omdat er geen enkele stier was die hier een betrouwbare fokwaarde voor had. Omdat er verschillende basissen worden gebruikt voor Roodbonte en Zwartbonte Holstein koeien is er besloten om alleen met de zwartbonte Holstein stieren te gaan werken, deze vormt de grootste groep Holstein stieren. De basissen staan kort uitgelegd in de paragraaf Rassenstandaarden op pagina 10, De verfijnde dataset De dataset die overblijft bevat 63 fokwaarden van stieren. In de figuur op de volgende pagina is te zien dat er voor een aantal fokwaarden zeer weinig stieren voldoen aan de eis van minimaal 70% betrouwbaarheid. Voor elke fokwaarde van een stier is immers de fokwaarde bekend alsook hoe betrouwbaar die waarde is. Pagina 12 van 45

13 Figuur 1, aantal stieren per fokwaarde, voor beide levensduur datasets Pagina 13 van 45

14 Correlatie In de onderstaande tabel en de afbeelding op de volgende pagina is de correlatie van de fokwaarden uitgezet ten opzichte van de fokwaarden levensduur. Hier is ook direct al een probleem te zien, de beste fokwaarde heeft een correlatie kleiner dan 0.5. De negatieve correlatie is ook net iets kleiner Dat houdt in dat de overeenkomsten tussen de diverse fokwaarden en de levensduurfokwaarden zeer laag is. LONGEVITY LONGEVITY LONGEVITY LONGEVITY without with without with Protein 0,4746 0,4697 Rear legs rear view 0,0233 0,0433 Milk 0,4557 0,4493 BV Milking speed 0,0099 0,0014 Inet 0,4432 0,4391 VC BV Meat content 0,0026 0,0098 Fat 0,4096 0,4043 VC BV Fat score -0,0043-0,0071 BV Persistency 0,3950 0,3935 Rear legs side view -0,0077-0,0216 UDDER 0,3785 0,3929 FRAME -0,0102-0,0169 FINAL SCORE 0,3524 0,3697 Angularity -0,0118-0,0237 Udder support 0,2850 0,2935 CC BV Meat content -0,0180-0,0039 FEET and LEGS 0,2725 0,2906 DAIRY STRENGTH -0,0228-0,0126 Cow Maternal Vitality 0,2605 0,2615 Teat length -0,0270-0,0305 BV Somatic Cell Score 0,2421 0,2847 BV Temperament -0,0315-0,0278 BV Rate of Maturity 0,2252 0,2326 BS BV Meat content -0,0429-0,0429 Front teat placement 0,2170 0,2283 CC BV Fat score -0,0474-0,0599 Udder depth 0,2088 0,2309 VC BV Veal color -0,0535-0,0598 Rear udder height 0,1953 0,1955 BV Gestation length -0,0944-0,0931 Vitality 0,1794 0,1889 Protein percentage -0,0996-0,0950 Locomotion 0,1557 0,1812 BS BV Beef Merit -0,1162-0,1086 Cow Vitality 0,1409 0,1514 VC BV Carcass weight -0,1269-0,1167 BV Calving ease 0,1264 0,1278 BV Birth weight -0,1331-0,1344 BV Urea 0,1198 0,1119 Condition score -0,1337-0,1166 Maternal Vitality 0,1195 0,1208 BV Non Return 56-0,1602-0,1664 Fore udder 0,1131 0,1325 BS BV Carcass weight -0,1638-0,1620 attachment Rump Angle 0,1085 0,1056 Rump width -0,1682-0,1611 BV Maternal calving 0,0865 0,0906 CC BV Carcass weight -0,1845-0,1845 process Foot angle 0,0677 0,0806 Fat percentage -0,1916-0,1881 daughters 0,0622 0,0618 BV Interval calving -0,2392-0,2300 first insemination Heifer vitality 0,0472 0,0562 Body depth -0,2725-0,2716 dead daughters 0,0448 0,0443 BV Body weight -0,2741-0,2591 Heifer Maternal 0,0365 0,0368 Chest width -0,2745-0,2623 Vitality BS BV Fat score 0,0363 0,0354 BV calving Interval -0,3040-0,2970 Stature 0,0305 0,0385 Fertility -0,3130-0,3073 Rear teat placement 0,0268 0,0389 Tabel 2, correlaties van de fokwaarden t.o.v. de fokwaarde levensduur Pagina 14 van 45

15 Figuur 2, correlatie van de fokwaarden met de levensduurfokwaarden Pagina 15 van 45

16 Nogmaals verfijnen De dataset die overbleef na het verfijnen bevat een aantal fokwaarden die minder dan 1000 stieren met een betrouwbaar cijfer bevatten. Om met de data te kunnen rekenen wordt als ondergrens per fokwaarde 1000 stieren met een betrouwbaar cijfer genomen. Ook fokwaarden met een correlatie tussen de 0.1 en -0.1 worden niet meegenomen in de berekening. De correlaties van deze fokwaarden geven aan dat ze eigenlijk niets kunnen bijdragen aan de berekening. Dit leidt er toe dat het aantal fokwaarden met bijna de helft wordt gehalveerd, van 63 naar 34 fokwaarden. De correlaties van de overgebleven fokwaarden staan in de onderstaande grafiek. Figuur 3, correlaties van de overgebleven fokwaarden Pagina 16 van 45

17 In de onderstaande grafiek staat per fokwaarde het aantal stieren dat hiervoor een betrouwbaar cijfer heeft. Figuur 4, aantal stieren uitgezet tegen de fokwaarden voor beide datasets De uiteindelijke dataset(s) Er zijn stieren die een betrouwbare levensduur fokwaarde zonder voorspellers (longevity without) hebben. Alleen deze stieren zullen dus ook gebruikt worden. Voor informatie over de fokwaarden verwijs ik naar het hoofdstuk Terminologie op pagina 6. De uiteindelijke dataset is opgedeeld in 5 verschillende datasets. Alle fokwaarden die ook betrouwbare stieren hebben komen in dataset 1. Deze dataset bestaat uit de fokwaarden: Protein Milk Inet Fat Front teat placement Udder depth Rump Angle Fat percentage UDDER BV Interval calving first FINAL SCORE insemination Dit levert een dataset op met de gegevens van stieren. BV calving Interval Fertility Pagina 17 van 45

18 Dataset 2 bestaat uit alle fokwaarden van Dataset 1 plus de volgende fokwaarden: BV Persistency Udder support BV Non Return 56 BV Somatic Cell Score BV Rate of Maturity FEET and LEGS BV Calving ease BV Birth weight Rump width Het aantal stieren is iets gedaald door de toevoeging van de extra fokwaarden naar Dataset 3 is een uitbreiding op dataset 2 met de volgende fokwaarden: BV Body weight Fore udder attachment Body depth Chest width Dataset3 bevat de fokwaarden van stieren. Rear udder height Dataset 4 is weer een uitbreiding op dataset 3. De volgende fokwaarden zijn eraan toegevoegd: CC BV Carcass weight Condition score BS BV Beef Merit VC BV Carcass weight De toevoeging van deze 4 fokwaarden zorgen ervoor dat het aantal stieren in de dataset met iets meer dan duizend is gedaald naar Dataset 5 bevat alle fokwaarden. De volgende fokwaarden moeten daarom nog worden toegevoegd aan de dataset 4: BV Urea Locomotion Dataset5 telt 924 stieren die voor alle 33 gebruikte fokwaarden een betrouwbare waarde hebben. Als de fokwaarde Maternal Vitality ook wordt gebruikt bleven er net iets meer dan 500 stieren over die voor alle 34 fokwaarden een betrouwbare waarde hebben. Het weglaten van deze fokwaarde verslechterde de resultaten van de diverse gebruikte methoden niet, dit kan komen om dat de correlatie met de levensduur maar 0,1195 bedraagt. Op de volgende pagina staan twee plots van de data. In de eerste afbeelding is het eiwit uitgezet tegen de levensduur. Deze afbeelding is voorzien van een regressielijn van de derde orde. Hieraan is goed te zien dat het een positieve correlatie betreft. In de tweede afbeelding is de vruchtbaarheid uitgezet tegen de levensduur. Ook deze is voorzien van een regressielijn van de derde orde. Deze lijn loopt naar beneden, en dit klopt ook met de negatieve correlatie. Pagina 18 van 45

19 Figuur 5, levensduur tegen eiwit uitgezet. (inclusief regressie formule van de derde orde) Figuur 6, levensduur tegen vruchtbaarheid uitgezet. (inclusief regressie formule van de derde orde) Pagina 19 van 45

20 Regression Analasis Regression Analasis is de eerste methode die gebruikt is om een fokwaarde levensduur te bereken aan de hand van de andere fokwaarden. Er zijn twee verschillende methoden gebruikt namelijk Multiple Regesssion en Fitting. Deze staan beide hieronder beschreven. Fitting Bij fitting wordt een formule gemaakt die door zoveel mogelijk punten gaat of deze dichtbij benaderd. Op Figuur 5 en Figuur 6 is goed te zien dat het uitzetten van de fokwaarden tegen elkaar een soort van wolk met punten oplevert. Het is dus niet mogelijk om een lijn door alle punten te trekken, dus wordt de lijn berekend die het dichtst bij alle punten licht. Met deze methode zullen dus geen goede resultaten worden behaald maar kan wel dienen als referentie punt om te zien of de andere methoden veel verbetering bieden. In Tabel 4 tot en met Tabel 8 staan de resultaten van de regression berekening, de gemiddelde absolute afwijking. Dus hoeveel verschil zit er tussen de berekende waarde en de echte waarde, hier is het absolute gemiddelde van genomen. En op de rijen staan de resultaten van de testset. Boven elke kolommen staat bij tot welke orde de berekening horen. Bij de nulde macht is het dus alleen een getal. En bij de derde orde/macht komt er dus een formule uit die er als volgt uitziet. ". De beschrijving van de datasets staan in de paragraaf De uiteindelijke dataset(s) op pagina 17. Hoe is het berekend. Als eerste is er een trainingsset en een testset gemaakt. Dit is gedaan door de stieren op willekeurige volgorde te zetten en daarna de 3kwart voor de training te nemen en een kwart voor de testset. De volgorde van de stieren in de trainingsset is daarna weer door elkaar gezet en is deze opgesplitst in tweederde training en een derde validatie. Voor elke fokwaarde in de trainingsset is een aparte regressieformule berekend. Deze is daarna gevalideerd aan de validatie set. Dit levert per stier een aantal berekende levensduurcijfers op, hier is het gemiddelde van genomen. Per stier in de validatieset is er dan de echte levensduur bekend en een berekende versie door middel van de regressieformules. Het gemiddelde van het absolute verschil tussen beide waardes is het resultaat van deze methode. Vijfmaal wordt dit uitgevoerd, data door elkaar zetten, opdelen in een training en validatie set, en hier komt dan een resultaat uit. De beste wordt hiervan genomen die deze wordt vergeleken met de testset. Om het effect van een ongelukkig verkregen dataset tegen te gaan is alles vijf maal herhaald. Dus door elkaar zetten. Opdelen in training en test. Vijf maal alles berken, daarvan het beste resultaat vergelijken met de testset. Dit levert de tabel op die op de volgende pagina staat, tabel 3. De rijnamen geven aan met welke validatie ronde het betreft validation1 geeft dus de eerst maal berekend van de training/validation weer. Daaronder staat het beste validation resultaat en daar weer onder welke ronde het precies betrof. Met regressionformules van die ronde zijn over de Pagina 20 van 45

21 testset gehaald en het resultaat daarvan staat in de onderste rij. Dit geheel zou vijf maal herhaald worden. Dit is weergegeven door hiervoor telkens een kolom te gebruiken. De gebruikte dataset van deze tabel is dataset 1 voor de nulde orde. test1 test2 test3 test4 test5 validation1 202, , , , ,6914 validation2 208, , , , ,731 validation3 205, , , , ,1105 validation4 199, , , , ,026 validation5 202, , , , ,9279 beste 199, , , , ,9279 Validatie ronde Testresultaat 212, , , , ,2069 Tabel 3, Dataset 1, orde 0 Het gemiddelde van de testresultaten bedraagt 208,5320 met een standaardderivatie van 5, Dit is gedaan voor elk e orde en elke dataset. Omdat het weergeven van alle resultaten van elke validation ronde veel ruimte kost in de onderstaande tabellen achterwegengelaten. (gem = gemiddelde, std = standaardderivatie) Dataset1: orde test1 212,13 187,41 185,40 186,58 185,08 185,12 185,11 185,13 185,03 185,67 185,67 test2 215,55 188,01 189,84 185,71 185,65 185,65 187,63 185,67 186,37 185,25 185,50 test3 203,57 186,62 187,75 187,82 187,77 187,83 189,86 187,70 184,84 188,33 184,35 test4 203,20 191,91 184,99 185,02 184,81 184,85 187,80 184,82 185,98 184,91 184,94 test5 208,21 188,11 186,20 186,11 186,01 189,79 184,48 186,00 189,77 185,96 190,56 gem 173,78 157,18 156,03 155,71 155,55 156,37 156,81 156,05 156,67 156,52 156,84 std 5,3730 2,0444 1,9830 1,0481 1,1640 2,1123 2,1875 1,1248 1,9886 1,3504 2,4885 Tabel 4, Regression resultaten dataset 1 Dataset 2: orde test1 196,85 178,84 178,44 181,94 178,33 181,92 178,57 178,57 178,54 181,88 181,90 test2 197,89 182,29 182,03 186,91 181,88 186,74 181,85 181,89 181,98 187,78 180,15 test3 195,83 187,25 187,02 187,64 187,67 187,68 186,48 187,68 187,46 178,71 187,76 test4 197,10 190,87 187,76 178,42 178,41 178,37 187,71 178,29 187,64 187,51 178,70 test5 195,28 188,18 178,51 185,16 185,18 185,14 178,32 185,53 185,72 185,74 188,70 gem 163,82 154,74 152,63 153,84 152,58 154,14 153,16 153,16 154,89 155,10 154,53 std 1,0380 4,8389 4,4836 3,8237 4,1279 3,8217 4,3661 4,1677 3,9291 3,9240 4,5277 Tabel 5, Regression resultaten dataset 2 Pagina 21 van 45

22 Dataset 3 orde test1 186,40 179,81 179,74 179,73 179,73 179,74 179,78 179,73 179,89 179,83 180,31 test2 192,36 185,27 182,34 185,11 185,11 185,09 185,18 185,23 185,65 185,70 186,07 test3 189,54 182,36 181,57 181,37 182,42 182,34 182,53 182,44 182,37 182,44 181,21 test4 190,54 181,76 183,25 183,25 181,48 181,47 181,43 183,33 181,37 181,46 185,69 test5 188,41 183,34 184,49 184,37 183,27 183,34 183,34 184,47 183,89 184,72 184,28 gem 157,87 152,26 152,23 152,81 152,67 152,83 153,04 153,70 153,53 153,86 154,59 std 2,2355 2,0086 1,7863 2,2050 2,0063 2,0036 2,0275 2,1331 2,2273 2,3892 2,6191 Tabel 6, Regression resultaten dataset 3 Dataset 4: orde test1 185,02 177,84 177,79 177,59 176,88 177,71 177,68 178,95 179,06 181,21 179,86 test2 183,34 176,93 176,89 176,86 179,12 176,94 176,93 176,68 180,14 179,06 177,12 test3 191,19 185,44 178,89 179,09 185,18 179,04 179,43 179,69 176,66 177,14 183,22 test4 185,11 188,62 185,42 185,32 180,16 185,25 185,28 180,30 185,50 186,39 181,07 test5 194,78 180,37 180,31 180,30 188,36 180,42 188,25 188,23 181,95 182,86 188,04 gem 156,57 151,70 150,22 150,36 152,28 150,73 152,26 151,81 151,89 152,61 153,22 std 4,8735 5,0310 3,3631 3,3458 4,7003 3,2874 4,9885 4,3889 3,3119 3,5604 4,0975 Tabel 7, Regression resultaten dataset 4 Dataset 5: orde test1 195,77 190,15 190,38 190,26 190,26 190,03 189,88 188,47 191,50 205,95 193,60 test2 200,04 188,34 186,43 186,50 186,35 193,82 186,14 185,91 193,90 188,50 204,45 test3 193,08 186,45 188,28 194,03 193,92 186,29 194,19 194,39 187,07 188,01 208,98 test4 210,07 194,03 194,07 188,16 201,66 195,24 189,49 193,85 194,72 193,60 197,11 test5 203,35 203,32 203,40 203,41 187,19 178,07 196,02 194,92 189,25 196,45 203,08 gem 167,05 160,55 160,76 160,89 160,56 158,07 160,29 160,76 160,74 163,59 169,54 std 6,6580 6,6868 6,7134 6,7294 6,2240 6,8844 3,9517 4,0615 3,1873 7,3115 6,1011 Tabel 8, Regression resultaten dataset 5 Voor de vergelijking aan het einde worde de derde orde genomen omdat deze over alle dataset heen goed presteerde. Zowel qua gemiddelde als de standaardderivatie. Regressie 3 de orde Dataset 1 Dataset 2 Dataset 3 Dataset 4 Dataset 5 Gemiddelde 155,71 153,84 152,81 150,36 160,89 standaardderivatie 1,0481 3,8237 2,2050 3,3458 6,7294 Tabel 9, resultaat 3de orde regression Pagina 22 van 45

23 Multiple Regression Bij Multiple Regesssion wordt alle data in een matrix gestopt om deze daarna een matrix vergelijking te doen om de onderstaande formule op te lossen. Waarbij N het aantal fokwaarden is waarmee vergeleken wordt. Y is hier de fokwaarde levensduur. is een basis getal dat er bij op dient te worden geteld., is de eerste fokwaarde waarmee vergeleken wordt en geeft aan hoeveel deze mag meetellen. Als invoer zijn de genormaliseerd fokwaarden gebruikt. Deze is genormaliseerd tussen 0 en 1. Ook hierbij is de stierdata weer door elkaar gezet en opgedeeld in ¾ training en ¼ testset. Daarna is de training weer door elkaar gezet opgedeeld in 2/3 trainingset en 1/3 validatieset. Met deze training en validatie set is de formule berekend. Het opdelen en door elkaar zetten van de trainingvalidatieset is vijf maal gedaan, hierdoor zijn er vijf uitkomsten van de formule, deze uitkomsten zijn weer terug gerekend naar het aantal dagen. De formule die het beste scoorde op de validatie set is gebruikt om een performance meeting mee te doen. Hiervoor zijn de (genormaliseerde) fokwaarden uit de testset gebruikt en de uitkomsten zijn weer terug gerekend. Dit levert een gemiddelde absoluut verschil tussen de werkelijke fokwaarde en de berekende fokwaarde op, de performance meeting. Door het opdelen van training- en testset is vijf maal gedaan, data is eerst weer opnieuw door elkaar gezet. Per opdeling is het weer vijf maal opgedeeld in training- en validatieset, enzovoorts. Het levert dan in totaal 5 performance metingen op. Dit alles is per dataset herhaald. De resultaten staan in de onderstaande tabel. dataset 1 dataset 2 dataset 3 dataset 4 dataset 5 performance 1 169, , , , ,4291 performance 2 163, , , , ,4546 performance 3 163, , , , ,8422 performance 4 167, , , , ,2851 performance 5 170, , , , ,4182 Gemiddelde 166, , , , ,0858 standaardderivatie 2, , , , ,7577 Tabel 10, resultaat multiple regression De beste formule van dataset 1 is: Hierbij valt goed op dat Protein, Milk en Inet de belangrijkste fokwaarden zijn, gevolgd op grootte afstand door Fat en Fertility. Hierbij dient wel opgemerkt te worden dat Protein negatief doorwerkt op het eindresultaat. Zelf had ik voorspeld dat Milk en fertility het goed zouden doen. Milk doet het goed maar fertility telt in verhouding maar een klein beetje mee. De formule van de beste performance meeting van dataset 2: Pagina 23 van 45

24 'Protein', 'Inet' en 'BV Interval calving first insemination' zijn in deze formule de belangrijkste invoer fokwaarden. Opvallend is ook dat een andere vruchtbaarheidsfokwaarde 'BV Non Return 56' ook zwaar mee telt. Terwijl 'Fertility' niet zo hoog scoort. Mijn andere voorspellers Milk en 'BV Somatic Cell Score' wel redelijk mee wegen in het eindresultaat. Dataset 3 heeft de volgende formule: Protein Inet Milk en Fat zijn de fokwaarden die het zwaarst mee tellen in het eindresultaat. Op enige afstand komt de fokwaarde Fertitlity, deze telt negatief mee wat niet overeenkomt met mijn voorspelling. Mijn andere voorspeler 'BV Somatic Cell Score', draagt met niet zo heel erg veel bij aan het eindresultaat van deze formule. Protein telt voor het eerst positief mee in de formule. Pagina 24 van 45

25 Dataset 4 formule: De vier fokwaarden die het zwaarste mee tellen in het eindresultaat zijn: 'Protein' (+0,5467), 'Fat' (0,5399), UDDER' (0,4637) 'BV Interval calving first insemination' (0,4432) en 'BV Non Return 56' (0,3672).Deze tellen allemaal positief mee in het eindresultaat. De fokwaarde die het zwaarst negatief meeweegt is 'Milk' (-0,3904). Mijn andere voorspeller 'BV Somatic Cell Score' is met een wegingsfactor van wel een van de fokwaarden die redelijk meetelt maar kan het eindresultaat niet heel erg veel beïnvloeden. Dataset 5 levert de volgende formule: Bij deze formule zijn er geen fokwaarden die er heel erg uitspringen. De drie fokwaarden die het zwaarst meewegen zijn 'Fertility' (+0,3824), 'Milk' (+0,3418) en 'BV Rate of Maturity' (+0,3090). De eerste twee zijn dan ook direct twee van de fokwaarden die ik voorspeld had. De andere voorspeller 'BV Somatic Cell Score' telt ongeveer half zo waar mee, +0,1499. Opvallend is dat 'Protein' eigenlijk helemaal niet meeweegt in het eindresultaat terwijl deze in de andere formules altijd zeer zwaar mee woog. De standaardafwijking van formule vijf is 11,7577. Er zit dus zeer veel variatie in de resultaten van deze dataset. Het getal wordt wel gebruikt om verder me te kunnen vergelijken maar met zo n grootte afwijking is het niet geschikt om te gebruiken om de fokwaarde mee te voorspellen. Pagina 25 van 45

26 Regression trees De tweede methode is met regression trees. Het berekenen van de bomen is meerdere malen gedaan per dataset, dit is gedaan om het effect van over-fitting of onder-fitting op de dataset teniet te doen. De volgorde van de stieren is wederom door elkaar gehaald. Een kwart als testset en de rest als training. De training is daarna opnieuw door elkaar gehaald en opgesplitst in een validationset(een derde) en een trainingsset (tweederde). Met de trainingsset is een boom berekend, met deze boom en de validatieset is er een levensduur berekend. Het gemiddelde van het absolute verschil tussen de berekende waarde en de fokwaarden is de uitkomst. Het door elkaar zetten en opdelen in validationen trainingsset is vijf maal gedaan en de beste boom hiervan is gebruikt om de uitkomst van de testset mee te berekenen. Dit geeft een performance meeting van deze boom. Het randomizeren van de data en deze dan opdelen in test en training is ook vijf maal gedaan. Met die training zijn bomen berekend en hiermee zijn perfomance meetingen gedaan op de testsets. (het absolute verschil tussen de berekende waarden en de werkelijke waarde) De resultaten hiervan staan in de tabel hieronder. Dit alles is per dataset herhaald. Elke kolom is een van de datasets. Er is vijf maal een performance berekend per dataset en dat is weergegeven op de rijen (test resultaten). Dataset1: Dataset2: Dataset3: Dataset4: Dataset5: Meeting 1 223, , , , ,9437 Meeting 2 218, , , , ,6753 Meeting3 224, , , , ,8182 Meeting 4 225, , , , ,1861 Meeting 5 221, , , , ,0736 gemiddelde 222, , , , ,939 standaarddeviatie 2,640 3,653 5,172 2,990 14,948 Tabel 11, Regression trees Deze resultaten zijn behoorlijk slecht. Zelfs slechter dan Regression methode in het vorige hoofdstuk. Dit kan komen omdat er over-fit is. Pagina 26 van 45

27 Pruning Een manier om over-fitting dit te voorkomen is door gebruikt te maken van pruning. Pruning is het verwijderen van een subtree en deze te vervangen door een leaf met het gemiddelde van deze boom. Dat is niet gelijk aan het gemiddelde van de leaf van deze boom, maar het gemiddelde van de stieren van de trainingsset die op deze subtree uitgekomen zijn. Hoe is dit berekend. Allereerst is de volledige boom berekend en daarna is telkens het pruning level met een verhoogd tot het goed inzichtbaar was dat er geen verbeteringen meer mogelijk was. In de figuur op de volgende pagina is goed te zien dat het gemiddelde absolute verschil van de validatie set bij 0 levels/niet pruning bijna 230 bedraagt en na 481 pruninglevels bedraagt deze nog ongeveer 174. Dit figuur is gebaseerd op dataset 1, de 3de performance meting, en met de 3 de validatieset ronde. Deze pruning tree scoort op de test set nog een gemiddelde absolute verschilt van 175,501 dagen. En dat wijkt niet veel af van het validatie resultaat van deze tree. Figuur 7, Pruning effect (verticaal: gemiddelde v/d validatieset, horizontaal: pruning level) Pagina 27 van 45

28 In de onderstaand figuur staat de boom zonder pruning/level 0. Deze scoorde bijna 230 op de validatieset. Figuur 8, dataset 1, performance meeting 3, validatie ronde 3, pruninglevel 0 In Figuur 9 is goed te zien dat na 447 pruning levels er een vrij simplistische boom overblijft. Deze behaalt op de validatiset een resultaat van ongeveer 174, en op de testset 175,501. Figuur 9, dataset 1, performance meeting 3, validatie ronde 3, pruninglevel 481 Pagina 28 van 45

29 In deze boom is goed te zien welke variabelen belangrijk zijn om tot dit resultaat te komen. Deze staan hieronder opgesomd. Met alleen deze fokwaarden en deze boom zou kan de fokwaarde levensduur al voorspeld worden. X2 = Fat X3 = Protein X5 = Inet X8 = Udder depth X9 = Udder Van de voorspellers die ik vermoed staat er twee in deze dataset maar geen van beide wordt gebruikt. Wat inhoud dat ze bij deze boom niets konden toevoegen om het resultaat te verbeteren. Inet staat er wel tussen en in de inet formule wordt gebruik gemaakt van de melkfokwaarde. Dus melk is indirect wel van belang. De resultaten van de vijf performance metingen (testset) : Meeting 1 Meeting 2 Meeting 3 Meeting 4 Meeting 5 Gemiddeld Standaarddeviatie 176, , , , , ,08 3,496 Dataset 2 X1 = Milk X3 = Protein X5 = Inet X9 = Udder depth X13 = Final Score X14 = BV Birth weight X20 = BV Somatic Cell Score X21 = BV Persistency X22 = BV Rate of Maturity Figuur 10, dataset 2, performance meeting 1, validatie ronde 2, pruninglevel 387 Voor een goed resultaat zijn er bij dataset 2 meer verschillende variabelen benodigd. Hierbij zitten twee van de door mij verspelde variabelen namelijk; Milk en BV Somatic Cell Score. De variabelen die hier het meest gebruikt worden zijn Protein en BV Somatic Cell Score. De performance meeting van dataset 2 zijn: Meeting 1 Meeting 2 Meeting 3 Meeting 4 Meeting 5 Gemiddelde Standaarddeviatie Pagina 29 van 45

30 168, , , , , ,688 1,633 Gezien de lage standaarddeviatie is dit een relatief betrouwbare uitkomst. Dataset 3 X1 = Milk X2 = Fat X3 = Protein X6 = Chest width X24 = BV Somatic Cell Score X25 = BV Body weight X27 = BV Rate of Maturity Figuur 11, dataset 3, performance meeting 4, validatie ronde 3, pruninglevel 295 In de bovenstaande boom wordt de beste pruned tree van dataset 3 weergegeven. De root van de boom splits op de variabele BV Rate of Maturity (Laatrijpheid). De BV Somatic Cell Score en Protein worden ieders drie maal gebruikt. Deze boom scoorde de beste resultaat voor dataset 3 met en gemiddelde absolute afwijking op de testset van 195,3189 dagen. De uitkomsten van dataset 3 zijn: Meeting 1 Meeting 2 Meeting 3 Meeting 4 Meeting 5 Gemiddelde Standaarddeviatie 173, ,96 167,41 166, , ,75 3,442 Dataset 4 X2 = Fat X3 = Protein X6 = Chest width X25 = BV Somatic Cell Score X26 = BV Body weight X28 = BV Persistency Figuur 12, dataset 4, performance meeting 4, validatie ronde 4, pruninglevel 204 Pagina 30 van 45

31 De boom die het beste presteerde op de testset staat hierboven. Dit is een behoorlijk kleine boom die, in verhouding met de bomen van de andere dataset, wel goed scoort namelijk 166,629 dagen gemiddelde absolute afwijken tussen het resultaat van deze boom en de werkelijke waarden. De resultaten van dataset 4 zijn: Meeting 1 Meeting 2 Meeting 3 Meeting 4 Meeting 5 Gemiddelde Standaarddeviatie 174, , , , ,83 4,191 Dataset 5 X29 = BV Rate of Maturity Figuur 13, dataset 5, performance meeting 4, validatie ronde 4, pruninglevel 93 Dit is de allersimpelste boom die er bij zit. Het bestaat uit een knoop met twee bladeren. Er wordt gesplitst op de variabele BV Rate of Maturity (Laatrijpheid). Dieren met en laatrijpheid kleiner 9750 krijgen volgens deze boom een score van en anders Dit levert op de testset een score op van Vergeleken met de complexiteit van de andere bomen is deze score opvallend. Een mogelijke oorzaak dat deze boom goed scoort zou de kleine testset kunnen zijn, deze bevat ongeveer 250 stieren om mee te vergelijken, of toch de mogelijkheid dat deze (daardoor) is over-fit. Gezien de hoge standaarddeviatie bij Dataset 5, 16,663 en het gemiddelde van 189,589 kun je haast concluderen dat deze score op een toevallig goed gekozen validatie- en dataset berust. Resultaten dataset 5 Meeting 1 Meeting 2 Meeting 3 Meeting 4 Meeting 5 Gemiddelde Standaarddeviatie 198, ,58 174, ,589 16,663 In de onderstaande tabel staan de resultaten van alle dataset bij elkaar. Dataset1: Dataset2: Dataset3: Dataset4: Dataset5: Meeting 1 176, , , , ,199 Meeting 2 182, , , , ,58 Meeting 3 175, , , , ,831 Meeting 4 178, , , , Meeting 5 183, , , , Pagina 31 van 45

32 gemiddelde 179, , , , ,589 standaarddeviatie 3,496 1,633 3,442 4,191 16,663 Tabel 12, regression trees pruned In de tabel hier onder staat het verschil tussen wel of niet pruned. Door van deze techniek gebruik te maken is het resultaat van de regression trees aanzienlijk verbeterd. Maar deze kommen nog niet in de buurt van de Regression methode uit het vorige hoofdstuk. Gemiddelde Dataset1: Dataset2: Dataset3: Dataset4: Dataset5: Unpruned 222, , , , ,939 Pruned 179, , , , ,589 Tabel 13, vergelijking tussen de Regession trees met en zonder pruning Pagina 32 van 45

33 k-nearest Neighbour De methode k-nearest Neighbour worden k buren gezocht voor de stier waarmee vergeleken wordt. Het idee hierachter is dat stieren met gelijke fokwaarden ook een gelijke levensduurfokwaarden hebben. De vergelijking tussen de stieren wordt gedaan door middel van de Euclidean distance. Omdat er grootte verschil zit in de spreiding van de fokwaarden kunnen ze niet direct met elkaar vergeleken worden. Fokwaarden met een grootte spreiding worden dan te veel benadeeld. Alle fokwaarden worden daarom genormaliseerd naar een waarde tussen 0 en 1. De Euclidean distance worden berekend door de fokwaarden van twee stieren met elkaar te vergelijken. De k stieren met de kleinste afstand zijn de buren die gezocht worden. Het resultaat dat deze methode oplevert is het gemiddelde van de levensduurfokwaarde van deze buren. Ook hier zijn weer de training- test- en validatieset aangemaakt. Ook weer in dezelfde verhouding. Vijf maal is de validatie berekening uitgevoerd, de keer die het beste scoorde op de validatieset is gebruikt om met de testset te vergelijken, dit leverde een performance meting. Dit alles is vijf maal herhaald wat resulteert in vijf performance metingen. In de Figuur 14 tot en met Figuur 18 staat per dataset de vijf performance metingen uitgezet tegen het k aantal buren. Figuur 14, Performance metingen dataset 1 Pagina 33 van 45

34 Figuur 15, Performance metingen dataset 2 Figuur 16, Performance metingen dataset 3 Pagina 34 van 45

35 Figuur 17, Performance metingen dataset 4 Figuur 18, Performance metingen dataset 5 Pagina 35 van 45

36 Om de dataset onderling te kunnen vergelijken is het gemiddelde van de testset resultaten per dataset genomen, het resultaat staat in de onderstaande figuur. Figuur 19, dataset performance Bij k=20 vind er eigenlijk geen verbetering meer plaats (bij dataset 1 nog wel iets maar dat is marginaal). In de vergelijkingen met de andere methoden zal dus k=20 worden gebruikt. Wat tevens opvalt is dat dataset 2, 3 en 4 weer beter scoren dan de andere twee datasets. In de onderstaande tabel staan de resultaten van k=20 opgesomd. Dataset 1 Dataset 2 Dataset 3 Dataset 4 Dataset 5 k=20 172,36 157,82 157,01 155,61 167,02 Tabel 14, knn resultaten Pagina 36 van 45

37 Neural Networks Neural Networks is de laatste methode die ik ga proberen en waarvan ik verwacht dat deze beter resultaten gaat geven dan de andere methoden. Als trainingsmethode was eerst de Gradient descent backpropagation methode gebruikt maar deze was zeer langzaam en is hierdoor vervangen door de methode Levenberg-Marquardt. Na een korte test bleek deze gelijke resultaten te geven maar in een vele kortere tijd. Nadeel van deze methode is wel dat het veel geheugen gebruikt. Maar de methode levert wel een goed netwerk op. Als hidden neuron wordt nu het type Tansig gebruikt en als output neuron purelin. Dit geeft goede resultaten. Als de data eerst wordt genormaliseerd en als hidden- en uitvoer neuron het type Tansig wordt gebruikt geeft dit nagenoeg dezelfde resultaten. De gemiddeldes weken niet meer dan 2 à 3 punten af dit is ongeveer gelijk met de standaardderivatie. Daardoor mag er aangenomen worden dat deze gelijk zijn aan elkaar. Net al bij alle voorgaande methoden is hier weer vijf maal de data gerandomiseerd en opgedeeld in training(3/4 de )- en testset(1/4 de ). De training is daarna weer vijfmaal, door elkaar gezet en opgedeeld in een train(2/3 de )- en validatieset(1/3 de ). Per trainingset zijn er een aantal netwerken getraind met telkens een ander aantal hidden neurons. Er wordt begonnen met één hidden neuron en er wordt er telkens een bij gevoegd. Het trainen van een netwerk stopte zodra er 15 epochs na de beste epoch nog geen verbetering optrad of tot er 100 epoch waren bereikt. Van de epoch die het beste scoorde op de validatieset wordt het netwerk gebruikt als uitgangspunt voor dit aantal neuronen. Daarna werd het volgend netwerk getraind maar nu met één hidden neuron meer. Ook het aantal hidden neurons is aan een maximum gebonden er wordt maximaal getraind tot twee maal het aantal inputvelden of tot er 10 of tot het duidelijk werd dat het toevoegen van extra hidden neurons geen verbetering meer opleverde. Dit is gedaan door te kijken bij welk aantal neuronen leverde het beste netwerk volgende de validatieset en dan mochten er nog maximaal 10 bij worden getraind, als er dan geen andere neuron was die beter presteerde werd gestopt met het toevoegen van het aantal hidden neuronen. Dit alles is vijf maal herhaald telkens met een andere train- en validatieset. Dit is gedaan door deze opnieuw door elkaar te halen en weer op te delen in een train- en validatieset. Hiermee wordt het effect van een gelukkig gekozen dataset getracht te niet te doen. Het beste netwerk van deze vijf is gebruikt om een performance meeting op te doen met de testset. Pagina 37 van 45