Trainen betekent de juiste waarde vinden

Zodra de structuur staat, begint het eigenlijke trainen. In essentie vul je de parameters van je model in. In y = ax + b zijn a en b de parameters. In theorie kunnen die van alles zijn, maar in de praktijk wil je specifieke waarden die goed passen bij je data, anders krijg je resultaten die niet kloppen, niet herhaalbaar zijn en al helemaal niet bruikbaar zijn in een echte productieomgeving. Het zoeken naar die waarden noemen we fitten, of trainen.

Maar wanneer past een model "goed"? Daarvoor heb je een meetlat nodig: een lossfunctie. Stel: je model voorspelt een kwaliteitswaarde van 8, terwijl de meting 7 is. Dat is een fout van 1. Na training zit je model op 7,5, objectief beter. Bereken je dit over een hele batch, dan heb je een concrete maat voor de prestatie van je model.

Gelukkig hoef je niet willekeurig te raden. Als je lossfunctie aan een paar wiskundige voorwaarden voldoet, kun je systematisch zoeken naar betere parameters. Bij eenvoudige modellen vind je de optimale waarden exact. Bij complexere modellen kom je uit op een sub-optimale oplossing die in de praktijk toch prima werkt.

Niet elk probleem is even makkelijk te definiëren

Soms weet je precies wat het goede antwoord is: je hebt historische data van producten die goedgekeurd of afgekeurd zijn. In andere gevallen weet je dat niet, bijvoorbeeld als je afwijkingen zoekt in patronen. Beide werelden kennen hun eigen aanpak en uitdagingen.

De balans tussen onthouden en begrijpen

Bij het trainen zoek je altijd de balans tussen twee dingen: zo goed mogelijk je trainingsdata verklaren, én goed presteren op nieuwe, onbekende situaties. Ga je te ver in het eerste, dan krijg je overfitting: het model leert de trainingsdata uit zijn hoofd, maar faalt zodra er iets nieuws langskomt. Vergelijkbaar met een student die alle examenvragen memoriseert, maar vastloopt bij een vraag die net anders is gesteld.