Förstå epoker i maskininlärning

I samband med maskininlärning hänvisar en epok till en fullständig iteration över träningsdata. Under varje epok tränas modellen på hela datamängden, och vikterna justeras baserat på felet mellan den förutsagda utdatan och den faktiska utdatan.

Om du till exempel har en datauppsättning med 1000 exempel och din modell har 1000 parametrar, då skulle en epok involvera att träna modellen på alla 1000 exemplen, med alla 1000 parametrar, för att minimera förlustfunktionen.

Antalet epoker är en hyperparameter som kan justeras i träningsprocessen. Det optimala antalet epoker beror på problemets komplexitet, storleken på datasetet och modellens prestanda. Generellt sett kan fler epoker leda till överanpassning, där modellen blir för specialiserad till träningsdata och inte generaliserar väl till nya exempel. Å andra sidan kanske färre epoker inte tillåter modellen att lära sig tillräckligt av träningsdata.

I djupinlärning används epoker ofta i samband med batcher. En batch är en delmängd av träningsdata som bearbetas tillsammans innan modellens vikter uppdateras. Till exempel, om du har en datauppsättning med 1000 exempel och du använder en batchstorlek på 32, då skulle en epok innebära att modellen tränas på alla 1000 exempel, men att bearbeta dem i batcher om 32 åt gången. Detta kan bidra till att minska beräkningskostnaderna för utbildning, samtidigt som modellen kan lära sig av hela datasetet.