Zrozumienie epok w uczeniu maszynowym

W kontekście uczenia maszynowego epoka odnosi się do pełnej iteracji danych szkoleniowych. W każdej epoce model jest szkolony na całym zbiorze danych, a wagi są dostosowywane w oparciu o błąd między przewidywanymi wynikami a rzeczywistymi wynikami. Na przykład, jeśli masz zbiór danych zawierający 1000 przykładów, a model ma 1000 parametrów, wówczas jedna epoka obejmowałaby szkolenie modelu na wszystkich 1000 przykładach, przy użyciu wszystkich 1000 parametrów, aby zminimalizować funkcję straty.…
Liczba epok to hiperparametr, który można dostosować w procesie uczenia. Optymalna liczba epok zależy od złożoności problemu, wielkości zbioru danych i wydajności modelu. Ogólnie rzecz biorąc, więcej epok może prowadzić do nadmiernego dopasowania, gdy model staje się zbyt wyspecjalizowany w stosunku do danych uczących i nie daje się dobrze uogólnić na nowe przykłady. Z drugiej strony mniejsza liczba epok może nie pozwolić modelowi na wystarczające nauczenie się z danych uczących.… W uczeniu głębokim epoki są często używane w połączeniu z partiami. Partia to podzbiór danych szkoleniowych, które są przetwarzane razem przed aktualizacją wag modelu. Na przykład, jeśli masz zbiór danych zawierający 1000 przykładów i używasz partii o rozmiarze 32, wówczas jedna epoka będzie wymagała szkolenia modelu na wszystkich 1000 przykładach, ale przetwarzanie ich w partiach po 32 na raz. Może to pomóc w obniżeniu kosztów obliczeniowych szkolenia, jednocześnie umożliwiając modelowi uczenie się na podstawie całego zbioru danych.