Înțelegerea caracteristicilor supracomplete în Machine Learning

Supracompletarea se referă la o situație în care un model sau un set de caracteristici este prea complex și captează mai multe variații în date decât este necesar. Cu alte cuvinte, modelul sau caracteristicile sunt capabile să se potrivească mai degrabă cu zgomotul din date decât cu modelele subiacente. Acest lucru poate duce la o performanță slabă de generalizare a datelor noi, deoarece modelul devine excesiv de specializat pentru datele de antrenament.

În contextul selecției caracteristicilor, supracompletarea se referă la o situație în care există mai multe caracteristici decât sunt necesare pentru a captura variațiile importante ale datelor. . De exemplu, dacă un model are 100 de caracteristici, dar doar 20 dintre ele sunt cu adevărat relevante pentru problemă, atunci celelalte 80 de caracteristici sunt considerate supracomplete.