Förstå överfullständiga funktioner i maskininlärning

Överkomplett hänvisar till en situation där en modell eller en uppsättning funktioner är för komplex och fångar upp mer variation i data än vad som är nödvändigt. Med andra ord kan modellen eller funktionerna passa bruset i data snarare än de underliggande mönstren. Detta kan leda till dålig generaliseringsprestanda på nya data, eftersom modellen blir alltför specialiserad för träningsdata.

I samband med funktionsval avser överkomplett en situation där det finns fler funktioner än vad som behövs för att fånga de viktiga variationerna i datan. . Till exempel, om en modell har 100 funktioner men bara 20 av dem är verkligen relevanta för problemet, då anses de andra 80 funktionerna vara överkompletta.