Makine Öğrenimi Modellerinde Aşırı Normalleşmeyi Anlamak ve Önlemek

Aşırı normalleştirme, bir modelin eğitim verileri üzerinde çok iyi eğitilmesi ve bunun sonucunda söz konusu veri kümesine aşırı derecede uzmanlaşması durumunda ortaya çıkan bir olgudur. Bu, modelin yeni, görünmeyen veriler üzerinde düşük performans göstermesine neden olabilir; çünkü daha geniş bir yelpazedeki durumlara uygulanabilecek genelleştirilebilir özellikler veya modeller öğrenmemiştir. ve verilerden yeterince genelleştirilebilir bilgi öğrenmiyor. Sonuç olarak, model yeni, görünmeyen verilere iyi bir genelleme yapamayabilir.

Aşırı normalleşmeye aşağıdakiler de dahil olmak üzere çeşitli faktörler neden olabilir:

1. Aşırı Uyum: Bu, bir modelin eğitim verileri üzerinde çok iyi eğitilmesi ve söz konusu veri kümesine aşırı derecede özel hale gelmesi durumunda ortaya çıkar.
2. Veri sızıntısı: Bu, eğitim verilerinin, verilerin gerçek dağılımını temsil etmemesi ve modelin, temel kalıplar ve ilişkiler yerine eğitim verilerinin önyargılarını ve sınırlamalarını öğrenmesi durumunda ortaya çıkar.
3. Model karmaşıklığı: Bu, bir model çok karmaşık olduğunda ve mevcut eğitim verilerinin miktarına göre çok fazla parametreye sahip olduğunda ortaya çıkar.
4. Düzenlileştirme eksikliği: Bu, bir modelin karmaşıklık nedeniyle yeterince cezalandırılmaması ve altta yatan modeller ve ilişkiler yerine gürültünün eğitim verilerine sığmasına izin verilmesi durumunda ortaya çıkar.

Aşırı normalleştirmeyi önlemek için, aşağıdakiler gibi çeşitli teknikler kullanılabilir:

1 . Düzenleme: Bu, büyük ağırlıkları veya karmaşık modelleri engellemek için kayıp fonksiyonuna bir ceza terimi eklemeyi içerir.
2. Erken durdurma: Bu, model eğitim verilerine fazla uyum sağlamadan önce eğitim sürecinin durdurulmasını içerir.
3. Veri artırma: Bu, mevcut verilere döndürme, ölçeklendirme ve çevirme gibi rastgele dönüşümler uygulayarak ek eğitim verileri oluşturmayı içerir.
4. Topluluk yöntemleri: Bu, genellemeyi geliştirmek için torbalama ve güçlendirme gibi birden fazla modeli birleştirmeyi içerir.
5. Çapraz doğrulama: Bu, verileri birden fazla kata ayırmayı ve modeli bir kat üzerinde eğitirken geri kalan katlarda değerlendirirken içerir.