Memahami dan Mengelak Terlalu Normalisasi dalam Model Pembelajaran Mesin

Terlebih normal ialah fenomena yang berlaku apabila model dilatih dengan baik pada data latihan, dan akibatnya, model menjadi terlalu khusus untuk set data khusus tersebut. Ini boleh menyebabkan model berprestasi buruk pada data baharu yang tidak kelihatan, kerana ia tidak mempelajari ciri atau corak yang boleh digeneralisasikan yang boleh digunakan pada julat situasi yang lebih luas.

Dalam erti kata lain, terlalu normal berlaku apabila model terlalu sesuai dengan data latihan , dan ia tidak mempelajari pengetahuan umum yang mencukupi daripada data. Akibatnya, model mungkin tidak dapat membuat generalisasi dengan baik kepada data baharu yang tidak kelihatan.

Terlebih normal boleh disebabkan oleh pelbagai faktor, termasuk:

1. Overfitting: Ini berlaku apabila model dilatih terlalu baik pada data latihan dan ia menjadi terlalu khusus untuk set data khusus tersebut.
2. Kebocoran data: Ini berlaku apabila data latihan tidak mewakili pengedaran sebenar data, dan model mempelajari bias dan had data latihan dan bukannya corak dan perhubungan asas.
3. Kerumitan model: Ini berlaku apabila model terlalu kompleks dan mempunyai terlalu banyak parameter berbanding jumlah data latihan yang tersedia.
4. Kekurangan penyelarasan: Ini berlaku apabila model tidak cukup dihukum kerana kerumitan, dan ia dibenarkan untuk memuatkan hingar dalam data latihan dan bukannya corak dan perhubungan yang mendasari.

Untuk mengelakkan keterlaluan, beberapa teknik boleh digunakan, seperti:

1 . Regularisasi: Ini melibatkan penambahan tempoh penalti pada fungsi kehilangan untuk tidak menggalakkan pemberat besar atau model kompleks.
2. Berhenti awal: Ini melibatkan menghentikan proses latihan sebelum model mengatasi data latihan.
3. Pembesaran data: Ini melibatkan penjanaan data latihan tambahan dengan menggunakan transformasi rawak pada data sedia ada, seperti putaran, penskalaan dan flipping.
4. Kaedah ensemble: Ini melibatkan penggabungan berbilang model untuk meningkatkan generalisasi, seperti pembungkusan dan penggalak.
5. Pengesahan silang: Ini melibatkan pembahagian data kepada beberapa lipatan dan melatih model pada satu lipatan sambil menilainya pada lipatan yang tinggal.