Assimilator: Arsitektur Jaringan Neural untuk Tugas Klasifikasi dan Regresi

Dalam konteks pembelajaran mesin, asimilator adalah jenis arsitektur jaringan saraf yang dirancang untuk melakukan tugas klasifikasi dan regresi. Istilah "assimilator" diciptakan oleh para peneliti di Google yang mengembangkan arsitektur ini sebagai cara untuk menggabungkan kekuatan model klasifikasi tradisional (seperti regresi logistik) dengan kemampuan jaringan saraf dalam.

Ide utama di balik assimilator adalah menggunakan a jaringan saraf tunggal untuk melakukan tugas klasifikasi dan regresi, daripada menggunakan model terpisah untuk setiap tugas. Hal ini memungkinkan model mempelajari representasi data bersama yang dapat digunakan untuk kedua jenis prediksi, sehingga dapat menghasilkan peningkatan performa dan pelatihan yang lebih efisien.

Arsitektur asimilator terdiri dari dua komponen utama: cabang klasifikasi dan cabang regresi. Cabang klasifikasi biasanya merupakan jaringan saraf yang terhubung sepenuhnya dengan lapisan keluaran softmax yang menghasilkan distribusi probabilitas pada kelas-kelas yang memungkinkan. Cabang regresi juga merupakan jaringan saraf yang sepenuhnya terhubung, namun tidak memiliki lapisan keluaran, sehingga dapat digunakan untuk memprediksi nilai berkelanjutan seperti harga suatu produk.

Selama pelatihan, asimilator dilatih secara end-to-end, menggunakan kombinasi fungsi kerugian klasifikasi dan regresi. Hal ini memungkinkan model mempelajari representasi data bersama yang berguna untuk kedua tugas, sekaligus memungkinkan model untuk mengkhususkan diri pada persyaratan spesifik setiap tugas.

Salah satu keuntungan dari asimilator adalah dapat lebih efisien daripada melatih model terpisah untuk klasifikasi dan regresi, karena hanya memerlukan satu set parameter untuk dipelajari. Selain itu, representasi bersama yang dipelajari oleh asimilator dapat berguna untuk tugas lain, seperti pengelompokan atau deteksi anomali.