Assimilaattori: Neuraaliverkkoarkkitehtuuri luokitus- ja regressiotehtäviä varten

Koneoppimisen yhteydessä assimilaattori on eräänlainen hermoverkkoarkkitehtuuri, joka on suunniteltu suorittamaan sekä luokitus- että regressiotehtäviä. Termin "assimilaattori" keksivät Googlen tutkijat, jotka kehittivät tämän arkkitehtuurin keinona yhdistää perinteisten luokitusmallien vahvuudet (kuten logistinen regressio) syvien hermoverkkojen ominaisuuksiin. Assimilaattorin perusideana on käyttää yksi neuroverkko suorittaa sekä luokitus- että regressiotehtävät sen sijaan, että käytettäisiin erillisiä malleja kullekin tehtävälle. Tämä antaa mallille mahdollisuuden oppia jaetun esityksen tiedoista, joita voidaan käyttää molemmissa ennustetyypeissä, mikä voi johtaa parempaan suorituskykyyn ja tehokkaampaan koulutukseen.

Assimilaattoriarkkitehtuuri koostuu kahdesta pääkomponentista: luokitteluhaarasta ja regressiohaarasta. Luokitteluhaara on tyypillisesti täysin yhdistetty hermoverkko, jossa on softmax-lähtökerros, joka tuottaa todennäköisyysjakauman mahdollisille luokille. Regressiohaara on myös täysin yhdistetty hermoverkko, mutta sillä ei ole tuloskerrosta, joten sen avulla voidaan ennustaa jatkuvia arvoja, kuten tuotteen hintaa.

Koulutuksen aikana assimilaattoria koulutetaan päästä päähän, käyttämällä luokittelu- ja regressiohäviöfunktioiden yhdistelmää. Tämä antaa mallille mahdollisuuden oppia jaetun esityksen tiedoista, jotka ovat hyödyllisiä molemmissa tehtävissä, samalla kun se voi erikoistua kunkin tehtävän erityisvaatimuksiin.

Yksi assimilaattorin etu on, että se voi olla tehokkaampi kuin erillisten mallien kouluttaminen luokittelu ja regressio, koska se vaatii vain yhden parametrijoukon oppimisen. Lisäksi assimilaattorin oppima jaettu esitys voi olla hyödyllinen muihin tehtäviin, kuten klusterointiin tai poikkeamien havaitsemiseen.