Pieni kielimalli (SLM)
Tunnetaan myös: small language model, SLM
Mikä on Pieni kielimalli (SLM)?
Kielimalli, joka on tarpeeksi pieni pyöriäkseen edullisesti, joskus omalla raudalla tai jopa puhelimessa. Se vaihtaa laajan yleistiedon matalampiin kustannuksiin, nopeuteen ja helpompaan hallintaan ja tekee kapeat, hyvin määritellyt työt hyvin. Nyrkkisääntönä pieneksi kutsutaan mallia, jossa on alle noin 30 miljardia parametria.
Miksi tällä on väliä
Kaikki työt eivät tarvitse suurinta ja kalleinta mallia. Pieni kielimalli on tarpeeksi kompakti pyöriäkseen edullisesti, joskus omilla palvelimilla tai jopa puhelimessa, ja kapeassa, hyvin määritellyssä tehtävässä se voi yltää suuren mallin tasolle murto-osalla kustannuksista. Yritykselle tämä muuttaa laskelman siitä, mitä tekoälyn vieminen tuotteeseen maksaa. Valtavan mallin ajaminen jokaisella pyynnöllä käy nopeasti kalliiksi; yhteen työhön viritetty pieni malli pitää yksikkökustannuksen matalana, ja se voi pyöriä omalla raudalla, jolloin arkaluonteinen data pysyy talossa. Vaihtokauppa on leveys. SLM tekee sen yhden asiansa hyvin, mutta siltä puuttuu suuren mallin yleistieto.
Käytännössä
Valmistaja ajaa pientä mallia tehtaan lattialla lukemassa sensorilokeja ja liputtamassa vikoja niin, ettei data poistu tehtaalta. Ohjelmistotiimi käyttää pientä mallia yhteen luokitteluvaiheeseen isomman putken sisällä, jossa yleismalli olisi ylimitoitettu. Nyrkkisäännöksi on vakiintunut, että alle noin 30 miljardin parametrin malleja kutsutaan pieniksi. Ratkaisevaa on sopivuus tehtävään, ei koko sinänsä.
