Hienosäätö
Tunnetaan myös: fine-tuning
Mikä on Hienosäätö?
Esikoulutetun mallin jatkokouluttamista omalla datalla niin, että se mukautuu tiettyyn tehtävään, toimialaan tai tyyliin. Se päivittää mallin parametreja, toisin kuin RAG, joka syöttää tietoa kyselyhetkellä. Hienosäätö sopii pysyviin kaavoihin ja yhtenäiseen sävyyn. Muuttuvissa faktoissa haku yleensä voittaa, ja usein nämä kaksi yhdistetään.
Miksi tällä on väliä
Hienosäätö on sitoumus, ja sen rehellinen hinnoittelu muuttaa sitä, milloin se kannattaa. Näkyvä kustannus on koulutusajo, mutta todelliseen laskuun kuuluvat esimerkkien valmistelu ja siivous, sen arviointi, onko tulos oikeasti parempi, ja koko harjoituksen uusiminen, kun pohjamalli vaihtuu uudempaan, mitä tapahtuu usein. Kulu maksaa itsensä takaisin kapeassa, vakaassa työssä: kiinteä vastausmuoto, yhtenäinen talon tyyli, tietty luokittelu, jonka mallin on osuttava oikein joka kerta. Muuttuvassa tiedossa se maksaa itsensä takaisin harvoin, koska tuoreen tiedon syöttäminen kyselyhetkellä on halvempaa ja pysyy ajan tasalla. Epäintuitiivinen voitto on koko. Yhteen tehtävään viritetty pieni malli voi voittaa paljon suuremman yleismallin siinä tehtävässä ja maksaa ajossa selvästi vähemmän, millä on valtava merkitys, kun se vastaa miljoonia kertoja päivässä.
Käytännössä
Jokaisen vastauksen on tultava tiukassa muodossa, jonka jatkojärjestelmät osaavat jäsentää. Sen sijaan, että isolle yleismallille kirjoitettaisiin kehote ja muoto tarkistettaisiin joka kerta, pieni malli hienosäädetään tuottamaan muoto suoraan, jolloin se toimii käsiteltävillä volyymeilla nopeammin ja halvemmalla. Vastapainona on ylläpito. Kun pohjamalli saa ison päivityksen, viritys on arvioitava ja usein tehtävä uudelleen, joten säästö kirjataan tuota toistuvaa kulua vasten.
