Tiedon ankkurointi
Tunnetaan myös: grounding
Mikä on Tiedon ankkurointi?
Mallin vastausten sitomista todennettuihin lähteisiin, kuten omiin dokumentteihin, tietokantaan tai live-hakuun, jotta se nojaa todelliseen tietoon eikä arvaile. Ankkuroitu järjestelmä osaa osoittaa, mistä vastaus tuli, mikä tekee siitä tarkistettavan. Se on tärkein suoja hallusinaatiota vastaan, ja RAG on yleisin tapa toteuttaa se.
Miksi tällä on väliä
Ankkurointia pidetään usein kytkimenä, joka lopettaa mallin sepittelyn, mutta se toimii vain niin hyvin kuin sen takana olevat lähteet. Jos järjestelmän osoittaa vanhentuneeseen käytäntökansioon tai sen haku poimii väärän dokumentin, se vastaa itsevarmasti huonosta tiedosta, ja tämä voi olla vaikeampi huomata kuin ilmeinen hallusinaatio, koska se näyttää lähteistetyltä. Todellinen arvo on vastuunkannossa. Kun jokainen vastaus kantaa linkin siihen, mistä se tuli, ihminen voi tarkistaa sen, auditoija voi jäljittää sen, ja väärä vastaus voidaan jäljittää korjattavaan lähteeseen eikä mallin mystiseen oikkuun. Juuri tuo jäljitettävyys tekee tekoälystä käyttökelpoisen siellä, missä virheellä on seurauksia.
Käytännössä
Luotonantajan sisäinen avustaja vastaa henkilöstön kysymyksiin luottosäännöistä ja viittaa jokaisen vastauksen takana olevaan täsmälliseen pykälään. Kun valvoja myöhemmin kysyy, miten päätökseen päädyttiin, jälki on jo valmiina. Sama asetelma nostaa esiin hienovaraisemman ongelman: yksi vastaus viittaa käytäntödokumenttiin, joka korvattiin kuukausia sitten, mikä osoittaa, että ylläpitoa kaipasi lähdekirjasto eikä malli. Ankkurointi muutti piilossa olleen dataongelman näkyväksi.
