Tekoälyn turvallisuus
Tunnetaan myös: AI safety
Mikä on Tekoälyn turvallisuus?
Ala, joka keskittyy estämään tekoälyjärjestelmiä aiheuttamasta haittaa, arkisista virheistä tulevien, selvästi kyvykkäämpien mallien riskeihin asti. Siihen kuuluu järjestelmien luotettavuus, tulkittavuus ja ohjattavuus sekä kova testaus ennen julkaisua. Johtavat tekoälylaboratoriot kohtelevat turvallisuutta omana tutkimusalanaan, eivät lopussa kuitattavana muodollisuutena.
Miksi tällä on väliä
Suuri osa verkon turvallisuuskeskustelusta vie yrityksen huomion pois siitä versiosta, joka sitä oikeasti koskee. Otsikot jahtaavat kaukaisia, yli-inhimillisiä riskejä. Arjen todellisuus on kapeampi ja hyödyllisempi: käyttäytyykö tämä järjestelmä ennakoitavasti, kun se on asiakkaiden edessä, ja mitä se tekee kohdatessaan syötteen, jota kukaan ei suunnitellut. Yksi jännite kannattaa nimetä. Mitä turvallisemmaksi järjestelmän tekee kovemmalla testauksella ja tiukemmilla rajoilla, sitä hitaampi ja varovaisempi siitä yleensä tulee, ja kaupallinen paine työntää toiseen suuntaan. Kun turvallisuutta kohtelee työnä, joka tehdään valmiiksi ennen julkaisua, eikä viime hetken esteenä, tuo paine ei voita oletuksena.
Käytännössä
Tiimi päättää, kuinka kovaa avustajaa testataan ennen julkaisua, tietäen että jokainen ylimääräinen viikko vastustavaa testausta lykkää julkaisua, jonka tuotepäällikkö haluaa nyt. Kestävä ratkaisu on selvittää, miten järjestelmä epäonnistuu, eikä vain varmistaa, että se toimii, ja pitää siitä kiinni silloinkin, kun kalenteri väittää vastaan. Testauksen karsiminen päivämäärän takia on juuri se kohta, josta vältettävissä oleva vahinko hiipii sisään.
