Selitettävä tekoäly (XAI)
Tunnetaan myös: explainable AI, XAI
Mikä on Selitettävä tekoäly (XAI)?
Joukko menetelmiä, jotka tekevät tekoälymallin tuotoksesta ihmiselle ymmärrettävän: miksi se päätyi päätökseen ja mitkä tekijät painoivat eniten. Ne muuttavat mustan laatikon joksikin, jota voi kyseenalaistaa ja puolustaa. Tällä on eniten väliä siellä, missä päätöksillä on todellisia seurauksia, kuten luotonannossa, rekrytoinnissa ja terveydenhuollossa, ja missä laki odottaa perustelua.
Miksi tällä on väliä
Selitettävyys on vaikeampaa kuin miltä kuulostaa, kahdestakin syystä. Ensinnäkin selitys voi olla vakuuttava ja silti väärä. Uskottava tarina siitä, miksi malli päätti jotain, ei todista, että juuri se ratkaisi, ja itsevarma mutta harhaanjohtava selitys on huonompi kuin ei selitystä lainkaan. Toiseksi eri ihmiset tarvitsevat eri selitykset. Valvoja haluaa tietää, että päätös oli lainmukainen, hylätty asiakas haluaa tietää, miksi, insinööri haluaa löytää vian, eikä yksi tuotos juuri koskaan palvele kaikkia kolmea. Hintakin on olemassa. Auliimmin itsensä selittävät mallit eivät usein ole tarkimpia, joten selitettävyyden ostaminen voi tarkoittaa suorituskyvystä luopumista, ja sen vaihtokaupan pitäisi olla tietoinen valinta eikä vahinko.
Käytännössä
Sairaala, joka punnitsee mallia potilaiden liputtamiseen varhaisempaan arvioon, kallistuu yksinkertaisempaan ja selitettävämpään vaihtoehtoon aavistuksen tarkemman mustan laatikon sijaan, koska kliinikon on ymmärrettävä, miksi potilas liputettiin, ennen kuin toimii sen varassa, ja pystyttävä perustelemaan se jälkikäteen. Pieni menetys raakatarkkuudessa ostaa jotain, mikä on tässä arvokkaampaa: päätöksiä, joita ihmiset voivat kyseenalaistaa, puolustaa ja korjata, kun ne osoittautuvat vääriksi.
