Tekoälyauditointi
Tunnetaan myös: AI audit
Mikä on Tekoälyauditointi?
Jäsennelty tarkastus, joka selvittää, tekeekö tekoälyjärjestelmä sen, mitä väittää, ja täyttääkö se sitä koskevat vaatimukset: tarkkuus, vinouma, tietoturva, dokumentaatio, hallinta. Tarkastuksen voi tehdä sisäisesti, tai sen tekee akkreditoitu kolmas osapuoli, kuten ISO/IEC 42001 -sertifiointi edellyttää. Tavoitteena on näyttö siitä, että järjestelmä toimii tarkoitetusti, ei pelkät vakuuttelut.
Miksi tällä on väliä
Auditointi on täsmälleen niin hyvä kuin jälki, jota se voi seurata, eikä useimpia järjestelmiä ole rakennettu jättämään sellaista. Mallin koulutusdatan asianmukaisuutta ei voi tarkistaa, jos kukaan ei kirjannut, millä datalla se koulutettiin. Päätöksen reiluutta ei voi osoittaa, jos sen taustalla olleita syötteitä ei koskaan lokitettu. Auditoinnin arvo saapuu ennen auditointia. Tieto tulevasta tarkastuksesta pakottaa kuriin, joka tekee tarkastuksen mahdolliseksi: valinnat dokumentoidaan kun ne tehdään, lokit pidetään, muutokset ja tekijät kirjataan. Organisaatiot, jotka kohtelevat auditointia kertaluonteisena loppurutistuksena, huomaavat yleensä, ettei tarvittavaa näyttöä koskaan tallennettu, eikä sitä voi luoda jälkikäteen uudelleen.
Käytännössä
Käytössä olevan mallin katselmointi törmää seinään heti alussa: koulutusdatasta ei ole kirjausta, mallin tekemistä päätöksistä ei lokia eikä merkintää siitä, kuka sitä sääti ja milloin. Työ jumittuu, ei siksi että malli olisi huono, vaan koska sen historiaa ei koskaan kirjoitettu ylös eikä sitä voi jälkikäteen rakentaa. Siksi kirjanpidon on oltava käynnissä ensimmäisestä päivästä lähtien.
