Tekoälyn vinouma
Tunnetaan myös: AI bias
Mikä on Tekoälyn vinouma?
Järjestelmällinen vinouma tekoälyjärjestelmän tuotoksissa, joka johtaa epäreiluihin tuloksiin ja periytyy yleensä koulutusdatasta, jossa on inhimillistä tai historiallista vinoumaa. Vanhoilla rekrytoinneilla koulutettu palkkausmalli voi oppia suosimaan samoja profiileja. Vinouma ilmoittaa itsestään harvoin. Sen löytäminen vaatii tarkoituksellista testaamista, ja siksi vinoumatarkistukset ovat osa useimpien organisaatioiden tekoälyn hallintaa.
Miksi tällä on väliä
Vinoumaa ei useinkaan voi yksinkertaisesti poistaa, koska ”reilulla” on useampi kuin yksi määritelmä ja ne vetävät eri suuntiin. Kun mallin virhetaso tasataan kahden ryhmän välillä, jokin toinen reiluuden mitta voi heiketä. Mikään yksittäinen asetus ei täytä kaikkia määritelmiä yhtä aikaa. Tekniseltä korjaukselta näyttävä asia muuttuu arvovalinnaksi, eikä se ole päätös, jota insinöörien pitäisi tehdä yksin. Jonkun, jolla on valtuudet, on valittava avoimesti, mikä reiluuden käsite tässä käytössä ratkaisee, ja oltava valmis puolustamaan valintaa. Jos teeskennellään, että matematiikka ratkaisee kysymyksen, organisaatio päätyy toimeenpanemaan valintaa, jota kukaan ei myöntänyt tehneensä.
Käytännössä
Luottomalli voidaan virittää niin, että se hyväksyy saman osuuden hakijoista kummassakin ryhmässä, tai niin, että sen virheet jakautuvat tasaisesti, mutta ei molempia yhtä aikaa. Se, kumpi lasketaan reiluksi, on linjauspäätös, jolla on todellisia seurauksia todellisille ihmisille, joten se kuuluu vastuulliselle päättäjälle eikä hautautuneena mallin konfiguraatioon. Valinnan ja sen perusteen kirjaaminen tekee päätöksestä puolustettavan myöhemmin.
