Kun tekoäly menee vinoon

Tekoälyn vinouma (AI bias) ei välttämättä näy yksittäisinä skandaaleina, vaan hiljaisina poikkeamina. Esimerkiksi väärille ihmisille ohjautuvina tarjouksina, asiakaspalvelun kasvavana turhautumisena tai luottopäätöksissä kumuloituvina epätarkkuuksina. Ja vaikutukset voivat olla isoja.

Liiketoiminnassa tekoälyn vinoumat tarkoittavat kysynnän, maineen ja tehokkuuden hidasta laskua – silloinkin, kun mittaritaulussa kaikki näyttää vihreältä. Siksi vinouma ei ole vain eettinen teema vaan johtamiskysymys. Joko johdat sitä tai se johtaa sinua.

Sääntely kirittää muutosta

EU:n tekoälyasetus astui voimaan 1.8.2024 ja sen vaatimukset jaksottuvat vaiheittain seuraaville vuosille. Yritysjohdon kannalta olennaista on, että tekoälystä organisaatioissa tulee yhtä säädelty ja dokumentoitu osa toimintaa kuin tietoturvasta aikoinaan. Riskienhallinta, ihmisten valvonta ja läpinäkyvyys eivät siis ole enää vain ”nice to have” vaan ehtoja markkinoille pääsylle ja niillä pysymiselle.

Sanktioasteikko on myös selvä. Kiellettyjä käyttötapoja koskevissa rikkomuksissa enimmäisseuraamus on 35 miljoonaa euroa tai 7 % maailmanlaajuisesta liikevaihdosta. Muut velvoitteet seuraavat alemmilla portailla. Eikä tämä ole pelottelua, vaan uusi perusasetelma, johon kannattaa asennoitua pragmaattisesti. Toisaalta sääntely antaa samalla selkänojan, jonka varaan rakentaa kestävää kilpailuetua.

Mistä vinouma syntyy?

Moni kysyy, mistä vinouma syntyy, jos kukaan ei sitä tarkoituksellisesti halua. Useimmiten se on seurausta historiallisista valinnoista ja siitä, mitä emme näe datassa. Jos esimerkiksi uusi asiakassegmentti on ollut vuosia marginaalissa, malli oppii päättämään vanhan enemmistön ehdoilla. Ja kun ympäristö muuttuu (talous, kampanjat, viestintäkanavat), malli voi huomaamatta alkaa kohdella eri ryhmiä eri tavoin. Ei riitä, että poistamme ilmeiset ”kielletyt” muuttujat, sillä samat signaalit voivat palata kiertoteitä. Tästä syystä EU:n tekoälyasetuksessa on poikkeus, joka sallii tietyissä korkean riskin käyttökohteissa arkaluonteisten henkilötietojen rajoitetun käsittelyn, nimenomaan vinouman havaitsemiseen ja korjaamiseen (toki tiukoin tietosuojarajauksin). Tämä kuulostaa vastakarvaiselta, mutta käytännössä se on tapa nähdä todellinen tilanne, eikä ilman luotettavaa mittaria voi johtaa.

Vinouman hallinta vaatii määrittelyä

Organisatorisesti vinouman hallinta näyttää parhaimmillaan hyvin tutulta, se muistuttaa laadun- ja riskienhallintaa. Johdossa määritellään mitä reiluus tarkoittaa käytännön tilanteissa. Ei vain abstraktina ihanteena, vaan osana liiketoiminnan tavoitteita. Kun uutta mallia ollaan ottamassa käyttöön, pysähdytään hetkeksi ja mietitään sen vaikutuksia ihmisiin ja perusoikeuksiin: keitä päätökset koskettavat, kuinka todennäköisesti ja millaisin seurauksin? Tai mikä on tarvittaessa pysäytyspainike, jos mittarit kääntyvät (yllättäen) punaiselle.

Julkisia palveluja tuottaville toimijoille tulee tästä kaikesta tekoälyasetuksen myötä velvoite, mutta kokemus on osoittanut, että yksityinenkin puoli hyötyy saman ajattelun institutionalisoimisesta. Sen jälkeen, kun vaikutusarvio on tehty, keskustelu siirtyy tunteista todenperäisempiin argumentteihin ja riskit tulevat konkreettisesti johdettaviksi.

Kolme keskeistä toimenpidettä

Käytännön arjessa vinouman ehkäisy tarkoittaa kolmea toistuvaa toimenpidettä. Ensimmäisenä on näkyvyys, jolla varmistetaan, että katsomme tuloksia eri asiakasryhmien näkökulmasta myös tuotannossa, emme vain paperilla tai kehitysympäristöissä. Toisena on ihmisten hallitut roolit siellä missä panokset ovat suuret (luotto, terveys, työ). Näin varmistetaan, että päätöksentekijä saa ymmärrettävät perustelut ja voi myös sivuuttaa suositukset. Kolmantena on läpinäkyvyys sidosryhmille, eli sen kertominen rehellisesti, missä tekoälyä käytetään, mihin malli soveltuu, mihin ei ja millä edellytyksillä. Nämä eivät ole vain teknisiä yksityiskohtia, vaan ehtoja, joilla ehkäistään viranomais- ja brändiriskejä ennen kuin ne realisoituvat.

Yritysjohto, toimi näin!

Vinoumasta puhuttaessa viesti johtoryhmälle on lopulta yksinkertainen. Vinoumaa ei voi pyyhkiä pois yhdellä työkalulla eikä se ole vain datatiimin murhe. Se on pitkäjänteinen kilpailukykytekijä, jonka hoitaminen maksaa itsensä takaisin asiakashankinnan kustannuksissa, asiakkuuksien pysyvyydessä ja sääntelymielenrauhassa.

Aseta siis reiluus näkyväksi tavoitteeksi, tee vaikutusarvio ennen kuin painat käyttöönottopainiketta, pidä ihmiset ratissa siellä missä panokset ovat suurimmat ja pyydä tiimiltäsi näkymä siitä, miten malli kohtelee eri ryhmiä. Sääntely antaa tähän nyt selkeän kehyksen – ja sen voimaantulo ja porrastettu soveltaminen ovat tosiasioita. Onneksi myös pelivälineet ovat valmiina: oikea-aikainen dataan katsominen, selkeä vastuunjako ja standardoitu toimintamalli. Kun otat nämä osaksi normaalia johtamista, vinouma lakkaa olemasta hiljainen haittatekijä ja muuttuu hallittavaksi riskiksi, jota vastaan organisaatiollasi on selkeä strategia. 

Vältä nämä ansat:

• Poistetaan vain kaikki sensitiiviset tiedot. Kuulostaa helpolta, mutta jättää sokeaksi vinoumalle. Joissain rajatuissa tapauksissa laki nimenomaan sallii (ja ohjaa) käyttämään suojattuja tietoja vain vinouman mittaamiseen ja korjaamiseen, tiukoin ehdoin ja yhdessä tietosuojan kanssa. 
  
  
• Tehdään kerralla kaikki kuntoon. Vinouma ei ratkea kertaheitolla. Tarvitset jatkuvan seurannan ja vastuuhenkilön, joka voi pysäyttää tuotannon, jos signaalit muuttuvat. Tämä on juuri se hallintamalli, jota EU:n kehikko ja standardit edellyttävät. 
  
  
• Kerrotaan vain onnistumisista. Luottamus syntyy rehellisyydestä. Kun kerrot avoimesti, missä malli toimii ja missä et vielä suosittele sen käyttöä, vältät brändihaitat ja vahvistat asiakassuhdetta.

Lue myös, miten Voimatel lähti vastuulliselle AI-matkalle ja hyödynsi kehitystyössään Digian AI-hallintamallia sekä -tiekarttaa.