Tekoäly hallintaan – kuinka liikkeelle hallintamallin rakentamisessa?

Samalla kun tekoälysovellusten määrä kasvaa ja niiden vaikutus ihmisten arkeen voimistuu, on organisaatioiden pyrittävä kehittämään käytäntöjä, joilla tekoälyä ja sen vaikutuksia hallitaan. Käsittelin edellisessä blogikirjoituksessani, mitä on tekoälyn hallinta (AI Governance) ja mitä kaikkea sen piiriin kuuluu. Tässä kirjoituksessa syvennyn siihen, millä eri tasoilla tekoälyä tulee hallita ja miten sen hallintaa omassa organisaatiossa voi lähteä kehittämään.

Kun tekoälyn hallintamallin rakentaminen on ajankohtaista, ota ainakin nämä asiat huomioon.

Tekoälyn hallinnan tasot

Tekoälyä tulee hallita usealla eri tasolla.  Ns. alimmalla tasolla ovat kehittäjien luomat säännöt, joilla hallitaan algoritmien kehitystä ja käyttöönottoa. Saavutettavuus- ja vastuullisuuskysymykset ovat suurelta osin käytännöllisiä ja toteutettu estämään asiattomia muuttamasta algoritmia tai sen opetusdataa. Tässä voidaan hyödyntää data science QA- ja auditointiprosesseja.

Seuraavalla tasolla ovat yritykset, jotka käyttävät tekoälyalgoritmeja. Yritysten toimintaa ohjaa yrityksen hallinto, joka vastaa tekoälyn hallinnan kokonaisuudesta. Toiset yritykset perustavat erityiskomiteoita pohtimaan tekoälyn hallinnan eettisiä, oikeudellisia ja poliittisia näkökohtia.

Ylimpänä tasona on yhteiskunta. Monet yhteiskunnallisesti vaikuttavat instituutiot, kuten akatemiat, teollisuudenalat, kansalaisjärjestöt, jotkin suuret yritykset ja kansalliset hallitukset pyrkivät vaikuttamaan tekoälyn hallinnan määrittelyyn ja sääntelyyn. Yksi tärkeimmistä yhteiskunnallisista vaikuttajista on EU ja aikaisemmin mainittu AI Act, joka toimii oikeudellisena viitekehyksenä rakennettaessa kansalaisten luottamusta EU:n markkinoilla.

Hallinnan tasot ja kerrokset:

• Tekninen kerros: Tekoälyjärjestelmän tekninen suunnittelu ja toteutus, mukaan lukien kyberturvallisuus, tietojen laatu ja algoritmien oikeudenmukaisuus.
• Organisaatiotaso: Organisaatioiden tekoälyjärjestelmien valvonta ja hallinta, mukaan lukien niiden käyttö, kehittäminen ja toteutus. Lisäksi tämä kerros käsittelee myös vastuullisuutta, riskienhallintaa ja avoimuuskysymyksiä.
• Laki- ja sääntelytaso: Tekoälyn käyttöä koskevien käytäntöjen, standardien, lakien ja määräysten luominen, ideointi ja täytäntöönpano. Sisältää myös sosiaaliset ja eettiset näkökohdat, jotka muokkaavat tekoälyn toteutusta,
• Kansainvälinen taso: Edellyttää yhteistyötä ja koordinointia eri maiden ja maailmanlaajuisten organisaatioiden kanssa yhteisten tekoälyteknologiastandardien, -normien ja -määräysten kehittämiseksi. Käsittelee myös geopoliittiseen kilpailuun ja jännitteisiin liittyviä kysymyksiä.
• Sosiaalinen kerros: Tekoälyjärjestelmien sosiaalinen ja kulttuurinen vaikutus ja käyttö, mukaan lukien koulutus, ihmisoikeudet, yksityisyys, tasa-arvo, työllisyyskysymykset ja tekoälytekniikoiden saatavuus.

Tekoälyn hallinta  organisaatiossa – miten eteenpäin?

Kun tekoälyn hallintaa ryhdytään organisaatiossa tarkemmin pohtimaan, on hyvä muodostaa kokonaiskuva siitä, mitä kaikkea tulee huomioida. Alla oleva kuva tarjoaa hyvän viitekehyksen tähän.

Kuva: Infotech.com

Parhaassa tapauksessa organisaatiossa tulisi toimia laaja-alainen ryhmä, joka olisi vastuussa tekoälyn hallinnon säätämisestä ja täytäntöönpanosta. Yksittäinen henkilö tai yksittäinen rooli ei voi olla yksinään vastuussa kokonaisuudesta. Ryhmän rakenteen tulisi myös kattaa mahdollisimman monia eri organisaation osa-alueita ja eri ryhmiä. 

Tekoälyn hallinta ja mittaaminen

Jotta tekoälymalleja voidaan mitata oikein, organisaatiossa on oltava selvä määritelmä tekoälyn hallinnasta ja siitä, kuka organisaatiossa on vastuussa, ja mitkä ovat heidän vastuualueensa. Myös markkinavoimat ja etenkin (pakottava) lainsäädäntö voi vaikuttaa siihen mitä tulee mitata ja miten, mutta ennen niitä ohessa on esimerkkejä siitä, mitä voidaan tai kannattaisi mitata:

Varmista hallinnan vahva perusta – Näin pääset alkuun

Kun kyseessä on laaja ja kompleksinen kokonaisuus, miten organisaatioissa kannattaa lähteä liikkeelle tekoälyn hallintamallin luomiseksi? Alla muutamia keskeisiä kysymyksiä, joiden pohtimisella on hyvä aloittaa:

• Ovatko tekoälymallien tulokset johdonmukaisia, puolueettomia ja toistettavissa?
• Kuka on vastuussa, jos tekoälymallissa on vääristymiä tai virheitä ja kenen tulee ne korjata?
• Mitä standardeja noudatetaan tekoälymalleihin? Mitä seurauksia sillä on ja kenelle?
• Miten suorituskyky on verrannollinen tiedettyihin perustotuuksiin?
• Millaisia tuloksia mallit tuottavat ja tarvitseeko niitä kouluttaa uudelleen?
• Millaista hallintaa ja toimia tarvitaan viallisten tekoälymallien havaitsemiseksi ja ilmoittamiseksi?

Tekoälyn hallinnan ajankohtaisuus perustuu siihen, että tekoälyllä on potentiaalia vaikuttaa merkittävästi yhteiskuntaan lähitulevaisuudessa niin positiivisesti kuin kielteisestikin. Tekoälyn hallinnalla pyritään ratkaisemaan tekoälysovellusten positiivinen vaikutus yhteiskuntaan varmistamalla, että tekoälyjärjestelmiä kehitetään ja sovelletaan vastuullisesti ja eettisesti sekä että ne ovat linjassa ihmisten arvojen ja etujen kanssa. Tekoälyn hallinta on kehys, johon on osallistettava koko tekoälyn tuotantoon liittyvä kokonaisuus ja johon kuuluu useita sidosryhmiä, kuten kehittäjät, käyttäjät, lainsäädäntö ja päätöksentekijät.

Tekoälysovellusten rakentaminen ja käyttö jatkavat kasvua ja integroituvat yhä enemmän yhteiskunnan eri osiin. Niin paljon kuin nämä sovellukset ovat tuoneet, ja tulevat tuomaan, hyötyjä yhteiskunnalle, on pidettävä mielessä myös riskiskenaariot ja rakennettava luotettava ympäristö niin tekoälyn kehitykselle kuin sen käyttämiselle. Tekoälyn hallinta tarjoaa tavan lieventää sen luotettavuuteen ja ymmärrykseen liittyviä riskejä, mikä osaltaan voi tehdä tekoälysovellusten käyttöönotosta ja leviämisestä luonnollisen ja luotettavan osan teknistä kehitystä ja edesauttaa sen vääjäämätöntä laajenemista yhä laajempaan käyttöön yhteiskunnissa.

Lisää aiheeseen liittyvää:

Blogi: Tekoäly vai tehoäly? Näin hyödynnät sitä liiketoimintasi kehittämisessä

Blogi: Tekoälyhypestä generatiivisiin kielimalleihin –miten voit varmistua, että AI-sovellukset toimivat eettisesti kestävällä pohjalla?