Riihimäki hyödyntää tekoälyä Kuntakati-palvelussaan. Tutkijoiden mukaan pohdinta tekoälyn hyödyntämisestä on pienemmissä kunnissa vielä lapsenkengissä. Kuva: Lauri Rotko

Tekoälyn hyödyntämisellä on suoria ja epäsuoria vaikutuksia kansalaisten kohteluun, oikeuksiin ja mahdollisuuksiin. Siksi esimerkiksi Euroopan komission mukaan inhimillisten arvojen, kuten kunnioituksen ja oikeudenmukaisuuden, tulisi olla keskeisessä asemassa tekoälyjärjestelmien kehittämisessä, käyttöönotossa, käytössä ja valvonnassa.

Ihmiskeskeisen johtamisen avulla edistetään luottamusta yhteiskunnan prosesseihin ja rakenteisiin, näitä tukeviin tekoälyteknologioihin sekä tekoälyn kehittäjiin ja kehittäjäorganisaatioihin. Luottamuksen luominen edellyttää sosiaalisia ja teknisiä rakenteita, jotka takaavat avoimuuden, eri näkökulmien huomioon ottamisen, toiminnan ennustettavuuden ja korjattavuuden. Tekoälyyn kohdistuvaa luottamusta voidaan edistää myös kuntien itsesääntelyn avulla. Tämä on mahdollista esimerkiksi ottamalla käyttöön menettelytapoja, joiden avulla varmistetaan tekoälyjärjestelmien kehittämiseen, käyttämiseen ja niiden tuloksiin liittyvä vastuunkanto.

Sisäiset ja ulkoiset auditoinnit ja arvioinnit vastuullisuuden tukena

Euroopan komission mukaan tekoälyn käyttöön liittyvää vastuuvelvollisuutta voidaan edistää usean eri tekijän, kuten teollisuusstandardien kehittämisen, sertifikaattien, auditointimenetelmien ja vaikutusten arvioinnin avulla. Organisaation sisäisten ja ulkoisten tarkastajien avulla voidaan arvioida algoritmeja, tietoja ja suunnitteluprosesseja. Tekoälyjärjestelmän kielteiset vaikutukset voidaan tunnistaa ja niistä voidaan ilmoittaa. Ilmoittamisen tulisi olla turvallista ja siihen tulisi reagoida. Lisäksi tulisi huolehtia, että käytössä on helppokäyttöisiä mekanismeja asianmukaista muutoksenhakua varten.

Erilaiset tekniset menetelmät voivat edistää vastuuvelvollisuuden toteutumista. Näitä ovat esimerkiksi järjestelmiin sisäänrakennettu yksityisyydensuoja ja turvallisuus. Järjestelmän toiminnan testaus tekoälyjärjestelmän opettamisen ja käyttöönoton aikana ennen todellista käyttötilannetta edesauttavat vastuunkantoa. Asiaa osaltaan varmistavat myös kirjalliset käytännesäännöt. Innovaatioiden kehittämisen mahdollistamiseksi voidaan hyödyntää niin sanottuja ”hiekkalaatikkoja” eli innovaatioalustoja, joissa on mahdollista kehittää ja kokeilla innovaatioiden toimintaa lainsäädännöstä vapautettujen tai muutettujen tilojen avulla.

Mainos



Myös tekoälyjärjestelmien suunnittelun ja suunnitteluosaamisen kehittäminen on oleellista. Vastuullisen ihmis- ja palvelukeskeisen suunnittelun näkökulmasta käyttäjien osallistuminen kehitystyöhön on tärkeää. Organisaatio voi järjestää sidosryhmäpaneeleja toimintatapojen arvioimiseksi, sekä osallistaa sukupuolen, kulttuuritaustan tai osaamisen suhteen monimuotoisia ryhmiä keskusteluun.

Tekoälyn haltuunotossa eroja – erityisesti kunnat lapsenkengissä

Strategisen tutkimusneuvoston rahoittama ETAIROS (Ethical AI for the Governance of the Society) -hanke toteutti yhdessä Valtiovarainministeriön kanssa keväällä 2021 julkisen sektorin tietohallinnosta vastaaville henkilöille kyselyn, jossa selvitettiin tekoälyn hyödyntämiseen liittyviä näkökulmia.

Kysely antaa hyvän tilannekuvan tekoälykeskustelusta kunnissa ja valtionhallinnossa, sekä kertoo, millaisiin kysymyksiin tekoälyn avulla etsitään ratkaisuja. Tulokset ovat kiinnostavia niin julkisen hallinnon kuin yritysten näkökulmasta. Valtionhallinnon ja suurten kaupunkien välillä ei vastauksissa ollut nähtävissä suuria eroja. Näissä kehityksessä ollaan hieman kuntia edellä ja erityisesti valtionhallinnossa johtotason valmius johtaa muutosta arvioitiin paremmaksi kuin kunnissa ja kaupungeissa.

Pohdinta tekoälyn hyödyntämisestä on pienemmissä kunnissa vielä lapsenkengissä. Tekoäly koetaan aihepiirinä vaikeaksi, eikä sitä välttämättä mielletä ajankohtaiseksi. Etenkin kunnissa tekoälyä hyödynnetään hyvin vähän, minkä vuoksi vastaajien on vaikea muodostaa kokonaiskuvaa tekoälyn kehittämisestä ja tekoälysovelluksille annettavasta vastuusta ja päätösvallasta.

Hyödyntämiseen kaivataan koulutusta ja lisäresursseja

Eniten tekoälyn käyttöönottoa hidastaviksi tekijöiksi koetaan yhtäältä sääntelyn ja toisaalta ymmärryksen, osaamisen ja koulutuksen puute sekä datan puutteellinen laatu. Myös vähäiset resurssit kunnissa sekä tekoälykeskustelun nostamat eettiset huolenaiheet tunnistettiin hidastavan käyttöönottoa. Koulutusta tekoälyjärjestelmien hyödyntämiseen ei yleisesti ole järjestetty, ja osaamistarpeen ja resurssien suuntaamisen välillä koetaan olevan ristiriitaa. Edelläkävijäorganisaatioiksi mielletään ne harvat, jotka ovat panostaneet koulutukseen.

Hitaasta haltuunotosta huolimatta julkishallinnossa on vastaajien mukaan melko riittävät valmiudet tekoälyn käytön suunnitteluun ja hyödyntämiseen. Sen sijaan resurssit sovellusten toteuttamiseen ovat niukat. Laajasta digitalisaatiokehityksestä huolimatta vain puolet vastaajista kokee, että johdon digitaaliset valmiudet tekoälyn hyödyntämisen suunnitteluun ovat riittävät. Johtamisvalmiudet ovat paremmalla tolalla valtionhallinnossa, missä tekoälyä on jo hyödynnetty ja valmiudet johdon tasolla ovat olemassa. Operatiivisesti valmiudet koetaan riittäviksi, mutta resurssit kehitystyöhön riittämättömiksi. Pienet sote- ja koulutuskuntayhtymät katsovat, että heiltä puuttuu visio ja tahtotila digivalmiuksien kehittämiseen samassa mittakaavassa kuin isoilla kaupungeilla tai valtionhallinnossa se on mahdollista.

Tekoäly rutiinitehtävien avuksi

Julkisessa puheessa tekoälyn avulla pyritään luomaan paitsi vaurautta ja kilpailukykyä, myös oikeudenmukaista ja kestävää yhteiskuntaa, sekä taloudellista, poliittista ja sosiaalista tasa-arvoa.

Käytännössä tämä voisi tarkoittaa halvempia ja parempia julkisia palveluja esimerkiksi terveydenhuollon, liikenteen, energian ja jätehuollon alueilla.

Kyselyn mukaan tekoälyä suunnitellaan käytettäväksi erityisesti yleishallinnossa, asiakaspalvelussa, taloushallinnossa ja turvallisuutta edistävissä palveluissa. Tekoälystä toivotaan työkalua julkishallinnon asioinnin helpottamiseksi ja asiointikokemuksen parantamiseksi, mutta myös välineeksi organisaation sisälle työn tehokkuuden ja työntekijöiden luovan asiantuntijatyön edistämiseksi. Tekoälyn odotetaan helpottavan nimenomaan rutiini- ja tukitoimintoja, eikä itsenäisen ”supertekoälyn” toteutumista nähdä ajankohtaiseksi, saati vielä mahdolliseksi.

Eettiset kysymykset korostuvat – keskiössä yksityisyyden suoja ja datan hallinta

Tekoälyn hyödyntämiseen liittyvät eettiset kysymykset nähdään julkishallinnossa tärkeinä. Vastaajat nostivat tärkeimmiksi arvoiksi yhdenvertaisuuden, oikeudenmukaisuuden ja syrjimättömyyden, sekä ihmisarvon ja kansalaisten oikeuksien kunnioittamisen. Vastauksissa korostuu myös kansalaisen oikeus yksityiskohtaiseen ja kattavaan tietoon siitä, millä perusteella tekoäly on päätynyt tiettyyn ratkaisuun ja mitä tietovarantoja se on hyödyntänyt henkilöä koskevissa kysymyksissä. Päätöksentekoprosessin tulisikin olla mahdollisimman selkeä kansalaisten kannalta.

Tekoälysovellusten ihmiskeskeisyys nähdään organisaatioissa suhteellisen kapeasti yksityisyyden suojan ja datan hallinnan kysymyksinä. Vastauksista välittyy huoli algoritmikehityksen mahdollistamasta datan vinoutumisesta sekä dataan liittyvien tulkintojen oikeellisuudesta. Suurimpina riskeinä pidetään tietoturvaa ja yksityisyyttä koskevia tekijöitä ja kontrollin lisääntymiseen, syrjintään, tasa-arvoon sekä kansalaisten vaikutusmahdollisuuksien kapenemiseen liittyviä riskejä. Luonnollisesti myös toiminnan laillisuus sekä tekninen luotettavuus ja turvallisuus koetaan tärkeiksi.

Organisaatioiden vastauksissa painottuu myös vaatimus vastuuvelvollisuuden selkeydestä. Sen toteutumisen keinoiksi nähdään teknisten menetelmien varmistaminen ja järjestelmän toiminnan testaus, sekä kansalaisten muutoksenhaun mahdollisuus.

Tekoälyyn täytyy voida luottaa

On tärkeää, että niin julkishallinnon työntekijät kuin kansalaiset voivat luottaa tekoälyjärjestelmiin. Luottamus syntyy panostamalla tekoälyn avulla tehtävien päätösten läpinäkyvyyteen ja selitettävyyteen. Luottamusta parantavat vastuuvelvollisuuden toteutuminen sekä tekoälyn tulevaisuuden kehitykseen ja vaikutuksiin liittyvien kysymysten selvittäminen oleellisten ihmisryhmien ja organisaatioiden kannalta. Viime kädessä luottamusta testaa kuitenkin kansalaisten kokemus tekoälyn todellisesta hyödystä omassa elämässään.

Kyselyn vastaajat kokevat kansalaisten tietoisuuden omista oikeuksistaan ja vastuistaan merkittäväksi. Julkishallinto voi edistää sidosryhmäyhteistyötä toimimalla vuorovaikutuksessa tekoälyn käyttäjien kanssa sekä huomioimalla käyttäjäkokemuksia. Tutkimuslaitokset, teknologiatarjoajat ja oma organisaatio koetaan merkittävimpinä yhteistyökumppaneina, mutta kansalaisia on keskusteluun osallistettu toistaiseksi hyvin vähän. Keskustelu tekoälyn käytön tavoitteista, toivottavista ja ei-toivottavista vaikutuksista sekä käytön riskeistä tulisi viedä myös käyttäjärajapintaan.

Apotista opittua

Keravan Apotti-hankkeen hankepäällikkönä toiminutta Hannu Vilpposta ei kyselyn tulos yllätä; tekoälyn käyttö on kunnissa vähäistä, ja hyödyntämismahdollisuuksia on osattu luoda vasta vähän. Terveydenhuollossa monilla lääkäreillä on hyvä käsitys tekoälyn tulevaisuuden mahdollisuuksista esimerkiksi perusdiagnosoinnin automatisoinnin osalta, mutta eettiset kysymykset ymmärretään paremmin vasta tekoälyjärjestelmien käyttöönoton myötä – vaikka ne pyritäänkin huomioimaan jo järjestelmiä suunniteltaessa.

Tieto- ja toiminnanohjausjärjestelmä Apotti yhdistää sosiaali- ja terveydenhuollon samaan järjestelmään, jota tällä hetkellä käyttää 45 000 sote-ammattilaista päivittäin. Hannu Vilpponen peilaa kyselyvastauksia Apotin kehitystyöhön, jota on tehty tietosuoja edellä. Erilaisilla käyttäjillä, esimerkiksi lääkäreillä ja hoitajilla, on erilainen näkymä Apotissa riippuen heidän työroolistaan, ja monilla toimialoilla, kuten lastensuojelussa, on tiukasti laissa säädellyt käyttöoikeudet. Potilaan terveystietojen kirjaamismenetelmät yhdentyvät Apotin myötä, mikä mahdollistaa jatkossa monipuolisen raportoinnin ja tiedolla ohjaamisen kehittämisen. Tietojen siirto vanhoista järjestelmistä Apottiin on ollut iso urakka, jossa osa kunnista on hyödyntänyt ohjelmistorobotiikkaa, mutta osassa kunnista asukasmäärä on ollut niin pieni, että tiedot on poimittu manuaalisesti.

Etiikka, politiikka ja juridiikka liittyvät oleellisina kysymyksinä tekoälyjärjestelmien hankintaan. Järjestelmien käyttöympäristöjen ja -kohteiden monimutkaisuus ja yhteen kytkeytyminen on huomioitava. Isojen IT-hankintojen osalta Vilpponen peräänkuuluttaa myös ketteryyttä ja joustoa, jotta ei lukittauduta yhteen toimittajaan.

Kun järjestelmää hankitaan, tulee henkilöstöllä olla riittävä osaaminen sen hankkimiseen ja käyttöön. Apotissa panostetaan käyttäjäkoulutukseen. Eettisten kysymysten tarkastelu jää kuitenkin hankintavaiheessa usein liian yleiselle tasolle. Eettiset periaatteet tulisi olla selkeästi muotoiltu ja sitoa kyseessä olevan toiminnan luonteeseen. Mitä abstraktimmaksi ne käyvät, sitä hankalammaksi kilpailutusehtojen rakentaminen tulee. On tärkeää pohtia, kenen näkökulmasta eettisiä kysymyksiä tarkastellaan. ETAIROS-hankkeen kyselytulokset tarjoavat hyvän lähtökohdan tähän keskusteluun.

Pohdittavaksi:

· Miten aikaisempien kehitysprosessien kokemusta voidaan siirtää julkishallinnossa uusien tekoälyprojektien kehityksessä hyödynnettäväksi?

· Miten käyttäjät ja muut keskeiset sidosryhmät voidaan osallistaa tekoälysovelluksen kehitykseen?

· Miten tekoälyn käyttöön liittyvä luottamus ja vastuullisuus varmistetaan?

· Miten taataan eri käyttäjäryhmien riittävä osaaminen?

· Miten taataan eettisten kysymysten riittävä tarkastelu ja sisällyttäminen toimintaan?

· Missä määrin maakuntahallinto tai AVI voisi olla edistämässä tekoälykehityksen ja koulutuksen organisointia alueellaan pienten kuntien tukena?

Kirjoittajat:

Jaana Leikas, johtava tutkija, VTT

Mika Nieminen, johtava tutkija, VTT

Emmi Koskimies, tutkija, Tampereen yliopisto

Jari Stenvall, professori, Tampereen yliopisto

Jatka keskustelua #kuntalehti @kuntalehti Twitterissä tai Facebookissa.

Keskustele

Sähköpostiosoitettasi ei julkaista. Pakolliset kentät on merkitty *

*