Digipalvelujen kehittämiseen liittyy eettisiä sudenkuoppia

Tekoälyn hyödyntämiseen liittyy monia hankalia eettisiä kysymyksiä. Keskustelua vaikeuttaa se, että tekoäly ja sen hyödyntäminen on varsin monimutkainen asia. Konkreettiset hyödyntämistavat vielä paljolti puuttuvat.

Diakonia-ammattikorkeakoulun kehittämä Zekki-digipalvelu hyödyntää kansallista tekoälyverkosto AuroraAI:ta etsiessään palveluita julkisesta Palvelutietovarannosta. Zekkiä on käytetty AuroraAI-ohjelmasta keskusteltaessa konkreettisena esimerkkinä ohjelman aikaansaannoksista.

Zekin kehittämisen lomassa kertyneen kokemuksen ja näkemyksen valossa on hyvä nostaa esiin muutamia seikkoja, kuten vaikkapa se, millä tavoin Zekki AuroraAI-ohjelmassa kehitettyä tekoälyä hyödyntää. Uhkakuvien maalaajat herättävät mielellään ihmisten pelkoja ja haluavat nostaa esiin negatiivisia tulevaisuuden dystopioita, joissa tekoäly tietää ihmisestä enemmän kuin ihminen itse ja nousee johtamaan häntä jonkun tahon haluamaan suuntaan. Tämä uhkakuva voi hyvin olla todellinen, mutta kehittämässämme Zekki-palvelussa se ei ole mahdollinen.

Selvyyttä palveluviidakkoon ja sopivaa tukea ensi yrittämällä

Zekki-palvelun tavoite on yhdistää nuorten tukipalvelut palveluntarjoajasta riippumatta ja suositella valikoimasta nuorelle juuri hänen tilanteeseensa parhaiten sopivia palveluita. Tiedämme, että nuorille on lukuisia tukipalveluita. Nuoret eivät kuitenkaan tiedä niistä tai löydä niitä.

Myös oman tilanteen ja tuen tarpeen hahmottaminen ja hakeutuminen oikeaan palveluun on hankalaa. Tämän vuoksi osa hyvistä tukipalveluista jää alikäytetyiksi samalla, kun toisiin muodostuu jonoa. Jotkut nuoret jäävät kokonaan ilman tukea, kun taas osa hakee apua monesta palvelusta silti saamatta sitä. Syrjäytymisen ehkäisemiseksi olisi tärkeää, että nuoret saisivat tukea mahdollisimman oikea-aikaisesti ja tarpeenmukaisesti.

Zekissä nuori voi hahmottaa omaa tilannettaan 3X10D-elämäntilannemittarin avulla. Se on tutkimukseen perustuva, validi ja reliaabeli kokonaishyvinvoinnin arvio. 3X10D-elämäntilannemittari on tutkitusti luotettava tapa arvioida henkilön tyytyväisyyttä hänen hyvinvointinsa kannalta merkityksellisiin elämänalueisiin.

Zekissä nuorelle tarjotaan kahdenlaisia suosituksia: kaikille avoimia, valtakunnallisia digipalveluita ja kasvokkaisia lähipalveluita. Suositeltavat valtakunnalliset tukipalvelut ja lisätiedon lähteet on kerätty omaksi Diakin ylläpitämäksi tietokannaksi. Nämä tukipalvelut on tarkkaan arvioitu yhteistyössä nuorten ja asiantuntijoiden kanssa käyttäjälähtöisiin tukipalvelukriteereihin nojaten. Niitä kohdennetaan nuorelle hänen vastaustensa perusteella liikennevalomallin mukaan vakioidusti.

Paikallisten pilottikokeilujen jälkeen hyvin nopeasti totesimme, että lähipalveluiden suosittelemiseksi tarvittavan tietokannan rakentaminen ja ylläpitäminen olisi paitsi suuritöistä myös lyhytnäköistä, koska palveluita on jo koottu yhteen kansalliseen Palvelutietovarantoon. AuroraAI-yhteistyö mahdollisti nuorta maantieteellisesti lähellä olevien palveluiden kohdentamisen koko maassa. Zekki tarjoaa nuorelle valtakunnallisten arvioitujen suositusten lisäksi Palvelutietovarannossa kuvattuja palveluita AuroraAI:n kautta. Nämä lähipalvelusuositukset perustuvat AuroraAI:n suositteluparametreihin, eivätkä ole käyneet läpi Zekin tukipalvelukriteerien seulaa.

Älykäs palveluhaku sai hyvän arvion

AuroraAI:n etiikkatyöryhmä on lausunut, että tekoäly on toimiva väline palvelusuosittelujen rakentamiseen. Juuri siihen tarkoitukseen Zekki testaa tekoälyn valjastamista.

Zekki ei pyri luomaan tekoälyn avulla parempaa ymmärrystä tai erittäin personoituja ja ennakoivia palvelusuositteluja, vaan palvelu pohjautuu vastaajan itse antamiin arvioihin. Palvelu ei hyödynnä muille toimijoille jaettua tietoa.

Henkilö voi kuvata tilannettaan luonnollisella kielellä ja luovuttaa tarvittaessa omaa dataansa niin, että hänelle tarjotaan todennäköisesti tilanteessa relevantteja palveluita ja mahdollisia lisätietoja. Etiikkatyöryhmän mukaan tällainen älykäs palveluhaku on yksi AuroraAI-ohjelman positiivisista, lupaavista ja jatkokehittämisen kannalta kiinnostavista tuotoksista.

Arvioijat pitivät älykästä palveluhakua eettisesti melko ongelmattomana. Työryhmä näki toimintatavan tuottavan käytännön hyötyjä niin kansalaisille kuin palvelujen tuottajille sekä tarjoavan konkreettisen motivaation eri organisaatioiden ja sektoreiden yhteistyölle.

Tekoäly on tyhmä, kunnes se oppii asioita.

Zekkiä ja sen kaltaisia mittakaavaltaan rajallisia, kohderyhmän osalta vahvasti kontekstuaalisia ja tavoitteiltaan selkeitä kyselysovelluksia yhdistettynä AuroraAI-verkon palveluehdotuksiin pidettiin vähintään tarkemman arvioinnin ja jatkokokeilujen arvoisena konseptina.

Älykkäässä palvelusuosittelussa kyse on nimenomaan palvelusuositusten yksilöllisemmän kohdentamisen testauksesta tekoälyn avulla. Tekoäly on tyhmä, kunnes se oppii asioita. Oppiakseen se vaatii opettamista, eli tietoa (dataa) ja käyttäjiä. Mitä enemmän käyttäjiä, sitä nopeammin tekoäly oppii. Tekoälyn suositukset parantuvat ja tarkentuvat oppimisen myötä.

Viime syyskuussa aloitettu kokeilu ei Zekin käyttäjämäärillä ole vielä ehtinyt kerryttämään dataa riittävästi, jotta tekoälyn toimivuutta palvelussa voisi arvioida. Kyse on ainakin tällä hetkellä enemmän koneälyn kuin varsinaisen tekoälyn hyödyntämisestä.

Tietojen kerääminen ja käyttö nojaa tietosuojaan

Zekki-palvelu toimii anonyymisti. Se on ollut palvelun lähtökohta ja ohjaava punainen lanka. Zekki kerää dataa palvelun ja yleisesti nuorten palvelujärjestelmän kehittämiseksi sekä tutkimusta varten.

Ikäryhmä-, sukupuoli- ja asuinpaikkatietoa Zekki kerää kohdentaakseen tukipalveluita käyttäjälle. Tämä on ollut nuorten toive. Nuori voi myös käyttää Zekkiä antamatta mitään taustatietoja itsestään.

Zekki ei kuitenkaan missään tapauksessa hyödynnä tekoälyä tai muita järjestelmiä kerätäkseen enemmän tietoa yksittäisistä käyttäjistä. Zekki ei luovuta tietoja Auroran käyttöön muuten kuin Palvelutietovarannon palveluiden hakemiseen. Palvelun tietosuojaa ja tietoturvaa on arvioitu kehittämisen aikana jatkuvasti, ja esimerkiksi useista muista palveluista poiketen, Zekki käyttää omassa palvelussaan Matomo-analytiikkatyökalua, josta kävijätietoja ei valu kolmansille osapuolille.

Tekoälyn hyödyntäminen ei kuitenkaan ole hyvinvointipalveluissa tai muissa digipalveluissa ongelmatonta. On hyvä, että eettisiä näkökohtia nostetaan esiin ja niistä keskustellaan.

Konkreettisten tuotosten, kuten Zekin, avulla tekoälystä voidaan keskustella niin, että muutkin kuin tekoälyä ja teknisiä ratkaisuja ymmärtävät voivat osallistua keskusteluun ja arvioida tekoälyyn perustuvien ratkaisujen eettisyyttä, toimivuutta, tulevaisuuden mahdollisuuksia ja uhkakuvia.

Digitaaliset ja tekoälyä hyödyntävät palvelut voivat tarjota meille yhden ratkaisun hyvinvointiyhteiskunnan ylläpitämiseen ja esimerkiksi nuorten hyvinvoinnin ja mielenterveyden vahvistamiseen. Niitä kehitettäessä tulee tarkastella jatkuvasti ja kriittisesti palveluiden eettisyyttä.

Pysyvä osoite: http://urn.fi/URN:NBN:fi-fe202301021090