Aitoa tasa-arvoa myös palveluiden käytettävyyteen ja tekoälyn päätöksiin

Digitaalisten järjestelmien kehittämisessä tarvitaan monimuotoisuutta ja asiakkaan äänen kuuntelemista.

Näin naistenpäivän alla on erinomainen hetki miettiä, kuinka tasa-arvo toteutuu digitaalisten palveluiden kehittämisessä. Monimuotoisuus on tullut yrityksiin jäädäkseen, ja nyt keskustelua käydään siitä, kuinka järjestelmistä tehdään niin tasa-arvoisia kuin mahdollista. Palvelujen on vastattava erilaisten käyttäjien tarpeisiin, eivätkä algoritmit saa syrjiä ketään automatisoidussa päätöksenteossa.

Oman työurani aikana on tapahtunut huimia muutoksia sekä teknologioissa että työn tekemisen tavoissa. Kun aloitin IT-alalla viisitoista vuotta sitten, se oli oma, sisäänpäin kääntynyt maailmansa, jossa työntekijät olivat hyvin samanlaisia keskenään. Nykyään ollaan paljon avoimempia erilaisuudelle, eri sukupuolille ja erilaisista taustoista tuleville ihmisille.

Tämä on tärkeä ja tervetullut muutos. Tasa-arvo ja monimuotoisuus lisäävät tutkitusti yritysten kykyä innovoida sekä tuottaa palveluita, jotka vastaavat erilaisten käyttäjien tarpeisiin.

Algoritmien ja tekoälyn tasa-arvoisuus herättää huolta

Pilvipalvelut, tekoäly ja algoritmit ovat yhä merkittävämpi osa yritysten ja ihmisten arkea. Samalla kasvaa huoli siitä, että järjestelmät saattavat syrjiä tai suosia tiettyjä ihmisryhmiä. Palveluita kehittävät ja algoritmeja kirjoittavat ihmiset, joiden omat taustat voivat vaikuttaa siihen kuinka järjestelmä toimii. Järjestelmistä ja palveluista saadaan tasa-arvoisempia silloin, kun niiden tekemiseen ja kehittämiseen osallistuvat yritykset ovat monimuotoisia ja ottavat mahdolliset vinoumat vakavasti.

Algoritmit myös perustuvat dataan, jonka vinous voi vaikuttaa siihen, millaisia päätöksiä järjestelmä tekee. Esimerkkejä algoritmien harjoittamasta syrjinnästä on paljon: Microsoftin Tay-tekoäly omaksui nopeasti Twitterissä rasistisen ja naisvihamielisen puheenparren, ja Googlen mainostenjakeluohjelma näytti naisille huonommin palkattuja työpaikkailmoituksia kuin miehille.

Tekoälyn ja algoritmien vinoumasta on huolestunut myös Euroopan komissio. Se julkisti helmikuussa EU:n uuden data- ja tekoälystrategian, jossa vaaditaan toimenpiteitä automatisoidun päätöksenteon ja datan käsittelyn tasa-arvoisuuden varmistamiseksi. ”Haluan, että digitaalinen Eurooppa on samanlainen kuin Eurooppa parhaimmillaan – avoin, reilu, monimuotoinen, demokraattinen ja luottavainen”, muistutti komission puheenjohtaja Ursula von der Leyen strategian julkaisutilaisuudessa.

Asiakkaan ääni lisää monimuotoisuutta

Vaatimus tasa-arvosta ei koske yksinomaan tekoälyä ja algoritmeja, vaan kaikenlaisia digitaalisia palveluja. Palvelukehitykseen ja käyttäjäkokemuksen suunnitteluun tulisi osallistua henkilöitä samanlaisella diversiteetillä kuin palvelulla on käyttäjiä.

Myös asiakkaalla on merkittävä rooli tasa-arvoisten palvelujen toteuttamisessa. Asiakkaiden äänen kuunteleminen onkin yksi merkittävimmistä muutoksista, joita IT-alalla on oman urani aikana tapahtunut. Meillä Cloudialla asiakkaat ovat tiiviisti mukana digitaalisten palveluidemme kehittämisessä, sillä emme tee järjestelmiä itsellemme vaan asiakkaille.

Kansainvälisen naistenpäivän lähestyessä on ilo todeta, että suomalaisnaisten tasa-arvo työelämässä on maailman neljänneksi paras. Uskon, että meillä on kaikki mahdollisuudet tulla edelläkävijöiksi myös tasa-arvoisten digitaalisten palveluiden kehittämisessä.

 

Outi Tuohimetsä
palvelujohtaja
Cloudia Oy

Aitoa tasa-arvoa myös palveluiden käytettävyyteen ja tekoälyn päätöksiin

 

Lue myös blogikirjoitus Data-analytiikka tunnistaa hankintojen huonot omenat tai tutustu miten tekoäly ja muut uudet teknologiat vaikuttavat hankintatiedolla johtamiseen.

Ota yhteyttä