Uutta tutkimustietoa tekoälystä ja oppimisesta: Eettiset haasteet koulutuspalveluita tarjoavien yritysten näkökulmasta

Tutkimuksen tavoitteena oli tutkia yritysten kohtaamia eettisiä haasteita, joita yritykset kohtaavat kehittäessään tekoälyavusteisia koulutuspalveluita ja -tuotteita. Lisäksi tutkimuksessa kartoitettiin, minkälaisia ratkaisuja yrityksillä on haasteiden voittamiseksi ja minkälaista tukea he tarvitsisivat. Yritysten kokemat haasteet liittyivät erityisesti neljään osa-alueeseen: sääntelyyn, tekoälyavusteiseen oppimiseen sekä koneoppimiseen ja yhteiskuntaan. Yritysten mukaan tekoälyyn liittyvää lainsäädäntöä ja suosituksia on vaikea ymmärtää sekä soveltaa käytäntöön. Lisähaastetta tuovat myös koulutuksen ja tuen puute sekä eri maiden kirjavat käytänteet tekoälyn etiikkaan liittyen. Yritykset kertoivat kohdanneensa myös tasa-arvoon, turvallisuuteen, luotettavuuteen ja vastuuseen liittyviä vaikeitakin haasteita. Yritysten mukaan tuotteiden turvallisuus ja mahdolliset eettiset ongelmat tulisi tunnistaa jo tuotekehitysvaiheessa. Lisäksi koulutuskäyttöön tarkoitettujen tuotteiden ja palveluiden tulisi olla myös helposti saatavilla, eivätkä ne saisi olla liian hankalia käyttää. Tutkimus osoitti, että yritykset pyrkivät kehittämään eettisesti kestäviä tekoälyn sovelluksia ja työkaluja oppimiseen, mutta tehtävä on erittäin haastava. Yritykset toivoivat tuekseen riittävää, matalan kynnyksen koulutusta, maailmanlaajuista ja moniammatillista yhteistyötä sekä vuoropuhelua yhteiskunnan eri toimijoiden välillä.

Lähde: Kousa, P. & Niemi, H. (2020). AI ethics and learning – educational technology companies’ challenges and solutions. Technology, Pedagogy and Education. (Submitted)