Opettaja luottaa koneeseen enemmän, kun se kertoo miksi

Kuvittele iltapäivä luokassa, jossa yksi oppilas myöhästelee, toinen ärähtää pienestäkin huomautuksesta ja kolmas vetäytyy ryhmästä. Opettaja yrittää hahmottaa, mistä on kyse ja mitä seuraavaksi tehdä. Jos hän kysyy neuvoa tavalliselta tekoälyltä, vastaus on usein sujuva, jopa hyödyllinen – mutta harvoin selitetty. Miksi juuri tätä suositellaan? Mihin se perustuu?

Arjessa olemme tottuneet siihen, että hyvä neuvo tulee perustelujen kanssa. Lääkäriltä kysymme, miksi juuri tämä lääkitys. Rehtorilta, miksi tämä käytäntö. Tekoälyn kohdalla olemme pitkään tyytyneet siihen, että ”musta laatikko” vastaa – kunhan se vain vastaa oikein. Uusi tutkimus ehdottaa, että suunta pitäisi kääntää: luottamus syntyy vähemmän lupauksista ja enemmän syistä.

Tuoreessa arXivissa julkaistussa työssä tutkijat rakensivat keskustelevaa tekoälyä, joka ei ainoastaan ehdota toimia oppilaan käyttäytymispulman ratkaisemiseksi, vaan myös näyttää, mihin keskustelussa se nojaa. Taustalla on suuri kielimalli, joka on viritetty opetuskontekstiin. Kun opettaja kuvaa tilannetta monessa vuorossa – ”myöhästely on toistuvaa”, ”ryhmätyöt eivät maistu”, ”kotona nukkumaanmeno venyy” – järjestelmä kokoaa suosituksen ja samalla jäljittää, mitkä opettajan omat maininnat painoivat vaakakupissa.

Tutkijat kuvaavat tätä ”jäljitystä” selitettävän tekoälyn keinoksi: järjestelmä käy läpi keskustelua kerros kerrokselta ja nostaa esiin täsmälliset kohdat, jotka vaikuttivat päätökseen. Selitys ei siis synny tyhjästä, vaan se siteeraa todisteeksi opettajan omia sanoja ja kytkee ne ehdotettuun toimenpiteeseen arkikielellä.

Tältä se voi näyttää käytännössä:

”Ehdotan selkeää aamurutiinia ja pienten välitavoitteiden asettamista. Perustelu: mainitsit toistuvan myöhästelyn (‘on ollut myöhässä kolmena aamuna viikossa’) ja ryhmätehtävien välttelyn (‘vetäytyy, jos pitää työskennellä parin kanssa’). Kerroit myös, että nukkumaanmeno kotona venyy. Nämä viittaavat siihen, että päivä käynnistyy vaikeasti ja tehtävien aloitus on hankalaa, jolloin pienet, näkyvät askeleet ja ennakoitava rytmi voivat auttaa.”

Tutkimuksessa järjestelmän kykyä löytää tällaisia tukevia tekstikohtia verrattiin tavanomaisiin menetelmiin. Teknisen arvioinnin mukaan uusi tapa paikantaa keskustelun ”todisteet” suoriutui näitä vertailuja paremmin. Se ei vielä kerro, että suositukset olisivat aina oikeita, mutta se kertoo, että perustelut nojaavat paremmin siihen, mitä keskustelussa todella sanottiin.

Entä luottamus? Pienessä käyttäjäkokeessa 22 opettajaopiskelijaa käytti järjestelmää. Ne, jotka saivat suositusten yhteyteen esitetyt selitykset, raportoivat luottavansa järjestelmään enemmän kuin ne, jotka eivät selityksiä saaneet. Kyse on itsearvioista, mutta suunta on kiinnostava: tekoälyn kyky näyttää työnsä ”jalanjälki” voi olla merkittävä tekijä siinä, otetaanko neuvo todesta.

Merkitys ulottuu luokkahuonetta kauemmas. Käyttäytymispulmien hahmottaminen ei ole vain tekninen ongelma, vaan eettinen ja ammatillinen haaste: päätökset vaikuttavat lapseen, perheeseen ja luokan arkeen. Siksi perustelut ovat olennaisia. Jos tekoäly osaa kertoa, mistä se päätelmänsä teki, opettaja voi punnita sen suhteessa omaan havaintoonsa – ei blindona, vaan harkiten.

On silti syytä olla pidättyväinen. Tutkimus on varhainen ja pieni: 22 osallistujaa ovat opettajaopiskelijoita, eivät kokeneita opettajia kiireisessä koulupäivässä. Luottamus mitattiin kysymällä, miltä käyttäjistä tuntui, ei esimerkiksi sillä, muuttuivatko päätökset tai paransivatko toimet oppilaan arkea. Lisäksi tekninen arviointi keskittyi siihen, kuinka hyvin järjestelmä tunnisti keskustelusta suositusta tukevat kohdat – tärkeä askel, muttei koko tarina. Se, että selitys on hyvin sidottu keskusteluun, ei vielä takaa, että itse neuvo on paras mahdollinen.

On myös avoin kysymys, millainen selitys on opetustyössä hyödyllinen. Riittääkö viittaus opettajan omiin sanoihin, vai pitäisikö tekoälyn näyttää myös, mihin tutkimusnäyttöön jokin toimenpide perustuu? Entä voiko hyvin muotoiltu selitys lisätä luottamusta liikaa – silloinkin, kun neuvo osuu harhaan? Tutkimus ei väitä ratkaisevansa näitä ongelmia, vaan tarjoaa yhden lupaavan rakennuspalikan: läpinäkyvämmän tavan yhdistää keskustelusta noussut tieto suosituksiin.

Jos suunta pitää, periaate on sovellettavissa laajemminkin. Monissa julkisissa palveluissa – terveydenhuollossa, sosiaalityössä, työllisyyspalveluissa – päätösten perustelu on yhtä tärkeää kuin itse päätös. Tekoäly, joka paitsi vastaa myös osoittaa, mihin vastauksensa ankkuroi, voi auttaa ammattilaista pitämään langat käsissään. Mutta ratkaiseva kysymys jää opettajalle – ja meille kaikille: milloin selitys on riittävän hyvä, jotta sen varaan uskaltaa toimia?

Paper: https://arxiv.org/abs/2604.22237v1

Register: https://www.AiFeta.com

koulutus tekoäly opetus selitettävyys luottamus tutkimus