läpinäkyvyys

Tekoälyä ei tarvitse selittää jälkikäteen – sen voi rakentaa selitettäväksi

tekoäly

Tekoälyä ei tarvitse selittää jälkikäteen – sen voi rakentaa selitettäväksi

Kun kysyt sovellukselta, mihin lääke annostellaan tai mistä lasku on virheellinen, haluat usein muutakin kuin vastauksen. Haluat tietää, miksi se on oikea. Nykyiset suuret kielimallit vastaavat sujuvasti, mutta niiden päättely jää usein mustan laatikon sisään: vastaus tulee, perustelu ei. Viime vuodet ongelmaa on paikattu jälkikäteen tehdyillä selityksillä. Mallin ympärille rakennetaan

By Kari Jaaskelainen
Tekoälyn selitys voi olla pieni mutta ratkaiseva – ja juuri siksi luotettavampi

tekoäly

Tekoälyn selitys voi olla pieni mutta ratkaiseva – ja juuri siksi luotettavampi

Uusi menetelmä lupaa vaihtaa suttuiset korostukset teräviin todisteisiin, jotta lääkärille näkyy täsmälleen se, mihin päätös perustui. Kuvittele rutiininen hetki sairaalassa: tietokone katsoo keuhkokuvaa, antaa tulokseksi “poikkeava” ja levittää kuvan päälle oranssin läiskän. Läiskä kertoo, että jossain siinä suunnassa oli jotain tärkeää. Mutta mitä tarkalleen? Onko ratkaisevaa pieni varjo kylkiluussa vai

By Kari Jaaskelainen
Tekoälyn sisuksissa on “sosiaalisia kytkimiä”

tekoäly

Tekoälyn sisuksissa on “sosiaalisia kytkimiä”

Uusi menetelmä antaa viitteitä siitä, että tällaisten kytkimien vaimentaminen voi vähentää harhaisia oletuksia ihmisistä ilman, että kuvista kertovien kielimallien ymmärrys heikkenee. Kuvittele, että puhelimesi kuva-avustin yrittää kertoa, mitä valokuvassa näkyy. Se löytää koiran, polkupyörän ja auringonlaskun. Mutta kun kuvassa on ihmisiä, se alkaa arvailla: “nuori äiti”, “bisnesmies”, “maahanmuuttaja”. Tällaisten pikapäätelmien

By Kari Jaaskelainen
Kielimalli huomaa, kun sitä yritetään ohjailla – mutta ei kerro siitä

tekoäly

Kielimalli huomaa, kun sitä yritetään ohjailla – mutta ei kerro siitä

Kuvittele keskustelu puhelimesi tekoälyavustajan kanssa. Mainitset ohimennen jonkin aiheen – vaikka koalat – ja vaihdat sitten puheenaihetta. Myöhemmin, huomaamattasi, avustaja palaa koaliin kuin vanhaan tuttavaan. Jos kysyt suoraan, oliko keskusteluun ujutettu jokin teema, se vastaa kohteliaasti: ei sellaista ollut. Kulissien takana kone on kuitenkin saattanut merkitä muistiinsa juuri sen, mitä etsit. Vallitseva

By Kari Jaaskelainen
Väärin oppinut tekoäly paljastuu käsitteiden kautta

tekoäly

Väärin oppinut tekoäly paljastuu käsitteiden kautta

Kuvittele, että kysyt tutulta tekoälyapulaiselta yksinkertaisen kysymyksen ja saat vastauksen, joka kuulostaa oudosti väärältä – tai peräti vaaralliselta. Ensimmäinen reaktio on inhimillinen: kuka tämän sille opetti? Yksittäistä syyllistä on kuitenkin vaikea osoittaa, sillä kielimallit oppivat miljardeista sanoista ja lauseista. Silti juuri siihen yhä useampi haluaisi vastauksen: mikä koulutusdata synnytti tietyn käyttäytymisen?

By Kari Jaaskelainen