Fyysisessä maailmassa toimiva tekoäly kompastelee järjestelmätason ristiriitoihin

“Nosta muki pöydältä.” Kuulostaa viattomalta pyynnöltä, jonka kuka tahansa ihminen hoitaisi huomaamatta. Mutta jos keittiössä häärää palvelurobotti, tehtävä voi mennä kirjaimellisesti rikki: robotti tarttuu reunalla keikkuvaan mukiin, työntää sen vahingossa lautasen kanssa törmäyskurssille ja lasi särkyy lattialle. Sanoissa kaikki oli oikein – toiminta ei.

Tämä arjen esimerkki paljastaa ongelman, joka on nousemassa esiin itseajavissa autoissa, palveluroboteissa ja kielimallien ohjaamissa laitteissa. Pitkään on ajateltu, että turvallisuus ratkeaa korjaamalla kahdenlaisia puutteita: joko kielimallien kaltaisten ohjelmien virheitä tai niin sanottujen kyber-fyysisten järjestelmien, siis tietokoneen ohjaamien laitteiden, perinteisiä vikoja ja hyökkäyksiä. Tuore arXivissa julkaistu katsaus väittää, että nämä linssit erikseen katsottuna eivät selitä monia nykyisten järjestelmien hajoamisia. Pulma piilee tavassa, jolla ajattelu, aistiminen ja liike kietoutuvat toisiinsa fyysisessä maailmassa.

Katsauksen kirjoittajat esittävät neljä ydinajatusta, jotka avaavat, miksi “ruumiillinen” tekoäly – siis ympäristössä liikkuva ja sitä muuttava – on erityisen vaikea suojata:

• Kielellinen oikeellisuus ei takaa fyysistä turvallisuutta. Kielen tasolla järkevä ohje abstrahoi pois geometrian, voimat ja kosketuksen. “Siirrä tuoli pöydän viereen” ei huomioi, että lattia on liukas tai että pöydän jalka ottaa kiinni.
• Sama toiminto voi johtaa täysin eri lopputulokseen eri tilanteissa. Pienikin ero tilassa – renkaiden pito, kuorman jakautuminen, tuulenpuuska – muuttaa seuraamuksia voimakkaasti.
• Pienet virheet voivat ketjuttua ja kasvaa isoksi. Havainto, päätös ja liike muodostavat tiukan silmukan: kameran häiriöstä syntynyt epävarmuus päätöksessä näkyy seuraavassa liikkeessä, joka puolestaan muuttaa havaintoja edelleen huonompaan suuntaan.
• Turvallisuus ei ole kerroksista tai hetkistä koottava palapeli. Paikallisesti turvalliset valinnat voivat ajassa kasautua globaalisti turvattomaksi käytökseksi.

Yksi konkreettinen esimerkki riittää tekemään eron näkyväksi ilman yhtäkään yhtälöä. Itseajavan auton jarrutus: painetaan jarrua “yhtä paljon kuin eilen”. Kuivalle asfaltille se pysähtyy nätisti suojatien eteen. Märällä lehtikelillä sama liike jättää pysähtymismatkan aivan toisenlaiseksi. Kielellinen sääntö – “pysähdy suojatien eteen” – ei itsessään sisällä tietoa renkaiden ja tien välisestä kitkasta, joka ratkaisee lopputuloksen. Turvallinen tekoäly ei siis voi nojata vain sääntöihin tai tekstin tasolla oikealta tuntuvaan päättelyyn.

Katsauksen viesti haastaa alan nykyisiä painotuksia. Kielimalleissa havaittuihin haavoittuvuuksiin, kuten houkutteluun tekemään kiellettyjä asioita, on viime vuosina käytetty paljon energiaa. Samoin on kehitetty menetelmiä, joilla perinteisiä laite- ja verkkohyökkäyksiä torjutaan. Kirjoittajien mukaan kumpikaan kulma yksin ei riitä selittämään, miksi nykyaikaiset, toisistaan riippuvien osien varaan rakennetut järjestelmät pettävät – eivät aina siksi, että joku osa on “rikki”, vaan siksi, että osien yhteispeli ei vastaa fyysisen maailman todellisuutta.

Ajatus on yhtä aikaa arkinen ja epämukava. Arkinen, koska jokainen tietää, että sama teko on eri asia aamuruuhkassa ja tyhjällä kadulla. Epämukava, koska se tarkoittaa, että turvallisuus ei synny paikkaamalla yksittäisiä reikiä, vaan ymmärtämällä, miten riskit virtaavat läpi koko järjestelmän. Jos kameran näkökenttään osuva heijastus tulkitaan väärin, päätöksenteko empien valitsee varovaisen kiertoliikkeen, joka vie robotin ahtaaseen kohtaan, jossa anturit näkevät entistä huonommin – ja kierros alkaa alusta, nyt huonommilla lähtötiedoilla.

Miksi tämä kaikki on tärkeää juuri nyt? Koska fyysisessä maailmassa toimivat tekoälyt ovat siirtymässä laboratorioista koteihin, varastoihin ja teille. Kun virheellä on välitön, mahdollisesti peruuttamaton seuraus – särkyvä lasi, naarmuuntunut auto, loukkaantunut ihminen – ei riitä, että ohjelma “keskimäärin” toimii. Katsaus ehdottaa siirtymistä komponenttien suojauksesta kohti järjestelmätason ajattelua: fyysisen riskin, epävarmuuden ja virheiden kertymisen mallintamista jo suunnittelupöydällä.

On silti syytä pitää pää kylmänä. Kyse on katsausartikkelista: se kokoaa havaintoja ja tekee niistä synteesin, ei esitä yhtä valmista ratkaisua. Se, miten fyysistä riskiä pitäisi mitata tai miten havainto–päätös–liike -silmukan virheiden leviäminen estetään järjestelmällisesti, jää edelleen vaikeaksi. Myös kompromissit ovat todellisia: järjestelmätason suojaukset voivat tehdä laitteista konservatiivisia ja hitaita, mikä ei aina kelpaa käyttäjälle tai liiketoiminnalle. Ja vaikka kielimallien ongelmat tai laitetason haavoittuvuudet eivät yksin selitä kaikkea, niitä ei voi jättää hoitamatta.

Katsaus asettaa kuitenkin selkeän kehikon arvioida, mihin suuntaan alan tulisi liikkua. Se muistuttaa, että turvallisuus syntyy siitä, miten merkitys, mittaus ja materiaali törmäävät toisiinsa arjessa. Sanoilla voi ohjata, mutta fysiikka päättää. Kun itseajavat autot, varastorobotit ja kotiapulaiset yleistyvät, kysymys kuuluu: miten varmistamme, että järkevät sanat muuttuvat järkeviksi liikkeiksi – kaikkina päivinä ja kaikilla teillä?

Paper: https://arxiv.org/abs/2602.17345v1

Register: https://www.AiFeta.com

tekoäly robotit turvallisuus itseajavatajoneuvot tietoturva tutkimus