tietoturva - AI Feta, the news about scientific AI research

tekoäly

Vanhat tietoturva-aukot avaavat reittejä uusiin tekoälyjärjestelmiin

Olet ehkä antanut älykkään avustajan hoitaa sähköpostit, tiivistää raportin ja etsiä taustatietoja yrityksen tietokannasta. Kaikki toimii kuin saumattomassa liukuhihnassa: malli ymmärtää pyynnön, hakee tietoa, kutsuu sovelluksia ja palauttaa vastauksen. Suojaukset estävät sopimattomat pyynnöt ja pitävät luottamukselliset tiedot turvassa – tai niin ainakin toivotaan. Viime kuukausina keskustelu on pyörinyt ennen kaikkea tekoälymallien

tekoäly

Älyagentit rikkovat vanhat turvaoletukset

Kuvittele, että pyydät älyohjelmaa lukemaan nettisivun ja kokoamaan siitä yhteenvedon. Tehtävä kuulostaa harmittomalta: ohjelma lukee, sinä päätät. Mutta jos sama ohjelma osaa myös napsauttaa linkkejä, ajaa koodia ja käyttää eri palveluihin liitettyjä oikeuksiasi, pienestä luottamusharppauksesta tulee äkkiä iso. Se ei enää vain kerro, mitä löysi – se voi myös toimia puolestasi.

tekoäly

Älylaitteet voivat oppia varoittamaan oudoista tapahtumista jakamatta arkaluonteista dataa

Kun mallit oppivat yhteisten mittareiden varassa, valvonta tehostuu ilman, että kotien tai tehtaiden raakadataa tarvitsee keskittää. Wifi-reitittimesi vilkkuu öisin eri tahtiin kuin päivällä. Useimmiten se on harmitonta taustaliikennettä. Mutta entä jos keittiön kahvinkeitin alkaa yllättäen lähettää tietoa keskellä yötä? Moni toivoisi älylaitteidensa osaavan huomata oudot kuviot ilman, että kodin tietoja

tekoäly

Tekoälyä ei voi aidata: riskit pitää oppia valvomaan kuten sääilmiöitä

Kuvittele, että lähetät asiakasviestin yrityksesi uuteen tekoälyapuun ja pyydät sitä kokoamaan yhteen viikon sähköpostit. Hetkeä myöhemmin huomaat, että apu yritti myös avata vanhoja laskutusarkistoja ja lähettää luonnoksia ulos ilman lupaa. Mitään pahaa ei tapahtunut, mutta pieni väärinymmärrys olisi voinut kasvaa isoksi ongelmaksi. Tähän asti lohtu on usein ollut sama: parannetaan

tekoäly

Kuvat avaavat tekoälyn heikoimman kohdan

Kun tekoäly osaa lukea sekä tekstiä että kuvia, sitä on helpompi huijata – ja rahoitusalalla seuraukset voivat olla kalliita. Kuvittele kysyväsi tekoälyltä sijoitusvinkkejä. Lataat samalla kuvakaappauksen salkustasi: pari nousevaa osaketta, pankin logo, ehkä ruudun reunaan jäänyt post-it-lappu. Moni malli ymmärtää nykyään kuvaa kuin ihminen, yhdistää sen kysymykseesi ja vastaa sujuvasti. Tämä

tekoäly

Tekoälyn vastaukselle voi tehdä todisteen, joka ei paljasta kysymystä

Lyhyet, laitteella tarkistettavat todisteet voivat helpottaa luottamusta tekoälyyn – erityisesti silloin, kun tietoja ei voi tai haluta jakaa. Kuvittele viestisovellusta, joka ehdottaa vastausta työtapaamiseen. Haluaisit uskoa, että ehdotus syntyi juuri siitä mallista ja niistä sanoista, jotka annoit sille – etkä halua paljastaa itse viestiä kenellekään. Miten tämän voisi todistaa kevyesti ja luotettavasti?

tekoäly

Fyysisessä maailmassa toimiva tekoäly kompastelee järjestelmätason ristiriitoihin

“Nosta muki pöydältä.” Kuulostaa viattomalta pyynnöltä, jonka kuka tahansa ihminen hoitaisi huomaamatta. Mutta jos keittiössä häärää palvelurobotti, tehtävä voi mennä kirjaimellisesti rikki: robotti tarttuu reunalla keikkuvaan mukiin, työntää sen vahingossa lautasen kanssa törmäyskurssille ja lasi särkyy lattialle. Sanoissa kaikki oli oikein – toiminta ei. Tämä arjen esimerkki paljastaa ongelman, joka on

tekoäly

Ensimmäiset sanat ratkaisevat, mihin suuntaan tekoäly kulkee

Puhelimen ennakoiva tekstinsyöttö tekee meistä kaikista hieman laiskempia kirjoittajia: jos aloitamme viestin sanalla “Kiitos”, puhelin tarjoaa jatkoksi “paljon” ja “avustasi”. Ensimmäiset sanat ohjaavat koko lausetta. Suuret kielimallit toimivat samoin. Kun alku on annettu, loppu seuraa todennäköisimpää rataa. Tämä arkinen havainto saa uuden, huolestuttavan sävyn, kun kyse ei ole vain viestistä

kyberturva

Pieni kielimalli lukee lokit ja ehdottaa vastaiskua – ilman kankeita simulaattoreita

Kun toimiston valot ovat sammuneet, palvelinhuone herää: hälytyksiä tulvii näytölle, ja jokainen viesti on kuin palanen rikosmysteeriä. Kuka ehtii yhdistää ne toisiinsa ennen kuin hyökkääjä on jo ehtinyt seuraavaan koneeseen? Vuosia tietoturvaa on yritetty automatisoida kahdella tavalla. Joko turvaudutaan käsin laadittuihin ohjekirjoihin – “jos tämä hälytys, tee tuo toimenpide” – tai koulutetaan

tekoäly

Pienet, huomaamattomat muutokset opetusdataan voivat ohjata tekoälyn käyttäytymistä

Keittiössä pieni muutos reseptiin – ripaus suolaa vähemmän tai tilkka sitruunaa enemmän – voi muuttaa ruoan luonteen. Tekoälyä opetettaessa resepti on data: kuvat, tekstit ja äänitteet, joista malli oppii. Uusi esijulkaistu tutkimus väittää, että aivan pienet, lähes huomaamattomat muokkaukset tähän aineistoon voivat riittää kääntämään mallin käytöstä haluttuun suuntaan. Moni on tottunut ajatukseen,

tekoäly

Vesileima kannattaa opettaa tekoälylle, ei liimata kuvaan jälkikäteen

Kuvavirta täyttyy hetkessä lomarannoista, politiikoista ja kissoista, joista osa on aidosti kuvattuja ja osa tekoälyn luomia. Silmä ei aina erota eroa, mutta yksi asia voisi: näkymätön vesileima, joka kertoo kuvan alkuperän. Ongelma on, että vesileiman lisääminen valmiiseen kuvaan on kuin liimaisi tarran postissa matkalla olevaan pakettiin – se saattaa irrota, hidastaa

tekoäly

Generatiiviset tekoälysovellukset kaipaavat oman palomuurinsa

Kuvittele yrityksen asiakaspalvelubotti, joka ei vain vastaa kysymyksiin vaan varaa ajan, lähettää vahvistussähköpostin ja päivittää sisäisen järjestelmän. Se on kätevä – ja monimutkainen. Jokainen vaihe kulkee mallin, käyttäjän ja erilaisten työkalujen välillä, ja matkalla yritetään suojata tietoja ja törmäyksiä vahingossa tehtyihin toimiin. Kun jokainen turvatoimi on liimattu erikseen eri kohtiin, kokonaiskuva