AI

Do AI Chatbots Really Remember Your Personal Data?

Kari Jaaskelainen

— 1 min read
Do AI Chatbots Really Remember Your Personal Data?

Many headlines say AI chatbots "leak" your personal info. This study asks: is that true memorization, or are prompts giving the answer away? The authors find many "leaks" are driven by surface cues in the prompt.

They introduce Cue-Resistant Memorization (CRM): test models under low-cue conditions by controlling prompt-target overlap. Using CRM across 32 languages and multiple setups, they re-examine PII reconstruction, cue-free generation, and membership inference.

  • Reconstruction succeeds mostly when prompts include direct hints (prefix/suffix, near-duplicates).
  • When those cues are removed, reconstruction rates drop sharply.
  • Cue-free generation and membership inference show extremely low true positive rates.

Bottom line: Privacy risks exist, but some past leakage claims likely reflect cue-driven behavior, not genuine memorization. We need cue-controlled tests to measure real risk — and users should still avoid sharing PII in prompts.

Paper: https://arxiv.org/abs/2601.03791

Paper: https://arxiv.org/abs/2601.03791v1

Register: https://www.AiFeta.com

AI Privacy LLM PII Security NLP Research DataProtection

Read more

Pieni kielimalli oppi kysymään taulukoilta ihmisen puolesta

Pieni kielimalli oppi kysymään taulukoilta ihmisen puolesta

Moni on tuijottanut Exceliä ja toivonut voivansa vain kysyä: missä kaupunginosissa koti on kävelymatkan päässä terveysasemasta ja ruokakaupasta? Ihmismielelle yksinkertainen pyyntö muuttuu helposti tuntien suodatukseksi ja kaavanviilaukseksi. Tietokone kyllä tietää vastauksen – jos vain osaisimme puhua sen kieltä. Viime vuosina apua on pyydetty juttelevalta tekoälyltä. Se osaa etsiä ja tiivistää tekstejä,

By Kari Jaaskelainen
Tekoäly vastaa fiksummin, kun sille annetaan oikea tieto oikealla tavalla

Tekoäly vastaa fiksummin, kun sille annetaan oikea tieto oikealla tavalla

Katsaus kokoaa, miten kielimalleja voi vahvistaa antamalla niille jäsenneltyä lisätietoa vastaushetkellä – yksinkertaisista vihjeistä aina syy–seurausketjuiksi järjestettyyn taustaan. Kuvittele, että pyydät tekoälyä selittämään, mitä uusi lakimuutos tarkoittaa pienyrittäjälle. Yleismallinen kielimalli osaa puhua aiheesta sujuvasti, mutta jos laki on muuttunut äskettäin, vastauksessa voi olla vanhaa tietoa tai epävarmoja arvailuja. Sama kokemus

By Kari Jaaskelainen
Tekoäly voi olla sekä nopea että säästeliäs – jos se oppii milloin ajatella ääneen

Tekoäly voi olla sekä nopea että säästeliäs – jos se oppii milloin ajatella ääneen

Kuvittele chat-ikkuna, jossa vastaus alkaa rönsyillä: ensin pari perustelua, sitten varmistus, lopulta vielä varmistuksen varmistus. Käyttäjä odottaa, laskutus juoksee. Tekoälymallit hinnoitellaan usein “tokeneina” – sananpaloina – joten jokainen turha kiemura maksaa sekä aikaa että rahaa. Vuosia alalla vallitsi hiljainen oletus: mitä enemmän mallilla on laskentatehoa ja mitä pidemmin se ”miettii”, sitä parempaa

By Kari Jaaskelainen