Kielimallit hinnoittelevat matkailun lisäherkut usein ihmistä kalliimmiksi

Tämä on tärkeää, koska yhä useammin tekoäly tekee puolestamme valintoja, joissa ei ole yhtä oikeaa vastausta – ja se voi kallistaa päätöstä kalliimpaan suuntaan.

Kuvittele varaavasi hotellia. Edullinen huone on kunnollinen, mutta kympin tai kahden lisähinnalla saisi merinäköalan. Välitätkö siitä? Ehkä. Entä jos antaisit tekoälyn päättää puolestasi?

Olemme tottuneet siihen, että tekoälyltä kysytään faktoja. Mutta yhä useammin se pyydetään valitsemaan: tämä vai tuo, halvemmalla vai hienommalla. Silloin kyse ei ole tiedosta vaan arvostuksista – siitä, mistä kannattaa maksaa lisää. Ja juuri tässä kohtaa uunituore arXivissa julkaistu tutkimus tarjoaa kylmän suihkun: suuret kielimallit näyttävät usein arvottavan matkailun lisäherkut ihmistä kalliimmiksi.

Tähän asti moni on suhtautunut kielimalleihin kuin hakukoneisiin, jotka vain kokoavat tietoa. Tutkimus ehdottaa toista: mallit käyttäytyvät kuin päättelijät, joilta voi johtaa esiin ”maksuhalukkuuden” – rahamäärän, jonka arvoisiksi ne kokevat eri ominaisuudet. Samalla se paljastaa särön: mallit tekevät järjestelmällisiä virheitä ominaisuuksien arvottamisessa ja yliarvioivat keskimäärin, paljonko ihmiset haluavat maksaa extraa, etenkin kun tarjolla on kalliita vaihtoehtoja tai mallille annetaan liike-elämän matkustajan rooli.

Miten tällaista voi edes mitata, kun tekoäly ei käytä rahaa? Taloustieteilijöiden tuttu tapa on katsoa toistuvia valintoja. Tutkijat esittivät kielimalleille matkailuavustajan roolissa joukon arkisia valintatilanteita: useita vaihtoehtoja, joissa hinta ja ominaisuudet vaihtelivat hiukan. Sitten he tarkkailivat, mitä vaihtoehtoja mallit suosivat. Jos malli toistuvasti valitsee kalliimman huoneen, kun tarjolla on merinäköala, voidaan päätellä, että näkymä on sen ”mielestä” rahan arvoinen. Jos se vaihtaa takaisin halvempaan heti, kun hintaero kasvaa, arvostus on pienempi.

Nämä päätelmät eivät jääneet pelkiksi mutuiksi. Valinnoista laskettiin järjestelmällisesti, millaisiksi rahamääriksi mallit kääntävät eri ominaisuuksien hyödyn, ja tuloksia verrattiin ihmisten maksuhalukkuuteen, josta on olemassa runsaasti tutkimusta. Kuva on kaksijakoinen. Hyvä uutinen: suurempien kielimallien vastauksista saa kohtuullisen johdonmukaisia arvioita – ne eivät siis arvo tyhjästä. Huono uutinen: arviot poikkeavat ihmisistä asteen verran väärään suuntaan. Kokonaisuutena mallit antavat lisäherkuille – kuten juuri näkymälle – enemmän painoarvoa kuin ihmiset yleensä.

Yksi konkreettinen esimerkki auttaa hahmottamaan asiaa. Ajatellaan, että mallille näytetään kymmenittäin tilanteita, joissa kahden samantasoisen huoneen ainoa ero on merinäköala. Hintaero vaihtelee muutamasta eurosta useisiin kymppeihin. Jos malli valitsee näkymän silloinkin, kun hintaero on jo selvästi tuntuva, siitä voi johtaa, että mallin ”mielestä” näkymä on hyvin arvokas. Kun näitä valintoja verrataan ihmisten tyypillisiin päätöksiin vastaavissa tilanteissa, malli asettuu toistuvasti kalliimmalle puolelle. Sama ilmiö korostui, kun malli laitettiin toimimaan ”bisnesmatkustajan” roolissa tai kun valikoimassa oli yleisesti kalliimpia vaihtoehtoja.

On myös valoa tunnelin päässä. Kun malleille annettiin tietoa käyttäjän aiemmista, edullisempaan kääntyneistä valinnoista – esimerkiksi että tämä on ennen valinnut säästövaihtoehdon – niiden arviot lähestyivät ihmistutkimusten vertailuarvoja. Toisin sanoen: malli voidaan säätää lähemmäs todellista käyttäjää, jos sille ruokitaan riittävän konkreettista tietoa tämän tottumuksista. Tutkimus muistuttaa siten käytännön suunnittelijoita siitä, että mallin valinta, ohjeistus ja tapa kuvata käyttäjä eivät ole sivuseikkoja, vaan ohjaavat suoraan suositusten hintaherkkyyttä.

Silti varoituksen sana on paikallaan. Ensinnäkin tutkimus kertoo mallien ”maksuhalukkuudesta” vain niiden antamien vastausten perusteella – ne eivät koe rahanmenoa eivätkä tunne typerän ostoksen katumusta. Toiseksi vertailu ihmisiin nojaa aikaisempiin taloustieteellisiin tuloksiin, jotka ovat itsessään keskiarvoja ja vaihtelevat tilanteittain. Kolmanneksi mallit eivät poikkea ihmisistä vain yhdessä kohtaa, vaan tekevät järjestelmällisiä virheitä ominaisuuksien tasolla: jotkut seikat ylikorostuvat, toiset jäävät liian vähälle. Ja vaikka suuremmista malleista saadaan ”järkeviä” lukuja, pienempien käytös oli epävakaampaa. Kaikki tämä heikentää ajatusta tekoälystä neutraalina päätöksentekijänä.

Käytännössä havainnot ovat tärkeitä, koska kielimallit kulkevat jo matkailusovelluksissa ja verkkokaupan valintaoppaissa. Jos niiden sisäänrakennettu arvotus suosii järjestään kalliimpaa, käyttäjä voi päätyä ylittämään budjettinsa – vieläpä uskossa, että tekoäly auttaa optimoimaan kustannuksia. Tämä ei välttämättä johdu pahantahtoisuudesta tai myynninedistämisestä, vaan yksinkertaisesti siitä, että malli ei ”tunne” käyttäjää tai sen rooli on määritelty liian laveasti. Tutkimus antaa työkalun tämän havaitsemiseen etukäteen: mallin valinnoista voidaan mitata, mille tasolle sen suositusten hintaherkkyys asettuu ja miten se muuttuu, kun roolia tai käyttäjätietoja muokataan.

Mitä tästä pitäisi päätellä? Ainakaan sitä, että tekoäly pitäisi sulkea pois makuasioista. Päinvastoin: jos mallit kerran paljastavat arvostuksensa, niiden kalibrointi käyttäjän arkeen on mahdollista. Mutta se vaatii kurinalaisuutta: täsmällisiä ohjeita mallille, rehellistä kuvausta käyttäjän budjetista ja mieltymyksistä sekä jatkuvaa seurantaa siitä, kallistuuko suositus kalliiseen ilman hyvää syytä. Samalla on hyvä muistaa, että mallit ovat lopulta peilejä – ne heijastavat aineistoa ja asetuksia, joilla ne on opetettu ja joilla niitä käytetään.

Jää lopuksi isompi kysymys: kun yhä useammat arjen valinnat siirtyvät tekoälylle, kenen arvot ja kukkaro silloin puhuvat – ja kuka vastaa, jos peili alkaa suosia näkymää näkymän hinnalla?

Paper: https://arxiv.org/abs/2602.09802v1

Register: https://www.AiFeta.com

tekoäly kielimallit matkailu kuluttajakäyttäytyminen talous etiikka