When Robots Know When to Help: Calibrated Confidence for Safer Assistive Tech

When robots know when to help

Assistive robots shouldn't guess. They need to know what you plan to do, and how sure they are, before stepping in.

Researchers Johannes A. Gaus, Winfried Ilg, and Daniel Haeufle show that raw AI "confidence" can be misleading. Their fix: calibrate the model's probabilities so that, for example, 80% confidence really means it's right about 8 out of 10 times.

Calibration cut miscalibration by about 10x without hurting accuracy.
An easy ACT/HOLD rule uses this calibrated confidence: act when reliability is high, hold back when it's not.
The confidence threshold becomes a tunable safety knob for daily-living assistance.

Bottom line: more predictable, verifiable help from devices like smart prosthetics or mobility aids - support when it's safe, pause when it's not.

Read the paper: https://arxiv.org/abs/2601.04982v1

Paper: https://arxiv.org/abs/2601.04982v1

Register: https://www.AiFeta.com

#AssistiveRobotics #AI #Safety #HumanRobotInteraction #Calibration #Robotics #HealthcareTech

Read more

Kielimallit tekevät vaatimuskysymyksiä eri tyyleillä – ja tyyli riippuu käyttötarkoituksesta

Kielimallit tekevät vaatimuskysymyksiä eri tyyleillä – ja tyyli riippuu käyttötarkoituksesta

Uusi vertailu näyttää, että tekoälyn tapa muotoilla järjestelmävaatimuksia luonnollisen kielen kysymyksiksi vaihtelee mallin ja aiheen mukaan. Siksi tärkeintä ei ole valita ”parasta” mallia, vaan tilanteeseen sopiva. Kuvitellaan tuttu kokous: pöydän ääressä yritetään päättää, mitä uuden tietojärjestelmän pitää pystyä tekemään. Syntyy lista kysymyksiä, joihin järjestelmän on osattava vastata. Esimerkiksi: ”Mitkä lääkkeet

Hyvin tehty muokkaus ei aina ole oikea muutos

Hyvin tehty muokkaus ei aina ole oikea muutos

Olet kuvannut perhejuhlan. Pyydät videota muokkaavaa tekoälyä vaihtamaan harmaan taivaan iltaruskoon. Tulos näyttää häkellyttävän aidolta – kunnes huomaat, että taivas on kyllä hehkuva, mutta myös morsiamen mekon väri on vahingossa muuttunut. Onko muokkaus hyvä vai huono? Videon laatua on totuttu arvioimaan sillä, miltä se näyttää. Tekoälyn tekemissä muokkauksissa pelkkä ulkonäkö ei

Julkaistu ajattelu voidaan jo purkaa tekoälyksi

Julkaistu ajattelu voidaan jo purkaa tekoälyksi

Kun tutkija jättää työpöytänsä, hänen äänensä ei välttämättä vaikene. Pelkistä julkaisuista voidaan jo rakentaa tekoäly, joka ohjaa väitöskirjaa, arvioi artikkeleita ja väittelee paneelissa – uskottavasti. Useimmat meistä ajattelevat tutkimusartikkeleita kirjastoiksi: hyllyriveiksi ajatuksia, joihin muut voivat palata. Uusi arXivissa julkaistu esityspaperi ehdottaa toisenlaista kuvaa. Julkaisut ovatkin rakennuspiirustuksia, joista voidaan koota tekijänsä ajattelutapa

Konferenssien suunta ei ole pakko syntyä suljettujen ovien takana

Konferenssien suunta ei ole pakko syntyä suljettujen ovien takana

Moni tietää tunteen seminaarin päätteeksi: ohjelma oli kiinnostava, mutta kuka päätti, mistä puhuttiin ja mistä ei? Usein vastaus on pieni ohjelmakomitea, joka tekee valinnat ennakkoon. Yleisö kuuntelee, harva vaikuttaa. Eräässä tekoälyn yhteiskunnallisia vaikutuksia käsittelevässä kansainvälisessä konferenssissa kokeiltiin toisenlaista tapaa. Osallistujat eivät vain tulleet paikalle – he auttoivat muokkaamaan itse tilaisuuden suuntaa.