9 Hurdles to Make Reinforcement Learning Work in the Real World

Share
9 Hurdles to Make Reinforcement Learning Work in the Real World

Reinforcement learning (RL) wins in games and simulators—but deploying it on real products is a different story. Gabriel Dulac‑Arnold, Daniel Mankowitz, and Todd Hester outline nine must-solve challenges before RL can safely power real-world systems.

  • Safety & constraints: avoid harmful actions while learning.
  • Sample efficiency: learn from limited, costly data.
  • Non-stationarity: cope when users, markets, or sensors change.
  • Partial observability: act with missing or delayed signals.
  • Long horizons & credit: link actions to delayed outcomes.
  • Latency & reliability: meet real-time and uptime needs.
  • Exploration you can trust: try new things without breaking stuff.
  • Transfer & generalization: work across tasks and drifts.
  • Measurement: clear metrics for offline + online evaluation.

The authors also present a testbed that bakes in these pitfalls, encouraging practical solutions—not just leaderboard scores.

Paper: http://arxiv.org/abs/1904.12901

Paper: http://arxiv.org/abs/1904.12901v1

Register: https://www.AiFeta.com

ReinforcementLearning MachineLearning AI Robotics MLOps Safety Research

Read more

Kielimallit tekevät vaatimuskysymyksiä eri tyyleillä – ja tyyli riippuu käyttötarkoituksesta

Kielimallit tekevät vaatimuskysymyksiä eri tyyleillä – ja tyyli riippuu käyttötarkoituksesta

Uusi vertailu näyttää, että tekoälyn tapa muotoilla järjestelmävaatimuksia luonnollisen kielen kysymyksiksi vaihtelee mallin ja aiheen mukaan. Siksi tärkeintä ei ole valita ”parasta” mallia, vaan tilanteeseen sopiva. Kuvitellaan tuttu kokous: pöydän ääressä yritetään päättää, mitä uuden tietojärjestelmän pitää pystyä tekemään. Syntyy lista kysymyksiä, joihin järjestelmän on osattava vastata. Esimerkiksi: ”Mitkä lääkkeet

By Kari Jaaskelainen
Julkaistu ajattelu voidaan jo purkaa tekoälyksi

Julkaistu ajattelu voidaan jo purkaa tekoälyksi

Kun tutkija jättää työpöytänsä, hänen äänensä ei välttämättä vaikene. Pelkistä julkaisuista voidaan jo rakentaa tekoäly, joka ohjaa väitöskirjaa, arvioi artikkeleita ja väittelee paneelissa – uskottavasti. Useimmat meistä ajattelevat tutkimusartikkeleita kirjastoiksi: hyllyriveiksi ajatuksia, joihin muut voivat palata. Uusi arXivissa julkaistu esityspaperi ehdottaa toisenlaista kuvaa. Julkaisut ovatkin rakennuspiirustuksia, joista voidaan koota tekijänsä ajattelutapa

By Kari Jaaskelainen
Konferenssien suunta ei ole pakko syntyä suljettujen ovien takana

Konferenssien suunta ei ole pakko syntyä suljettujen ovien takana

Moni tietää tunteen seminaarin päätteeksi: ohjelma oli kiinnostava, mutta kuka päätti, mistä puhuttiin ja mistä ei? Usein vastaus on pieni ohjelmakomitea, joka tekee valinnat ennakkoon. Yleisö kuuntelee, harva vaikuttaa. Eräässä tekoälyn yhteiskunnallisia vaikutuksia käsittelevässä kansainvälisessä konferenssissa kokeiltiin toisenlaista tapaa. Osallistujat eivät vain tulleet paikalle – he auttoivat muokkaamaan itse tilaisuuden suuntaa.

By Kari Jaaskelainen