TempoBench: A verifiable benchmark for how AI reasons

TempoBench: A verifiable benchmark for how AI reasons

How do we know if an AI is truly reasoning—and where it fails? TempoBench offers a clear answer.

TempoBench is a new, formally grounded and verifiable benchmark that lets researchers systematically probe multi-step reasoning, with difficulty you can dial up or down.

  • Why it matters: Ad-hoc tests capture real decision chains but lack guarantees; proof systems are verifiable but don’t reflect agent-like tasks. TempoBench combines realism with rigor.
  • How it works: Temporal Trace Evaluation (TTE) checks whether models can follow and simulate a step-by-step process. Temporal Causal Evaluation (TCE) tests cause-and-effect reasoning in multi-step systems.
  • What they found: Today’s leading LLMs score 65.6% on TCE-normal but only 7.5% on TCE-hard—showing they 'get' the task yet struggle as system complexity rises.
  • Open tools: Code and tasks are available: https://github.com/nik-hz/tempobench

For anyone building reliable AI agents, TempoBench is a practical lens to see not just what models answer—but how they think over time.

Paper: http://arxiv.org/abs/2510.27544v1

Register: https://www.AiFeta.com

#AI #LLM #Reasoning #Benchmark #Causality #Eval

Read more

Koneiden käyttäytymistä ei tarvitse enää kirjoittaa kaavoiksi käsin

Koneiden käyttäytymistä ei tarvitse enää kirjoittaa kaavoiksi käsin

Kun hissi lähtee liikkeelle, ilmastointi säätää puhallusta tai robotti asettaa ruuvin paikalleen, taustalla on malli siitä, miten kone käyttäytyy. Niitä on perinteisesti rakennettu niin kuin hyviä reseptejä: asiantuntija kerää kokemusta, mittaa, kirjoittaa yhtälöitä ja virittää pitkään. Se vie aikaa – ja jokainen muutos laitteessa tai ympäristössä tarkoittaa uutta työtä. Viime vuosina

By Kari Jaaskelainen
Oppimalla ohjattu vedenalainen robotti löysi telakan – myös oikeassa vedessä

Oppimalla ohjattu vedenalainen robotti löysi telakan – myös oikeassa vedessä

Kun robotti-imuri hivuttautuu kotona lataustelakkaansa, kukaan ei pidä hetkeä ihmeenä. Veden alla sama temppu on kaikkea muuta kuin arkipäivää – näkyvyys on huono, virtaukset nykivät, eikä satelliittipaikannus auta. Silti juuri tähän suuntaan on otettu askel, joka voi venyttää vedenalaisten robottien toimintamatkaa ja -aikaa. Vuosia on ajateltu, että vedenalaisen telakoitumisen kaltaiset tehtävät

By Kari Jaaskelainen
Oppivat liikennevalot voivat lyhentää jonotusaikaa kymmenesosan

Oppivat liikennevalot voivat lyhentää jonotusaikaa kymmenesosan

Kaikki tietävät hetken, kun seisot punaisissa valoissa keskellä yötä, eikä mihinkään suuntaan näy autoja. Tai aamun, jolloin tavallinen risteys puuroutuu yllättäen, koska osa kuljettajista päättääkin kääntyä eri suuntaan kuin yleensä. Liikennevalot ovat sääntöjen koneita, mutta liikenne elää kuin säätila. Pitkään ratkaisuksi on ehdotettu ”älykkäitä” valoja, jotka oppivat liikenteestä ja säätävät

By Kari Jaaskelainen