VeriTaS: A Living Benchmark for Multimodal Fact-Checking

Share
VeriTaS: A Living Benchmark for Multimodal Fact-Checking

Misinformation is growing fast, but today’s AI fact-checkers are often graded on outdated, static tests that leak into model pretraining—making scores look better than real-world performance.

VeriTaS is a living benchmark for automated fact-checking across text, images, and video. It stays fresh and robust, so evaluations actually mean something.

  • 24,000 real claims from 108 fact-checking orgs, spanning 54 languages
  • Multimodal: textual and audiovisual content
  • Quarterly updates via a 7‑stage pipeline that normalizes claims, fetches original media, and maps expert verdicts to a clear, disentangled scoring scheme with explanations
  • Human evaluations show automated labels closely match expert judgments
  • Open data and code; designed to resist pretraining leakage

For researchers, journalists, and industry: use VeriTaS to test AFC systems against the world as it is—now and tomorrow. More: https://arxiv.org/abs/2601.08611

Paper: https://arxiv.org/abs/2601.08611v1

Register: https://www.AiFeta.com

#AI #FactChecking #Misinformation #Benchmark #Multimodal #NLP #ComputerVision #LLMs #OpenScience

Read more

Kielimallit tekevät vaatimuskysymyksiä eri tyyleillä – ja tyyli riippuu käyttötarkoituksesta

Kielimallit tekevät vaatimuskysymyksiä eri tyyleillä – ja tyyli riippuu käyttötarkoituksesta

Uusi vertailu näyttää, että tekoälyn tapa muotoilla järjestelmävaatimuksia luonnollisen kielen kysymyksiksi vaihtelee mallin ja aiheen mukaan. Siksi tärkeintä ei ole valita ”parasta” mallia, vaan tilanteeseen sopiva. Kuvitellaan tuttu kokous: pöydän ääressä yritetään päättää, mitä uuden tietojärjestelmän pitää pystyä tekemään. Syntyy lista kysymyksiä, joihin järjestelmän on osattava vastata. Esimerkiksi: ”Mitkä lääkkeet

By Kari Jaaskelainen
Julkaistu ajattelu voidaan jo purkaa tekoälyksi

Julkaistu ajattelu voidaan jo purkaa tekoälyksi

Kun tutkija jättää työpöytänsä, hänen äänensä ei välttämättä vaikene. Pelkistä julkaisuista voidaan jo rakentaa tekoäly, joka ohjaa väitöskirjaa, arvioi artikkeleita ja väittelee paneelissa – uskottavasti. Useimmat meistä ajattelevat tutkimusartikkeleita kirjastoiksi: hyllyriveiksi ajatuksia, joihin muut voivat palata. Uusi arXivissa julkaistu esityspaperi ehdottaa toisenlaista kuvaa. Julkaisut ovatkin rakennuspiirustuksia, joista voidaan koota tekijänsä ajattelutapa

By Kari Jaaskelainen
Konferenssien suunta ei ole pakko syntyä suljettujen ovien takana

Konferenssien suunta ei ole pakko syntyä suljettujen ovien takana

Moni tietää tunteen seminaarin päätteeksi: ohjelma oli kiinnostava, mutta kuka päätti, mistä puhuttiin ja mistä ei? Usein vastaus on pieni ohjelmakomitea, joka tekee valinnat ennakkoon. Yleisö kuuntelee, harva vaikuttaa. Eräässä tekoälyn yhteiskunnallisia vaikutuksia käsittelevässä kansainvälisessä konferenssissa kokeiltiin toisenlaista tapaa. Osallistujat eivät vain tulleet paikalle – he auttoivat muokkaamaan itse tilaisuuden suuntaa.

By Kari Jaaskelainen