Akzeptierte Paper sind: 

Protecting multimodal large language models against misleading visualizations
Autor*innen: Jonathan Tonglet, Tinne Tuytelaars, Marie-Francine Moens, Iryna Gurevych
Diagramme helfen, Daten verständlich darzustellen, etwa in Nachrichten oder in der Wissen­schafts­kommunikation. Manche Diagramme sind aber bewusst irreführend gestaltet, zum Beispiel durch abgeschnittene oder umgekehrte Achsen. Solche Tricks verleiten Menschen zu falschen Schlussfolgerungen. Die Forschenden untersuchten, ob multimodale KI-Sprachmodelle – also KI-Systeme, die Text und Bilder gemeinsam verstehen – ebenfalls getäuscht werden. Sie testeten 19 solcher Modelle, darunter auch bekannte kommerzielle Systeme. Das Ergebnis: Bei irreführenden Diagrammen sinkt die Genauigkeit der Modelle fast auf das Niveau reinen Ratens. Die Forschenden prüften daraufhin sechs Methoden, mit denen sich diese Schwachstelle beheben lässt. Zwei Methoden erwiesen sich als wirksam: Zum einen lässt man das Modell zunächst eine Datentabelle aus dem Diagramm erstellen und darauf basierend antworten. Zum anderen lässt man das Diagramm anhand der erkannten Daten neu und unverzerrt zeichnen. Beide Methoden verbessern die Genauigkeit um bis zu 19,6 Prozentpunkte. Die Ergebnisse zeigen: Nicht nur Menschen, sondern auch KI-Systeme müssen gezielt vor manipulierten Diagrammen geschützt werden, etwa um die Verbreitung von Desinformation einzudämmen. Das Paper ist im Rahmen des ATHENE Projekts Safeguarding LLMs against Misleading Evidence Attack (SafeLLMs), das im ATHENE Forschungsbereichs Reliable and Verifiable Information through Secure Media (REVISE) angesiedelt ist, entstanden.
Das Forschungspapier ist öffentlich verfügbar unter: https://arxiv.org/pdf/2502.20503

Is this chart lying to me? Automating the detection of misleading visualizations
Autor*innen: Jonathan Tonglet, Jan Zimny, Tinne Tuytelaars, Iryna Gurevych
Manipulierte Diagramme verbreiten häufig Falschinformationen im Internet und in sozialen Medien. Bisher fehlten große, frei zugängliche Datensätze, um KI-Systeme zur Erkennung solcher Diagramme zu trainieren und zu testen. Die Forschenden stellen deshalb zwei neue Datensätze vor. Der erste, Misviz, enthält 2.604 echte Diagramme aus dem Internet, jeweils markiert mit einer von zwölf bekannten Täuschungsarten. Der zweite, Misviz-synth, umfasst 57.665 künstlich erzeugte Diagramme, die auf echten Datentabellen beruhen. Anhand dieser Datensätze verglichen die Forschenden drei Erkennungsansätze: multimodale KI-Sprachmodelle, regelbasierte Prüfprogramme sowie eigens trainierte Bilderkennungsmodelle. Das Ergebnis: Die Aufgabe bleibt für alle Ansätze schwierig. KI-Sprachmodelle erkennen echte Diagramme am besten, während die anderen Methoden bei künstlich erzeugten Diagrammen im Vorteil sind. Die Forschenden veröffentlichen beide Datensätze, der zugehörige Code ist frei zugänglich unter https://github.com/UKPLab/acl2026-misviz. Das unterstützt zukünftige Forschung und kann helfen, Leserinnen und Leser vor manipulierten Diagrammen zu schützen sowie Diagramm-Ersteller auf unbeabsichtigte Fehler hinzuweisen. Das Paper ist ebenfalls im Rahmen des ATHENE Projekts Safeguarding LLMs against Misleading Evidence Attack (SafeLLMs), das im ATHENE Forschungsbereichs Reliable and Verifiable Information through Secure Media (REVISE) angesiedelt ist, entstanden.
Das Forschungspapier ist öffentlich verfügbar unter: https://arxiv.org/pdf/2508.21675

Patches of Nonlinearity: Instruction Vectors in Large Language Models
Autor*innen: Irina Bigoulaeva, Jonas Rohweder, Subhabrata Dutta, Iryna Gurevych
Große KI-Sprachmodelle werden meist durch zusätzliches Training darauf trainiert, Anweisungen zu befolgen. Bisher war aber kaum bekannt, wie diese Modelle solche Anweisungen intern verarbeiten. Die Forschenden untersuchten deshalb, an welcher Stelle im Modell eine Anweisung gespeichert und wie sie weiterverarbeitet wird. Sie fanden heraus: Das Modell bildet direkt nach dem Lesen der Anweisung eine kompakte interne Darstellung, vergleichbar mit einer Art Kurzzusammenfassung. Diese Darstellungen einzelner Aufgaben lassen sich zwar klar voneinander unterscheiden. Ihr Zusammenwirken folgt jedoch überraschend komplexen, nicht-linearen Mustern: Mehrere solcher Darstellungen wirken gemeinsam stärker, als es ihre einzelnen Beiträge vermuten lassen. Das stellt eine gängige Annahme der KI-Forschung infrage, wonach sich einzelne interne Bausteine von KI-Modellen unabhängig voneinander verstehen lassen. Die Forschenden entwickelten daher eine neue Analysemethode, die diese komplexen Wechselwirkungen berücksichtigt. Mit ihrer Hilfe zeigen sie: Die Anweisungs-Darstellungen wirken wie eine Weichenstellung, die festlegt, welche internen Verarbeitungswege das Modell für die jeweilige Aufgabe nutzt. Diese Erkenntnisse helfen, KI-Sprachmodelle besser zu verstehen, verlässlicher zu überprüfen und sicherer für den praktischen Einsatz zu gestalten. Die Arbeit ist im Rahmen des ATHENEProjekts SecLLM: Security in Large Language Models, einem Projekt im ATHENE Forschungsbereich Projekt des Forschungsbereichs Security and Privacy in Artificial Intelligence (SenPAI), entstanden.
Das Forschungspapier ist öffentlich verfügbar unter: https://arxiv.org/pdf/2602.07930.

SCICOQA: Quality Assurance for Scientific Paper–Code Alignment
Autor*innen: Tim Baumgärtner and Iryna Gurevych
Wissenschaftliche Studien veröffentlichen oft nicht nur einen Text, sondern auch den zugehörigen Programmcode. Text und Code stimmen aber nicht immer überein: Der Code setzt manchmal etwas anderes um, als im Paper beschrieben wird. Solche Abweichungen gefährden die Nachvollziehbarkeit von For­schungsergebnissen. Das Problem wird größer, weil zunehmend „KI-Wissenschaftler" eigenständig Studien und Code erstellen, ohne dass Menschen alles prüfen können. In dem Paper stellen die Forschenden SCICOQA vor, den ersten Testdatensatz, um zu prüfen, wie gut KI-Sprachmodelle solche Abweichungen erkennen. Er enthält 635 Beispiele: 92 echte Fälle aus der Praxis und 543 künstlich erzeugte Fälle aus verschiedenen Wissenschaftsbereichen. Das Ergebnis ist ernüchternd: Selbst die besten getesteten KI-Modelle erkennen nur 46,7 Prozent der echten Abweichungen zwischen Paper und Code. Besonders schwer fällt es den Modellen, Dinge zu erkennen, die im Code stehen, aber im Paper fehlen. Um die Entwicklung besserer, automatisierter Qualitätskontrollen für die Wissenschaft zu unterstützen, machen die Forschenden den Datensatz öffentlich. Er ist frei einsehbar unter https://ukplab.github.io/scicoqa/. Die Arbeit im Rahmen des ATHENE Missionsprojekt SecureCoder entstanden.
Das Forschungspapier ist öffentlich verfügbar unter: https://arxiv.org/pdf/2601.12910.

Weitere von ATHENE-Forschenden mitverfasste Paper, die auf der Konferenz akzeptiert wurden, sind:

In-depth Research Impact Summarization through Fine-Grained Temporal Citation Analysis
Autor*innen: Hiba Arnaout, Noy Sternlicht, Tom Hope, Iryna Gurevych
PDF: https://arxiv.org/pdf/2505.14838

Author-in-the-Loop Response Generation and Evaluation: Integrating Author Expertise and Intent in Responses to Peer Review
Autor*innen: Qian Ruan, Iryna Gurevych
PDF: https://arxiv.org/pdf/2602.11173

Reward Modeling for Scientific Writing Evaluation
Autor*innen: Furkan Sahinuç  Subhabrata Dutta, Iryna Gurevych
PDF:  https://arxiv.org/pdf/2601.11374

Responsible Evaluation of AI for Mental Health
Autor*innen: Hiba Arnaout, Anmol Goel, H. Andrew Schwartz, Steffen T. Eberhardt, Dana Atzil-Slonim, Gavin Doherty, Brian Schwartz, Wolfgang Lutz, Tim Althoff, Munmun De Choudhury, Hamidreza Jamalabadi, Raj Sanjay Shah, Flor Miriam Plaza-del-Arco, Dirk Hovy, Maria Liakata, Iryna Gurevych
PDF: https://arxiv.org/pdf/2602.00065

VeriTaS: The First Dynamic Benchmark for Multimodal Automated Fact-Checking
Autor*innen: Mark Rothermel, Marcus Kornmann, Marcus Rohrbach, Anna Rohrbach
PDF: https://arxiv.org/pdf/2601.08611
Das Paper wurde mit dem Best Resource Paper Award ausgezeichnet.

TACL Paper:
Can LLMs Automate Fact-Checking Article Writing?
Autor*innen: Dhruv Sahnan, David Corney, Irene Larraz, Giovanni Zagni, Ruben Miguez, Zhuohan Xie, Iryna Gurevych, Elizabeth Churchill, Tanmoy Chakrabortyl, Preslav Nakov 
PDF: https://arxiv.org/pdf/2503.17684

Die ACL 2026 fand vom 2.-7. Juli in an Diego, USA statt.

 

 

 

Zur News-Übersicht