Eine Studie auf der ICLR 2026 in Rio de Janeiro zeigt, was viele womöglich geahnt haben. Je stärker man ein Sprachmodell im logischen Schlussfolgern trainiert, desto häufiger erfindet es Werkzeuge, die nicht existieren. Das Paper »The Reasoning Trap« liefert den ersten kausalen Beleg für diesen Zusammenhang.
Die Forscher um Chenlong Yin haben Modelle schrittweise mit Reinforcement Learning im Reasoning verbessert und dabei systematisch gemessen, wie oft die Modelle anschließend halluzinieren. Das Ergebnis lässt wenig Spielraum. Mit jedem Leistungssprung beim Denken stieg die Tool-Halluzination proportional an. Die Modelle erfanden Werkzeuge, die es nicht gab, oder nutzten vorhandene falsch.
Besonders unangenehm ist der zweite Befund. Selbst Training an völlig anderen Aufgaben, etwa Mathematik, verschlimmerte die Halluzinationen bei der Werkzeugnutzung. Der Effekt sitzt also tiefer, als man ihn mit gezieltem Nachtraining reparieren könnte. Und er ist methodenunabhängig. Ob das Reasoning per Reinforcement Learning, per Supervised Fine-Tuning oder schlicht durch eine Chain-of-Thought-Anweisung im Prompt aktiviert wird … das Ergebnis bleibt dasselbe.
Die Autoren haben auch Gegenmaßnahmen getestet. Prompt Engineering und DPO helfen teilweise, senken aber gleichzeitig die Leistungsfähigkeit. Im Kern steht ein Trade-off, den niemand bisher auflösen konnte. Wer die Zuverlässigkeit erhöht, verliert an Können. Wer das Können steigert, bekommt mehr erfundene Werkzeuge. Eine Deloitte-Erhebung unterstreicht die Praxisrelevanz. 47 Prozent der Unternehmen, die KI-Agenten einsetzen, haben bereits wichtige Geschäftsentscheidungen auf halluzinierte Inhalte gestützt.
Für die Labore, die gerade Milliarden in besseres Reasoning investieren, ist das ein unbequemer Befund. Die nächste Generation von KI-Agenten wird vermutlich schlauer denken. Ob sie deshalb weniger erfindet, steht auf einem anderen Blatt.
Quellen
- OpenReview: The Reasoning Trap: How Enhancing LLM Reasoning Amplifies Tool Hallucination
- Asanify: AI News Digest, April 29, 2026: The AI Agent Hallucination Trap In Smarter Models
Ähnliche News
- China stoppt Metas 2-Milliarden-Deal für die KI-Agenten-Firma Manus
- Google startet Deep Research Max als autonomen Recherche-Agenten
- OpenAI Codex wird zum Desktop-Agenten mit Zugriff auf den ganzen Rechner
Diese Meldung wurde mit Unterstützung von Claude (Anthropic) recherchiert und verfasst. Inhaltliche Fehler sind möglich. Die verlinkten Quellen ermöglichen eine eigene Prüfung. Fachbegriffe erläutert das Glossar.