Die Prüfungsgesellschaft KPMG hat einen Bericht über agentische KI vom Netz genommen, Titel »Redefining excellence in the age of agentic AI«, erschienen im Oktober 2025. Der Grund ist von einer Ironie, die man sich nicht ausdenken kann. Der Bericht behauptete Dinge über die KI-Nutzung großer Organisationen, die schlicht nicht stimmten. Eine Firma, deren Kerngeschäft das Verifizieren von Zahlen ist, hat einen Bericht über KI offenbar von einer KI schreiben lassen und niemand hat nachgesehen.
Aufgefallen ist es der Forschungsgruppe GPTZero, die die Fußnoten prüfte. Von 45 Quellenangaben führten nur fünf zu echten, unverfälschten Quellen. UBS, der britische National Health Service, die Schweizerischen Bundesbahnen und Transport for London erklärten gegenüber der Financial Times, die Aussagen über ihren KI-Einsatz seien falsch oder irreführend. Bei UBS beschrieb der Bericht KI-Agenten für Anlageberatung, Risikomanagement und Compliance, die es so nicht gibt. Die Bank nannte das »factually incorrect«. Das ist das Lehrbuchbeispiel einer KI-Halluzination, nur eben nicht in einer Hausaufgabe, sondern im Hochglanzprodukt einer der vier größten Wirtschaftsprüfer der Welt.
Für KI-Nutzer ist die Lektion die immergleiche. Sprachmodelle liefern selbstbewusst formulierten Unsinn, und ohne menschliche Gegenprüfung landet er ungefiltert im fertigen Dokument. Der Unterschied zwischen einer plausiblen und einer wahren Aussage interessiert das Modell nicht, es kennt ihn nicht einmal. Wer Output übernimmt, ohne jede einzelne Quelle anzuklicken, übernimmt auch die Erfindungen. KPMG hat das gerade für alle vorgeführt, die noch glaubten, Profis würden das schon merken.
KPMG verweist nun pflichtbewusst auf die eigenen Richtlinien zur »verantwortungsvollen Nutzung von KI, einschließlich menschlicher Aufsicht zur Validierung von Inhalten«. Schön wäre gewesen, jemand hätte sie vor der Veröffentlichung gelesen. Allein ist die Firma damit nicht. Im Monat zuvor zog EY einen Bericht über Bonusprogramme zurück, ebenfalls mit erfundenen Fußnoten und denselben Halluzinationen. Die Beratungsbranche, die ihren Kunden gerade teuer erklärt, wie man KI verantwortungsvoll einsetzt, scheitert reihenweise an der eigenen Hausaufgabe.
Quellen
- Financial Times: KPMG report contained AI hallucinations about AI use at UBS
- TechCrunch: KPMG pulls report on AI usage due to apparent hallucinations
- GPTZero: Chasing the Hallucinations – KPMG’s AI-Powered Attempt at Redefining Excellence
Ähnliche News
- Claude Fable 5 ist da und fällt bei heiklen Fragen auf Opus 4.8 zurück
- Xiaomi verschenkt einen Coding-Agenten, der Claude Code schlagen soll
- ChatGPT bekommt einen Panikraum, Lockdown Mode jetzt für alle
Diese Meldung wurde mit Unterstützung von Claude (Anthropic) recherchiert und verfasst. Inhaltliche Fehler sind möglich. Die verlinkten Quellen ermöglichen eine eigene Prüfung. Fachbegriffe erläutert das Glossar.