
Die KI versteht mich nicht – das denken viele, wenn ChatGPT eine flüssig formulierte Antwort liefert, die am Thema vorbeigeht. Man nickt zufrieden und merkt erst Tage später, dass die KI etwas völlig anderes verstanden hat. Das passiert häufiger, als die meisten ahnen. Und das Tückische daran: Je besser die Antwort klingt, desto seltener hinterfragen wir sie.
Dieses Phänomen hat einen Namen in der Forschung. Man spricht vom »Firnis des Verstehens« – einer dünnen Schicht sprachlicher Perfektion, unter der kein echtes Begreifen stattfindet, sondern statistische Wahrscheinlichkeit. Die KI wählt nicht die richtige Antwort. Sie wählt die wahrscheinlichste. Das ist nicht dasselbe.




