
Die KI versteht mich nicht, das denken viele, wenn ChatGPT eine flüssig formulierte Antwort liefert, die am Thema vorbeigeht. Man nickt zufrieden und merkt erst Tage später, dass die KI etwas völlig anderes verstanden hat. Das passiert häufiger, als die meisten ahnen. Je besser die Antwort klingt, desto seltener hinterfragen wir sie.
Dieses Phänomen hat einen Namen, der »Firnis des Verstehens«. Eine dünne Schicht sprachlicher Perfektion, unter der kein echtes Begreifen stattfindet, sondern statistische Wahrscheinlichkeit. Die KI wählt nicht die richtige Antwort. Sie wählt die wahrscheinlichste. Das ist nicht dasselbe.




