
Die meisten Nutzer verlängern ihre Prompts, wenn die Antwort nicht passt. Noch ein Beispiel, noch eine Regel, noch ein Absatz Kontext. Das klingt erstmal vernünftig. Nur wird die KI dabei nicht zuverlässig besser, sondern teurer, langsamer und manchmal sogar schlechter. Prompt Kompression dreht den Reflex um. Sie wirft aus einem Prompt raus, was ohnehin niemand braucht, und behält das, worauf es ankommt.
Das ist kein Nischenthema für API-Nerds. Wer mit RAG arbeitet, lange Dokumente hochlädt oder einen Agenten laufen lässt, der sich seine halbe Chathistorie merkt, schleppt in jedem Aufruf tausende Token mit, die keinen Beitrag leisten. Genau da setzt die Technik an.






