Drei Unternehmen, die sich sonst in fast allem bekämpfen, arbeiten jetzt zusammen: OpenAI, Anthropic und Google tauschen über das Frontier Model Forum Informationen aus, um sogenannte adversarial distillation zu erkennen und zu unterbinden. Gemeint ist eine Methode, bei der externe Entwickler systematisch Anfragen an ChatGPT, Claude oder Gemini schicken und aus den Antworten billigere Kopien trainieren. Laut Bloomberg koordinieren die drei Firmen seit kurzem ihre Abwehrmaßnahmen.
Distillation ist eigentlich eine etablierte Technik im maschinellen Lernen: Ein großes »Lehrer-Modell« gibt sein Wissen an ein kleineres »Schüler-Modell« weiter. Das Problem beginnt, wenn das ohne Erlaubnis passiert. Anthropic hat drei chinesische Unternehmen namentlich genannt, die das betrieben haben sollen: DeepSeek, Moonshot und MiniMax. Die Firmen hätten Fähigkeiten extrahiert und dabei Sicherheitsvorkehrungen entfernt. Anthropic hat chinesisch kontrollierten Unternehmen den Zugang zu Claude komplett gesperrt. OpenAI warf DeepSeek vor, auf den Fähigkeiten amerikanischer Frontier-Labore »mitgefahren« zu sein. US-Regierungsvertreter schätzen den jährlichen Schaden durch unautorisierte Distillation auf Milliarden von Dollar.
Für KI-Nutzer ist das relevant, weil es direkt die Frage berührt, woher günstige Modelle ihre Fähigkeiten haben. Wer ein chinesisches Modell nutzt, das auffällig gut performt und auffällig wenig kostet, nutzt möglicherweise ein Destillat westlicher Forschung. Das Frontier Model Forum, 2023 von OpenAI, Anthropic, Google und Microsoft gegründet, dient den Unternehmen nun als Plattform, um verdächtige Zugriffsmuster zu identifizieren: automatisierte Massenabfragen, wiederholte Prompts über mehrere Accounts, Bot-ähnliches Verhalten.
Was die Kooperation konkret bewirkt, wird sich zeigen. Die Unternehmen können Accounts sperren, IP-Bereiche blockieren und Ausgabeformate anpassen. Das sind Pflaster, keine Lösung. Solange die Modelle über APIs zugänglich sind, bleibt Distillation technisch möglich. Dass drei direkte Konkurrenten trotzdem gemeinsam handeln, zeigt immerhin, wie ernst das Thema geworden ist.
Quellen
- Bloomberg: OpenAI, Anthropic, Google Unite to Combat Model Copying in China
- The Japan Times: OpenAI, Anthropic and Google cooperate to fend off Chinese bids to clone models
- Business Today: OpenAI, Anthropic, Google team up to stop Chinese AI distillation threat
Diese Meldung wurde mit Unterstützung von Claude (Anthropic) recherchiert und verfasst. Inhaltliche Fehler sind möglich. Die verlinkten Quellen ermöglichen eine eigene Prüfung.