Mauern hoch genug bauen, und die Falschen bleiben draußen. So ungefähr lautet das Versprechen der großen KI-Labore. TechCrunch hat mit mehreren Sicherheitsforschern gesprochen, und das Ergebnis ist unbequem. Die Guardrails, die kriminelle Hacker aussperren sollen, sperren gerade die Leute aus, die das Netz verteidigen. Wer eine Schwachstelle prüfen will, muss ein Modell bitten, sie auszunutzen. Genau da macht die KI dicht.
Chris Anley, Chefwissenschaftler bei der Sicherheitsfirma NCC Group, bringt es auf ein Bild. Der Befehl »fix this code« sei zugleich Verteidigung und Bauanleitung für den Angriff, beides lasse sich nicht trennen. Eine KI zum Exploit zu drängen, sei der entscheidende Schritt, um zu bestätigen, dass ein Bug wirklich gefährlich ist. »Wie ein Hammer«, sagt er, Werkzeug und Waffe in einem. Anthropic und OpenAI bieten geprüften Forschern eigene Programme mit gelockerten Regeln, Trusted Access for Cyber und Cyber Verification Program. Nur arbeiten die Schranken laut Chris Thompson von RemoteThreat jeden Tag ein bisschen anders. »Man verbringt viel Zeit damit, mit dem Modell zu verhandeln, statt am eigentlichen Sicherheitsprojekt zu arbeiten.«
Das Ergebnis ist die schönste Ironie der Debatte. Wenn das amerikanische Modell blockt, laden sich die Forscher eben ein chinesisches herunter. GLM zum Beispiel, frei verfügbar, lokal lauffähig, ohne Prüfung, ohne Guardrails. Die Sicherheitswand made in USA treibt genau die verantwortungsvollen Leute zu ausländischen, ungeprüften Systemen. Paolo Stagno von CrowdFense sagt, die KI-Firmen behandelten ihre Kunden »wie Kinder, die man beaufsichtigen muss«. Für Nutzer heißt das: Wenn die Verteidiger ausgebremst werden, während die Angreifer sich bedienen, wo sie wollen, verschiebt sich das Gleichgewicht in die falsche Richtung.
Nicht alle klagen. Giuseppe Cali, der Zero-Days findet und Exploits baut, stören die Guardrails nicht, weil er die KI ohnehin nur zum Reverse Engineering nutzt. Den eigentlichen Fund will er selbst machen. »Ich bin eifersüchtig auf meine Bugs, und ich mag dieses Spiel zu sehr, um es Modelle für mich spielen zu lassen.« Ein hübscher Satz, der nichts an dem Sturm ändert, den Thompson kommen sieht: eine Welle von Angriffen in nie gekanntem Tempo, während die legitimen Forscher zusehen müssen.
Quellen
Ähnliche News
- Ein offenes Modell aus China schlägt GPT-5.5 beim Coding
- Nvidia baut jetzt das beste offene US-Modell und verliert trotzdem gegen China
- Google veröffentlicht drei neue Gemini-Modelle, aber nicht Pro
Diese Meldung wurde mit Unterstützung von Claude (Anthropic) recherchiert und verfasst. Inhaltliche Fehler sind möglich. Die verlinkten Quellen ermöglichen eine eigene Prüfung. Fachbegriffe erläutert das Glossar.
Interessant. Vielen lieben Dank für deine tolle Bildungsprache.net-Seite.
Ich lese fast jeden Tag deine neuesten Beiträge zu KI, aktuellen Entwicklungen, Forschungsergebnissen und praktischen Anwendungen. Für mich ist das sehr interessant und wertvoll. Deine Seite ist wirklich gut gemacht, verständlich aufgebaut und sehr inspirierend.
Ich habe mir sogar bereits einige Dokumente mit Hilfe deiner Anleitungen erstellen lassen, besonders im Bereich Prompts, tiefere Recherche und strukturierte KI-Nutzung.
Meine Frage zu deinem Artikel ist folgende:
Ich befinde mich zurzeit im Aufbau eines Unternehmens. Es ist noch kein Start-up im klassischen Sinne, sondern befindet sich noch in der Vorbereitungs- und Strukturierungsphase. Das geplante Unternehmen soll in der Recyclingbranche tätig sein, insbesondere im Bereich hochwertiger Elektronik, Materialanalyse, Wiederverwertung und später möglicherweise auch biotechnologischer Verfahren im industriellen und rechtlich zulässigen Rahmen.
Ich möchte heute und in Zukunft die volle Leistungsfähigkeit moderner KI-Systeme nutzen: für Recherche, Wissensmanagement, Businessplan, Marktanalyse, Prozessdesign, Materialbewertung, Compliance, Entscheidungsunterstützung und den Aufbau einer lernenden Organisation.
Gleichzeitig ist mir bewusst, dass moderne KI-Modelle, zum Beispiel GPT-5 und neuere Modelle, Sicherheitsmechanismen und Einschränkungen haben, besonders bei sensiblen Bereichen wie Biotechnologie, Chemie oder ähnlichen Themen. Mir geht es dabei ausdrücklich nicht darum, gefährliche oder rechtswidrige Inhalte zu erzeugen. Ich möchte verstehen, wie man KI im unternehmerischen, wissenschaftlichen und industriellen Kontext maximal sinnvoll, legal und produktiv nutzen kann, ohne bei legitimen Fragen unnötig ausgebremst zu werden.
In deinem Artikel fand ich den Hinweis auf lokal lauffähige Modelle wie zum Beispiel GLM sehr interessant. Verstehe ich es richtig, dass solche Modelle lokal betrieben werden können und dadurch mehr Kontrolle über Daten, Workflows und interne Wissenssysteme ermöglichen?
Meine Frage wäre daher:
Welche Strategie würdest du empfehlen, wenn man ein KI-gestütztes Unternehmen aufbauen möchte, das langfristig mit den besten verfügbaren Modellen arbeitet — egal ob amerikanische, europäische, chinesische oder Open-Source-Modelle — und dabei gleichzeitig rechtlich sauber, sicher und praktisch nutzbar bleibt?
Wäre aus deiner Sicht eine Kombination sinnvoll aus:
1. sehr leistungsfähigen Cloud-Modellen für Strategie, Recherche, Analyse und Dokumentenerstellung,
2. lokal lauffähigen Modellen für interne Wissensdatenbanken, vertrauliche Dokumente und wiederkehrende Workflows,
3. klar strukturierten Text- und Markdown-Dokumenten als anbieterunabhängige Wissensbasis,
4. und spezialisierten KI-Agenten für bestimmte Aufgaben wie Recherche, Compliance, Marktanalyse oder technische Dokumentation?
Mich würde besonders interessieren, wie man so ein System von Anfang an sauber aufbaut, damit es später nicht nur eine Sammlung von Notizen ist, sondern eine echte interne Wissens- und Entscheidungsinfrastruktur für ein Unternehmen.
Vielen Dank für deine tolle Arbeit. Ich werde deine Artikel auf jeden Fall weiter lesen.