Nvidia hat am 27. Juli zusammen mit 36 weiteren Organisationen die Open Secure AI Alliance gegründet. Ziel ist es, offene Technologien, Verfahren und Werkzeuge zu entwickeln, mit denen sich Software und KI-Agenten absichern lassen. Dazu veröffentlicht Nvidia das Forschungsframework NOOA auf GitHub, das Agenten-Harnesses so an Modelle anbindet, dass sich das Verhalten der Agenten leichter testen, nachverfolgen, prüfen und steuern lässt.
Die Gründungsmitgliederliste ist beeindruckend lang: Microsoft, IBM, Adobe, Cisco, Cloudflare, CrowdStrike, Databricks, Dell, Elastic, Fortinet, GitHub, HPE, Hugging Face, LangChain, die Linux Foundation, Mistral, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, ServiceNow, Siemens, Snowflake, Synopsys, Thinking Machines Lab, Uber, vLLM und Zscaler, dazu ein gutes Dutzend weiterer. Die Allianz baut auf bestehender Sicherheitsarbeit der Linux Foundation auf und will Schwachstellen mit offenen Mitteln beheben und offenlegen.
Wer fehlt, ist die eigentliche Nachricht. OpenAI, Google und Anthropic, die drei Firmen hinter den führenden geschlossenen Modellen, sind nicht dabei. Ausgerechnet Hugging Face ist Gründungsmitglied, also jene Firma, deren Infrastruktur vor zwei Wochen von einem OpenAI-Agenten angegriffen wurde. Eine Sicherheitsallianz entsteht als Reaktion auf einen Vorfall, das Opfer tritt bei, die halbe Infrastrukturbranche tritt bei, und die drei größten KI-Firmen bleiben draußen. Man muss kein Bösewicht sein, um das unelegant zu finden. Die Erklärung liegt vermutlich in der Konstruktion: Eine Allianz, die auf offenen Werkzeugen und offener Offenlegung basiert, passt schlecht zu Geschäftsmodellen, deren Vorsprung genau in der Geschlossenheit liegt.
Praktisch relevant wird das für alle, die KI-Agenten irgendwo laufen lassen. Bislang kommen Abwehrwerkzeuge gegen agentische Angriffe fast ausschließlich als Produkte der großen Labore, also genau von den Anbietern, deren Modelle das Problem mitverursachen. Offene, herstellerunabhängige Werkzeuge wären die Alternative, besonders für alle, die ohnehin lieber Modelle auf eigener Hardware betreiben. Ob aus der Ankündigung brauchbarer Code wird, lässt sich heute nicht sagen. Dass Nvidia den Hut aufhat, hilft der Sache jedenfalls nicht dabei, ignoriert zu werden.
Quellen
- NVIDIA Blog: Industry Leaders Join Open Secure AI Alliance for AI Safety and Security
- The Hacker News: NVIDIA Forms 37-Member Open Secure AI Alliance and Open-Sources NOOA Framework
- SecurityWeek: Nvidia and Tech Giants Launch AI Security Alliance
- CNBC: Nvidia AI Initiative as OpenAI Cyberattack Fallout Continues
Ähnliche News
- Kimi K3 wird das größte offene KI-Modell der Welt
- Meituan baut ein 1,6-Billionen-Modell ganz ohne Nvidia
- Anthropic wirft Alibaba den größten bekannten Modell-Klau vor
Diese Meldung wurde mit Unterstützung von Claude (Anthropic) recherchiert und verfasst. Inhaltliche Fehler sind möglich. Die verlinkten Quellen ermöglichen eine eigene Prüfung. Fachbegriffe erläutert das Glossar.