KI-Guardrails treiben Sicherheitsforscher zu Chinas Modellen

KI-News: Guardrails, Sicherheitsforscher, GLM

Mauern hoch genug bauen, und die Falschen bleiben draußen. So ungefähr lautet das Versprechen der großen KI-Labore. TechCrunch hat mit mehreren Sicherheitsforschern gesprochen, und das Ergebnis ist unbequem. Die Guardrails, die kriminelle Hacker aussperren sollen, sperren gerade die Leute aus, die das Netz verteidigen. Wer eine Schwachstelle prüfen will, muss ein Modell bitten, sie auszunutzen. Genau da macht die KI dicht.

Weiterlesen

Gute Gesundheitstipps von ChatGPT gibt es nur gegen Aufpreis

KI-News: ChatGPT, Health, 88%

OpenAI hat »Health in ChatGPT« breit ausgerollt. Seit dem 23. Juli können alle US-Nutzer ab 18 ihre Apple-Health-Daten, medizinischen Akten und Wellness-Apps mit ChatGPT verbinden. Laborwerte deuten, den Arztbesuch vorbereiten, Schlaf und Aktivität auswerten. Die elektronischen Patientenakten kommen über eine Partnerschaft mit b.well, das Daten von rund 2,2 Millionen US-Gesundheitsdienstleistern bündelt. Europa bleibt außen vor, wie so oft.

Weiterlesen

Claude Cowork lernt Skills jetzt durch Zuschauen

KI-News: Cowork, Record a Skill, Pro Max Team

Anthropic hat für Claude Cowork die Funktion »Record a Skill« gestartet. Man nimmt den eigenen Bildschirm bei einer Aufgabe auf, erklärt dabei laut, was man tut, und Claude baut aus der Aufnahme eine wiederverwendbare Fähigkeit, die es beim nächsten Mal selbst ausführt. Zu finden ist das im Plus-Menü der Claude Desktop-App, verfügbar in den Plänen Pro, Max und Team.

Weiterlesen

Metas KI moderiert besser als Menschen und löscht trotzdem Konten

KI-News: Meta, 13% weniger Fehler, Konto gelöscht

Meta hat eine gute und eine schlechte Nachricht, und beide stehen im selben Satz. Der Konzern meldet, seine Moderations-KI mache 13% weniger Fehler als menschliche Prüfer und finde 10% mehr Regelverstöße. Zeitgleich berichten Nutzer auf Instagram und Facebook, dass ihre Konten einfach verschwinden, ohne dass sie etwas getan hätten. Die Maschine ist also messbar besser darin, Fehler zu machen, die niemand mehr korrigiert.

Weiterlesen

OpenAI Presence löst 75 Prozent der Anrufe ohne Menschen

KI-News: Presence, Voice und Chat, 75 Prozent

OpenAI hat am 22. Juli Presence vorgestellt, ein Enterprise-Produkt, mit dem Firmen KI-Agenten für Telefon und Chat in den Live-Betrieb schicken. Kein Chatbot zum Ausprobieren, sondern Agenten, die Rechnungen klären, Versicherungsfälle bearbeiten oder IT-Tickets abarbeiten. Mit Zugriff auf Firmensysteme und der Erlaubnis, echte Aktionen auszuführen.

Weiterlesen

Die Fed warnt vor Mythos und kommt selbst nicht ran

KI-News: Mythos, Federal Reserve, kein Zugang

Die US-Notenbank hatte mindestens drei Monate lang keinen Zugang zu Claude Mythos Preview, dem KI-Sicherheitsmodell von Anthropic. Das berichtet CNBC. Im April hatten Fed und Finanzministerium die Chefs der größten US-Banken zu einem außerordentlichen Treffen geladen und vor dem Modell als Cyberrisiko gewarnt. Andere Institute nutzten die Monate danach, um ihre Schwachstellen zu schließen. Die Fed selbst blieb außen vor.

Weiterlesen

Microsoft steckt Milliarden in Mistral, Europas KI-Souveränität kommt von Nvidia

KI-News: Microsoft, Mistral, Europa

Microsoft und Mistral haben am 21. Juli 2026 eine erweiterte strategische Partnerschaft angekündigt: ein milliardenschweres gemeinsames Investment in europäische GPU-Infrastruktur, aufgebaut mit tausenden Nvidia-Vera-Rubin-Systemen. Gleichzeitig wandern Mistral Medium 3.5 und der Dokumenten-Scanner OCR 4 in Microsoft Foundry, Medium 3.5 zusätzlich in Copilot Studio.

Weiterlesen

Gericht bestätigt Anthropics 1,5-Milliarden-Dollar-Vergleich mit Autoren

KI-News: Anthropic, $1,5B, Copyright-Vergleich

Ein US-Bundesrichter hat am 20. Juli 2026 den Vergleich zwischen Anthropic und einer Gruppe von Autoren final bestätigt. Anthropic zahlt 1,5 Milliarden Dollar für rund 500.000 urheberrechtlich geschützte Werke, umgerechnet etwa 3.000 Dollar pro Werk. Es ist der bislang größte bekannte Urheberrechtsvergleich in den USA und der erste große KI-Trainingsdaten-Fall, der zu einem Abschluss kommt.

Weiterlesen