Das amerikanische KI-Unternehmen Anthropic musste auf Anordnung der US-amerikanischen Regierung seine bislang leistungsfähigsten Modelle namens »Mythos« und »Fable« vorerst deaktivieren. »Fable 5« ist die öffentlich nutzbare, abgesicherte Version. »Mythos 5« ist dieselbe Technologie mit weniger Beschränkungen für vertrauenswürdige Partner. Laut den Behörden sei die nationale Sicherheit gefährdet, wenn ausländische Staatsbürger Zugang zu dem System hätten. Betroffen sind sogar Nicht-US-Bürger, die sich innerhalb der Vereinigten Staaten aufhalten.

Die KI-Modelle gelten als besonders leistungsfähig. Sicherheitsexperten und Behörden warnen jedoch, die Technologie könne für Cyberangriffe auf kritische Infrastruktur missbraucht werden. Anthropic hatte die Software deshalb auch nur mit Einschränkungen freigegeben.

Die Firma hält die Anordnung für ungerechtfertigt. Zwar solle die Regierung die Möglichkeit haben, gefährliche Anwendungen im Rahmen eines transparenten und fairen Verfahrens zu untersagen, aber diese Maßnahme, so Anthropic, entspräche solchen Grundsätzen nicht.

Das Unternehmen spricht von einem „Missverständnis“. Nach Darstellung des Unternehmens geht die US-Regierung jedoch davon aus, dass sich diese Beschränkungen mit einem sogenannten Jailbreak aushebeln lassen. Bei einer Demonstration habe das Modell eine kleine Anzahl bereits bekannter, geringfügiger Schwachstellen gefunden, die aber auch andere öffentlich verfügbare KI-Modelle betreffen würden. Genannt wurde hier ausdrücklich GPT-5.5 von OpenAI.

Anthropic verweist darauf, dass Fable 5 vor seiner Veröffentlichung Tausende Stunden Red-Teaming durchlaufen habe. Das sind realitätsnahe Angriffssimulationen, bei denen Sicherheitsexperten die Taktiken und Methoden echter Hacker nachahmen. Ziel des Red-Teamings ist es, Schwachstellen in der gesamten Organisation aufzudecken. Das beinhaltet Technik, Prozesse und den Faktor Mensch, um die eigenen Abwehrkräfte zu testen und zu verbessern. An den Tests waren nach Unternehmensangaben die US-Regierung, das britische AI Safety Institute, private Organisationen und interne Teams beteiligt. Zudem setzt das Unternehmen auf mehrstufige Schutzmechanismen, Monitoring-Systeme und eine 30-tägige Datenspeicherung zur Analyse möglicher Umgehungsversuche.

Besonders brisant wird der Fall vor dem Hintergrund des bereits angespannten Verhältnisses zwischen Anthropic und Teilen des amerikanischen Sicherheitsapparates. Das US-Verteidigungsministerium hatte das Unternehmen bereits im März 2026 als „supply chain risk“ eingestuft. CEO Dario Amodei kündigte an, diese Einstufung gerichtlich anzufechten.

Amodei hatte zuvor selbst darum gebeten, dass KI reguliert wird. KI entwickle sich extrem schnell – viel schneller, als der politische Prozess es bewältigen könne, für den er geschaffen wurde. In seinem Essay beschreibt er, wo er glaubt, dass die Technologie derzeit steht, und erforderliche Maßnahmen, um die Lücke zu schließen:

Da der KI-Entwickler Anthropic den Einsatz seiner Software für Massenüberwachung und autonome Waffensysteme begrenzen wollte, setzte das Pentagon das Unternehmen damals auf die schwarze Liste. Der Claude-Hersteller gilt nun offiziell als Lieferkettenrisiko. Eine Einstufung, die bislang vor allem ausländische Firmen traf. Während Konkurrenten wie OpenAI und xAI dem Militär weitreichende Nutzungsrechte einräumten, beharrte Anthropic auf ethischen Grenzen. Infolgedessen stand ein 200-Millionen-Dollar-Auftrag auf dem Spiel. Weitere Staatsaufträge sind ebenfalls bedroht. Das Unternehmen spricht von politischer Verfolgung. Trotz des Konflikts stieg die Unternehmensbewertung auf rund 380 Milliarden Dollar.

Nach Darstellung Anthropics entzündete sich der Konflikt an der Weigerung des Unternehmens, seine Systeme uneingeschränkt für massenhafte inländische Überwachung und vollautonome Waffensysteme freizugeben. Ob die aktuelle Exportdirektive tatsächlich ausschließlich auf Sicherheitsbedenken zurückgeht oder ob politische Spannungen eine Rolle spielen, lässt sich aus den veröffentlichten Informationen nicht beweisen. Fest steht lediglich, dass das Verhältnis zwischen Unternehmen und Sicherheitsbehörden bereits vor der jetzigen Eskalation erheblich belastet war.

Die USA behandeln moderne KI-Modelle als strategische Hochtechnologie. Der Zugang wird nicht mehr allein durch Marktmechanismen geregelt, sondern, wie bei allen sicherheitsrelevanten Prozessen, durch staatliche Kontrolle.

Die EU-Europäer verfolgen, obwohl es keine relevanten KI-Firmen in der EU gibt, mit dem AI Act, Transparenz- und Dokumentationspflichten sowie weitreichenden Regulierungen bei der Einschränkung amerikanischer Unternehmen einen ähnlichen Weg.

Für Anthropic kommt die Maßnahme zu einem denkbar ungünstigen Zeitpunkt. Erst am 9. Juni hatte das Unternehmen die neue „Mythos-Klasse“ vorgestellt. Fable 5 sollte als leistungsstärkstes allgemein verfügbares Modell des Hauses dienen. Mythos 5 war als stärker eingeschränkte Spezialversion für ausgewählte Cybersicherheitsexperten und Betreiber kritischer Infrastruktur vorgesehen. Nur wenige Tage später sind beide Modelle vom Netz.

Anzeige