Wie gefährlich die Verwendung der Künstlichen Intelligenz sein kann, zeigt der aktuelle Bedrohungsbericht des US-KI-Konzerns Anthropic: Detailliert wird beschrieben, wie Wissenschaftler aus gesperrten Regionen versuchten, das Sprachmodell Claude für Forschungsarbeiten zur Entwicklung biologischer Waffen zu nutzen.
picture alliance / NurPhoto | Matteo Della Torre
In dem am Donnerstag veröffentlichten Threat-Intelligence-Bericht spricht das US-Unternehmen Anthropic von einem ernsten Risiko fortschrittlicher KI-Systeme und dokumentiert Missbrauchsfälle zwischen Dezember 2025 und August 2026. Darunter sind fünf Fallstudien mit Bezug zu potenzieller Biowaffenforschung.
Anthropic nennt aber weder die betroffenen Länder noch die Institute. Die Forscher hätten regionale Zugangssperren umgangen – über Wiederverkäufer-Plattformen, US-Server, synthetische Konten und Dienste mit Null-Datenspeicherung und den Zweck ihrer Arbeit verschleiert, um Sicherheitsfilter zu umgehen. Das Unternehmen identifizierte 35 Forschungsvorhaben mit potenziell besorgniserregender Aktivität. Die zugehörigen Konten wurden gesperrt, Erkenntnisse an Behörden und andere Labore weitergegeben.
Besonders brisant war ein Fall vom Mai 2026: Ein biologischer Sicherheitsclassifier blockierte die Bitte, mit Claude einen Förderantrag zu schreiben. Es ging um Gain-of-Function-Forschung am Chikungunya-Virus, einem durch Mücken übertragenen Erreger, der wochen- oder monatelang starke Schmerzen und Fieber auslösen kann. Geplant waren genetische Veränderungen, die Übertragbarkeit und Immunflucht erhöhen sollten.
Solche Experimente können Impfstoffe verbessern – oder einen Erreger gefährlicher machen. Anthropic stufte den Vorgang als besonders heikel ein, weil die Arbeit an einem militärischen Forschungsinstitut vorgesehen war. Eine Reseller-Plattform habe den Verkehr aus gesperrten Regionen durch US-Infrastruktur geleitet.
Vogelgrippe und Pockenviren für den Terror?
In einem zweiten Fall arbeitete ein Forscher außerhalb der USA wochenlang mit Claude an Plänen, die hochpathogene Vogelgrippe an Säugetiere anzupassen. In weiteren Beispielen sollte das Modell einen vollständigen Förderantrag zu Orthopoxviren – der Familie, zu der auch Pockenviren gehören – formulieren oder bei der Erstellung vierteljährlicher Fortschrittsberichte zu Toxinen helfen. Ein staatlich unterstützter Wissenschaftler ließ sich zudem ein Atlas von Giftpeptid-Sequenzen und eine Optimierungspipeline für Moleküle erstellen, die sowohl als Therapeutika als auch als Giftstoffe dienen können. Threat-Intelligence-Chef Jacob Klein sagte der New York Times, niemand habe ausdrücklich um eine Massenvernichtungswaffe gebeten: „Es ist eine unglaublich nuancierte Situation.“ Ob die Forschung tatsächlich militarisiert werden sollte, wisse man nicht.
Anthropic beschreibt aktuell auch russisch verknüpfte Cyber-Spionage, iranische Propaganda, chinesische Überwachung von Dissidenten und Uiguren sowie weitere sechs Fälle, in denen Claude Software für konventionelle Waffen mitentwickeln sollte – darunter Raketen, Drohnen und Munition in China, Russland und Jemen. Das Unternehmen betont, ältere Modelle hätten für anspruchsvolle Biowaffenarbeit noch kaum ausgereicht. Neuere Systeme wie Claude Fable 5 erhielten stärkere Filter gegen Dual-Use-Anfragen.
Sie müssenangemeldet sein um einen Kommentar oder eine Antwort schreiben zu können
Bitte loggen Sie sich ein