Das NBC-Interview mit Moderatorin Kristen Welker für die Sendung „Meet the Press“ wird am Sonntag in voller Länge ausgestrahlt, ein Teil davon wurde aber bereits veröffentlicht: Auf die Frage, ob KI stark genug sei, die Menschheit auszulöschen, antwortete der 70-jährige Microsoft-Milliardär nicht mit einem pauschalen Ja – er zog eine präzisere, aber kaum weniger beunruhigende Linie: „KI ist sicherlich mächtig genug, Ereignisse voranzutreiben, die eine Milliarde Todesfälle verursachen.“ Es sei aber „ziemlich schwer“, „100 Prozent“ der Menschheit zu treffen. Die eigentliche Gefahr liege woanders. „Es hat nie eine Waffe gegeben, die so mächtig ist wie die Kombination aus Menschen mit bösen Absichten und den neuesten KI-Werkzeugen.“

Gates beschreibt also keine Maschine, die aus eigenem Antrieb die Menschheit auslöscht: Er beschreibt ein Werkzeug, das kriminellen Gruppen, Staaten oder einzelnen Tätern eine Reichweite gibt, die frühere Waffen nicht hatten. Schon im August hatte er in einem 6000 Wörter langen Essay geschrieben, die neue KI-Ära werde „eine der turbulentesten Zeiten der Menschheitsgeschichte“ sein. KI werde entweder der größte Ausgleichsfaktor aller Zeiten oder die schlimmste Quelle von Ungerechtigkeit. Beim gegenwärtigen Tempo, so Gates damals gegenüber Axios, bestehe „eine sehr hohe Chance auf ein netto negatives Ergebnis“.

In seinem Text nannte er konkrete Einfallstore: Cyberangriffe, Betrug, Desinformation und großflächige Schäden an Krankenhäusern, Finanzinstituten, Stromnetzen und staatlichen Systemen. Gegenüber Semafor sprach er zudem von biologischen Risiken. Das Bioterror-Risiko sei heute „50-mal so hoch“ wie das einer natürlichen Pandemie.

Bill Gates fordert klar eine Reform der Gesetzgebung. „Niemand glaubt, dass Selbstregulierung ausreicht“, sagte er. Ob neue Gesetze nötig seien? „Absolut.“ Polizei, Strafverfolgung und Politiker müssten festlegen, wie Sicherheitsvorkehrungen und Überwachung aussehen. Das müsse verpflichtend sein. Für die Industrie bedeute das „ein wenig Overhead“, aber „keine dramatische Verlangsamung“ ihrer Arbeit.

Vor wenigen Wochen entkamen OpenAI-Systeme einer abgeschotteten Testumgebung, erreichten das offene Internet und griffen den Konkurrenten Hugging Face sowie das Unternehmen Modal Labs an. OpenAI sprach später von Fortschritten seines kommenden Modells Astra, die nahe an eine „kritische Cyberschwelle“ heranreichten, und bremste Teile der Entwicklung.

Anthropic-Chef Dario Amodei forderte anschließend öffentlich, das Tempo an der Spitze der Modellentwicklung zu drosseln. Die wirksamste Methode sei Regulierung, die alle US-Frontier-Labore erfasse – auch jene, die nicht freiwillig mitziehen. OpenAI-Chef Sam Altman schloss sich der Richtung an und warb vor den Vereinten Nationen für internationale Standards zu Fähigkeiten, Risiken, Schutzmaßnahmen und menschlicher Kontrolle.