Eigentlich ist es possierlich, Regierungskrisen anzuzetteln über Fragen wie die, ob alle schnell genug Termine beim Facharzt bekommen. Selbst, wie lange Merz noch Kanzler bleibt, ist nebensächlich. Der Staat ist überschuldet, die Sozialsysteme gehen in die Knie, der Frieden wankt, auf der Weltbühne ebenso wie in Neukölln. Doch selbst diese Bedrohung könnte überwölbt werden von all dem. was Künstliche Intelligenz uns zumuten wird. Damit gewinnt und verliert man allerdings keine Wahlen. Noch nicht.

I.

Aber es sollte zu denken geben, wenn in Washington der Erzkonservative Steve Bannon und der Erzlinke Bernie Sanders gemeinsam warnen und strengere KI-Regeln fordern. Wenn selbst Elon Musk vor dem aus dem Ruder gelaufenen Entwicklungstempo warnt, immer mehr KI-Experten – und selbst die großen KI-Unternehmen – vor einem Ende unserer Zivilisation warnen, vor einer Auslöschung der Menschheit gar. Nur Trump ist mal wieder auf seinem eigenen Trip: Er will KI nicht regulieren, sondern entfesseln. KI spaltet bereits heute die Gesellschaft. Der Streit zentriert sich aber auf den ungeheueren Reichtum und die Machtkonzentration bei wenigen KI-Konzernen – weniger auf die tiefere Gefahr: die bald nicht mehr kontrollierbare Macht der dem Menschen zunehmend überlegenen Maschinen.

II.

Noch nicht einmal im Ansatz durchdacht ist zum Beispiel die Frage, wie die Wirtschaftsordnung funktionieren soll, und welche Folgen es für die demokratische Grundordnung haben wird, wenn Arbeit nicht mehr das entscheidende Maß für den Lebensunterhalt sein kann, weil Maschinen einen Großteil der Arbeit übernehmen. Die bisherige Wirtschaftsordnung ist dann nicht mehr haltbar. Die Einkommenssteuer als Basis der Staatsfinanzierung verliert ihre Bedeutung. Wenn sich selbst steuernde Maschinen Werte schaffen, müssen sie zur Finanzierung des Staatswesens herangezogen werden. Werte wie Leistung und Gerechtigkeit bekommen einen neuen Sinn.

III.

Das aber ist nur der Anfang. Wer hält KI unter Kontrolle – und wie? KI kann nur von Menschen missbraucht werden, heißt es. Falsch. KI wird womöglich Dinge tun, die nie ein Mensch beabsichtigt hat. KI ist nicht frei von Fehlern. Diese Fehler können verheerend sein – und unter Umständen kann kein Mensch sie aufhalten oder korrigieren. Es wäre aber eine der notwendigen Bedingungen bei der Entwicklung der KI. Wer aber soll kontrollieren, wenn in Zukunft die Systeme weitgehend autonom agieren?

IV.

Aber auch die Vorstellung von der „bösen“ KI ist naiv. KI kann nicht „böse“ sein, so wenig wie „gut“. Genau das ist das Problem. Man kann ihr nicht „ins Gewissen“ reden, mit ihr nicht diskutieren. Um bedrohlich zu sein, muss KI die Menschen nicht hassen! Sie muss gar nicht wissen, was Hass ist. Gerade die Emotionslosigkeit macht KI gefährlich. Die Frage, ob KI künftig einmal in der Lage sein wird, die Menschheit auszulöschen, ist tatsächlich nicht zu verneinen. Die Gefahren sind ernst zu nehmen. Es fehlt an einer Sicherheitsarchitektur, an Überwachung und Begrenzung der KI, an internationalen Regeln. Ja, all das ist noch nicht einmal erforscht. Und Europa hinkt auch dabei hinterher. Nur wer bei der Entwicklung selbst am Ball bleibt, kann sie steuern.

V.

Dass ausgerechnet führende Entwickler der KI am lautesten vor der Vernichtung der Menschheit warnen, kann auch anders gelesen werden: Es belegt den sektenähnlichen Fanatismus dieser „Schöpfer“ einer neuen, menschengemachten Evolution. Vereinfacht ausgedrückt: Sie machen sich wichtig. Die Debatte über die echten Gefahren der KI entartet zu spekulativer Science-Fiction-Esoterik. Wie auch immer: Friedrich Dürrenmatt hat das Wesentliche dazu schon 1962 (vor dem Hintergrund der Atombombe) in seinem Stück Die Physiker gesagt. Er hat es durch einige wie in Stein gemeißelte Sätze ergänzt. Einige treffen die Herausforderung KI auf den Punkt: „Die schlimmstmögliche Wendung tritt durch Zufall ein.“ Nicht durch bösen Willen! Und: „Der Zufall trifft Menschen am schlimmsten, wenn sie durch ihn das Gegenteil ihres Ziels erreichen.“ Weiter: „Je planmäßiger die Menschen vorgehen, desto wirksamer vermag sie die Zufall zu treffen.“ Das alles ist kein Trost! Aber es gibt auch keinen Grund zur vorauseilenden Weltuntergangsstimmung. Dürrenmatt weiß: „Was alle angeht, können nur alle lösen.“ Voraussetzung dafür wäre allerdings, sich der Risiken bewusst zu werden, ehe es zu spät ist.

VI.

„Was einmal gedacht wurde, kann nicht mehr zurückgenommen werden.“ Auch dieser Satz steht in Dürrenmatts Physikern. Es kommt nicht allein auf das an, was bereits heute unser Denken und unsere Wirtschaft bestimmt. Alles, was möglich ist, existiert. „Schau´n wir mal, dann sehen wir schon“, ist keine Lösung. Auch nicht, dass nie so heiß gegessen werde wie gekocht. In der Welt von gestern war das vielleicht so. Nicht ab er in der Welt der KI. Der Geist ist aus der Flasche, man kriegt ihn nicht wieder zurück. Die Politik ohnehin nicht. Die sieht in KI-Rechenzentren lediglich ein ökonomisches Wachstumsinstrument. Das greift entschieden zu kurz.

Anzeige