Es soll an diesem Abend um KI und Robotik gehen, um die Chancen und Risiken einer möglichen Superintelligenz. Doch der eigentliche Kern der Debatte wird kaum angebohrt. Dabei wären die Voraussetzungen ganz gut: Moderator Markus Lanz hat den Informatiker Hans Uszkoreit und den langjährigen Industrieboss Christoph Schell eingeladen. Uszkoreit ist einer der renommiertesten KI-Forscher Deutschlands und Scientific Director am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI). Und Schell leitet als Chef der KUKA-Group eines der weltweit führenden Robotik-Unternehmen.

Doch es gibt ein paar Programmierfehler in den Codezeilen der Sendung. Die Bugs, die defekten Stellen heißen Alena Buyx und Sascha Lobo. Dass Lanz sie eingeladen hat, lässt sich mit Intelligenz kaum erklären. Dass er ihre Störgeräusche während der Sendung nicht wegprogrammiert oder zumindest herunterreguliert, liegt an seiner mangelnden Durchsetzungskraft.

Dabei ist die Syntax der beiden wohlbekannt. Sie lautet: wenig Ahnung, viel Meinung und noch mehr Selbstgefälligkeit. Buyx, Professorin für Medizinethik und Gesundheitstechnologien an der TU München, lag schon während der Corona-Plandemie als Vorsitzende des Ethikrates regelmäßig falsch. Sie trieb die Deutschen mit erfundenen Behauptungen („eigene Einschätzungen“, wie sie später fabulierte) auf fatale Weise in die Spritze und wollte sogar Kinder „off-label“ impfen, also ausdrücklich gegen ärztlichen Rat. Und jetzt? Gibt sie ungeniert und voller Inbrunst die Fachfrau für KI. Man weiß nicht, worüber man mehr staunen soll – ihre Trivialität oder ihre Selbstüberschätzung.

Der andere Egomane, Sascha Lobo, ist Kolumnist bei der Illustrierten „Spiegel“ und nennt sich „Digitalexperte“, tritt aber seit Jahrzehnten eher als digitaler Dauerkommentator in Erscheinung. Noch im 52. Lebensjahr buhlt er mit lächerlicher Irokesen-Friese um Aufmerksamkeit, heute in zartem Rosa. Haarsträubend.

Die große Frage ist also: Wenn es um Intelligenz geht, egal ob künstliche oder menschliche, was machen dann ausgerechnet solche Figuren im Studio?

Es kommt, wie es kommen muss: Denn was diese Konstellation zwangsläufig produziert, ist keine fundierte Diskussion, sondern ein Lehrstück in medialer Selbstdarstellung. Gegen die beiden Medien-Profis haben die Experten keine Chance. Lobo und Buyx dominieren die Bühne, und vor allem Buyx spielt sich permanent und penetrant in den Vordergrund, während Uszkoreit und Schell in die Defensive gedrängt werden.

Gern hätte man mehr interessante Details erfahren, doch schon früh zeigt sich das Muster. Vor allem Uszkoreit mit seiner zurückhaltenden Art bleibt auf dem Buyx-Schlachtfeld einsam und verstummt zurück. Mit mehr als 45 Jahren Erfahrung in Language & Knowledge Technologies und Stationen in den USA, Deutschland und China sitzt hier einer der wenigen echten KI-Pioniere im Studio. Doch kaum beginnt er, das Potenzial der Superintelligenz zu skizzieren, kaum warnt er, dass man mit Regulierung und „alten Konzepten“ schon die nächste Generation der KI nicht mehr bändigen könne, da mischt sich Buyx ungefragt ein. Rüpelhaft im Auftritt und läppisch in der Wortwahl, plustert sie sich auf: „Wir entwickeln das Zeug ja auch.“ Und sie sei „froh, dass ich in der EU lebe, dass wir überhaupt ein paar Prinzipien eingehauen haben“.

Auch Schell kann nur kurz etwas Kritik anbringen: „Wir unterhalten uns in Deutschland viel weniger über Fortschritt als, wie man regulieren kann. Länder wie China hätten „eine andere Kultur, was Innovation angeht“.

Lobo schiebt sogleich seine Lieblingsgefahr nach: Eben noch hat er Bill Gates für dessen „schiere Panikmache“ kritisiert, die KI könne eine Milliarde Menschen umbringen, da greift er selbst zu den dunkelsten Stiften, um selbst einen Teufel an die Wand zu malen: Autonome KI-Agenten würden bereits „Cyberangriffe eigenständig planen und ausführen“. Sie würden bösartige Hackeraufgaben erledigen, hätten sogar schon Teams gebildet und angefangen, „sich selbst zu opfern zum Vorteil des Kollektivs“. Vor allem die chinesische KI sei für die großen US-Unternehmen eine echte Gefahr, davor hätten sie richtig Angst. Kein Zweifel, Lobo muss der Mann sein, der ausnahmslos alle Interna der großen KI-Unternehmen kennt.

Schell versucht, dem Irokesenträger etwas Ruhe entgegenzusetzen. Die KI habe kein Bewusstsein. Etwaige Fehler lägen deshalb nicht im System, sondern in der Programmierung. „Das liegt am Prompt“, sagt Schell. Der Mensch habe offenbar „kein Framework“ gegeben, also keinen Rahmen. Und genau das müsse reguliert werden, aber keinesfalls die ganze KI. Schell: „Technologie ist im Ursprung neutral.“

Uszkoreit versucht, den technischen Unterschied zwischen aktueller, generativer KI und hypothetischer Superintelligenz zu erklären, und Schell als Praktiker konkretisiert die „vielfältigen Einsatzmöglichkeiten von Robotern und Künstlicher Intelligenz“ in der Industrie – etwa in Fertigung und Logistik. Doch das Duo Buyx/Lobo dreht die Diskussion unermüdlich in Richtung Alarm und gesellschaftlicher Untergangsszenarien.

Die beiden Experten sprechen wie Silicon Valley, das destruktive Duo antwortet wie die EU-Kommission. Hier Zuversicht, dort Panik. Und das negative Moment bekommt entscheidend mehr Raum in dieser Sendung.

Schell, der als CEO der KUKA Group täglich mit realen Robotern und KI-Systemen arbeitet, kommt kaum zu Wort. Wann immer er technische oder wirtschaftliche Chancen andeutet, springt Lobo dazwischen und malt das Bild einer „zunehmend von KI geprägten Welt“, in der der Mensch nur noch Statist ist. Uszkoreit, der in der c’t kürzlich noch darauf hingewiesen hat, dass der europäische AI Act „die wirklich existenziellen Gefahren der KI unangetastet“ lasse, wird von Buyx mit ethischen Allgemeinplätzen übergossen. Die Professorin, die gerade ihre eigene Primetime-Sendung bei 3sat bekommen hat, betrachtet den Abend bei Lanz offenbar als Fortsetzung ihres eigenen Formats. Ihre eigene Expertise in Sachen algorithmischer Architektur erscheint eher begrenzt, doch sie lächelt wacker – oder fletscht die Zähne, wie Zuschauer auf X spotten. Sie belehrt, statt zuzuhören. Also alles wie immer. Und genauso unerträglich wie immer.

Apropos seltsames Verhalten – auch Uszkoreit hat Sonderlinge in seinem Umfeld. Er kenne „Menschen, die glauben, dass ihre KI ein Bewusstsein, sogar Emotionen hätte“. Sie würden sogar „Hemmungen haben, diese Maschine dann noch als Maschinen zu sehen“. Jaja, weiß Lobo, die KI sei eben „Mustererkennung auf Speed“ und im Vorspielen von Empathie sogar besser als der Mensch.

Sofort grätscht Buyx wieder rein. Sie wolle „kurz als Ärztin“ mal vor der „Beziehungs-KI“ warnen, weil den Leuten dann „der Realitätssinn flöten geht“. Und „aus ethischer Perspektive“ müsse sie sagen: „Das macht mir einfach große Sorge. Ich komme aus dem Gesundheitswesen, da kracht uns die Bude zusammen.“ Sie ist noch immer läppisch in der Wortwahl.

„Da entsteht ’ne ganz neue Form von Intelligenz, und die kann uns schaden“, warnt die Buyx der Pharmorra, und „wenn wir der KI alles übergeben, werden wir, sorry dass ich das so sage, einfach auch dumm“. Offen bleibt, ob Sie aus eigener Erfahrung spricht. Als Lanz einen Einspieler ankündigt, in dem der KI-Investor und Söder-Schwiegersohn in spe, Eric Schmidt, ausgebuht wird, nimmt sie dem Moderator erstmal sauber die Pointe, bevor der Film überhaupt losgeht.

Und auch Schell kommt nicht weit. Der CEO sieht für Deutschland große Chancen in der Automatisierung. Die „physische KI“ biete „die absolute Möglichkeit“ für einen „Quantensprung“, denn „wir sind ein Land von Maschinenbauern“. Problem allerdings: „diese Angst, die wir haben“. Da seien andere Länder erheblich mutiger. Schell: „Was uns bremst, ist diese …“ – Buyx weiß, was er sagen will und fährt ihm über den Mund: „Behäbigkeit“. Dann schließt sie sekundenlang die Augen, fletscht wieder die Zähne und fühlt sich pudelwohl in ihrer Weisheit.

In diesen Momenten freut man sich auf den nächsten Corona-Untersuchungsausschuss, der in Sachsen-Anhalt bereits in den Startlöchern steht. Dort wird Buyx sicher eingeladen werden. Ob sie dann auch so redselig sein wird?