Der Aufstand der Roboterautos

Die autonome Zukunft ist da und kreist morgens um sieben durch amerikanische Vorstädte. Leere Waymo-Taxis stranden in Sackgassen und beweisen, dass KI die Welt noch nicht übernimmt. Sie blockiert aber schon einmal die Einfahrt.

IMAGO / ZUMA Press Wire

Atlanta hat Zukunft erlebt. Sie kam nicht mit UFOS, nicht mit fliegenden Autos, nicht mit Sirenen und nicht mit autonomen Robotern. Sie kam als weißer elektrischer Jaguar I-PACE, ohne Fahrer, ohne Fahrgast, ohne erkennbaren Sinn. Und dann kam noch einer. Und noch einer. Und noch einer. Bis sich eine amerikanische Wohnstraße wie ein Wartezimmer der künstlichen Intelligenz anfühlte. Die Anwohner staunten.

Früher erkannte man technische Fehlentwicklungen daran, daß sie rauchten, knallten oder stehenblieben. Heute erkennt man sie daran, daß sie perfekt lautlos funktionieren nur eben am falschen Ort. In Atlanta drangen früh am Morgen zwischen sechs und sieben Uhr fünfzig leere autonome Waymo-Taxis in eine Sackgasse ein. Die Autos wollten offenbar niemanden abholen. Sie wollten auch nirgendwo hin. Sie waren einfach da. Wie eine Delegation aus dem Silicon Valley, die der Vorstadt mitteilen wollte: Ihr habt zwar Haustiere, Kinder und Schulbusse, aber wir haben ein Update. Oder vielleicht wollten sie auch nur mal sehen, wie es ist, ein Vorgarten-Ornament zu sein.

Die Bewohner versuchten, sich mit einem neonfarbenen Warnschild zu wehren. In der alten Welt wäre auf einem solchen Schild gestanden: „Langsam, Kinder!“ In der neuen Welt stoppte es die Waymos. Die Fahrzeuge standen jetzt herum und rechneten vermutlich: Hindernis erkannt. Schild gesehen, doch keine Kinder. Sackgasse erkannt. Rückwärtsfahren möglich. Acht Waymos sollen zeitweise festgehangen haben. Acht autonome Nobelautos in gemeinsamer Sinnkrise. Das ist der digitale Burnout im Kleinformat: Wenn der Prozessor glüht, aber die Reifen sich nicht drehen.

Früher fluchte der Fahrer, stieg aus, schimpfte, hupte und fuhr dann irgendwie weiter. Heute gibt es keinen Fahrer mehr, der flucht. Das Auto meditiert. Es blickt mit Lidar und Radar in die Welt und wartet auf Erleuchtung aus der Cloud. Der Mensch steht daneben und fragt: „Wer ist zuständig?“ Die Antwort lautet: niemand, jedenfalls niemand, der in Reichweite wäre. Der Wagen gehört einer Firma, die Software bestimmt über den Wagen, der Fahrgast existiert nicht, und die Verantwortung fährt gerade in einer anderen Sackgasse. Es ist die erste Form von Geisterverkehr, bei der die Geister eine Haftpflichtversicherung abgeschlossen haben.

Das Taxiunternehmen Waymo, das in seiner Flotte über rund 3.800 autonome Fahrzeuge in den USA verfügt, betont, man nehme Rückmeldungen der Anwohner ernst und habe das Routing-Verhalten bereits korrigiert. Hier zeigte sich die erste Form des autonomen Bürokratismus: Nicht der Mensch muß zum Amt, sondern das Amt kommt als fahrerloses Auto in die Wohnstraße, dreht drei Runden und erklärt durch seine bloße Anwesenheit, daß der Vorgang leider nicht abgeschlossen werden konnte.

Man muß sich nur vorstellen, wie die Sache weitergeht, wenn erst sämtliche Fahrzeuge autonom sind. Morgens um sieben verweigert der Schulbus die Abfahrt, weil ein Lieferroboter mit einem Müllfahrzeug eine ethische Vorrangfrage ausficht. Die autonome Feuerwehr fährt zwar los, kehrt aber nach 400 Metern um, weil die Einsatzstelle laut Kartenmaterial noch nicht ausreichend validiert ist. Der selbstfahrende Leichenwagen interpretiert ein Schlagloch als Bestattungsort und hält eine kurze Trauerphase ab. Und der autonome Dienstwagen des Bürgermeisters kreist drei Stunden um das Rathaus, weil er in den Sitzungsunterlagen den Begriff „Kreisverkehr“ gefunden hat.

Ampeln werden dann nicht mehr rot, gelb oder grün zeigen, sondern „bitte warten, Software kalkuliert“. Parkplätze werden zu Sammelstellen verunsicherter Elektro-SUVs. Vor Kindergärten stehen nicht mehr Elterntaxis, sondern leere Robotaxis, die mit ernster Miene Kinder schützen wollen, indem sie ihnen den Weg versperren. Und wenn irgendwo ein Mensch ein Schild aufstellt, kommt sofort ein städtischer Hinweis: „Bitte keine analogen Gegenstände in algorithmisch sensiblen Zonen.“

Die große Angst vor der künstlichen Intelligenz war immer, daß sie eines Tages zu klug wird. Vielleicht ist die erste Gefahr banaler: Sie wird nicht böse, sondern pedantisch. Sie übernimmt nicht die Welt, sie blockiert nur die Einfahrt. „Ziel erreicht!“ Sie versklavt die Menschheit nicht, sie läßt sie warten, weil die Situation „nicht eindeutig“ ist. Das digitale Gehirn hat nicht vor, die Menschheit auszulöschen; es hat nur vergessen, sie in der Routing-Tabelle zu priorisieren.

Atlanta hat also keinen Maschinensturm erlebt. Eher digitale Eskapaden mit sehr teuren Autos. Aber das zeigt, was passiert, wenn Stadtverkehr nicht mehr aus Fahrern besteht, sondern aus Flottenlogik, Kartenmaterial, Optimierungszielen und Fernwartung. Die autonome Zukunft kommt nicht als Terminator. Sie kommt als leeres Taxi, das frühmorgens um sechs am Haus vorbeigleitet, noch einmal wendet, noch einmal wiederkommt und freundlich mitteilt: Die Route wurde neu berechnet.

Anzeige

Unterstützung
oder

Kommentare ( 46 )

Liebe Leser!

Wir sind dankbar für Ihre Kommentare und schätzen Ihre aktive Beteiligung sehr. Ihre Zuschriften können auch als eigene Beiträge auf der Site erscheinen oder in unserer Monatszeitschrift „Tichys Einblick“.
Bitte entwerten Sie Ihre Argumente nicht durch Unterstellungen, Verunglimpfungen oder inakzeptable Worte und Links. Solche Texte schalten wir nicht frei. Ihre Kommentare werden moderiert, da die juristische Verantwortung bei TE liegt. Bitte verstehen Sie, dass die Moderation zwischen Mitternacht und morgens Pause macht und es, je nach Aufkommen, zu zeitlichen Verzögerungen kommen kann. Vielen Dank für Ihr Verständnis. Hinweis

46 Comments
neuste
älteste beste Bewertung
Inline Feedbacks
Alle Kommentare ansehen
Verzeihtnix
26 Tage her

Die KI könnte das Wort „Sackgasse“ auch völlig anders interpretieren.

Peterson82
27 Tage her

Und was ist jetzt der Kern des Artikels? Ja, es war berichtenswert dass es sich ereignet hat. Mehr aber auch nicht. Gegenüber dem Menschen ist eine KI lernfähig, lernt aus Fehlern und wird sie vermutlich mit entsprechendme Update nicht wiederholen. Wieviele erfolglose Kampagnen gegen Alkohol am Steuer gab es und wie oft passiert es dennoch? Tausende Waymos legen jeden Tag ebenso tausende Kilometer autonom und ohne Aufsehen zurück.
Wieviele Staus entstehen durch den Menschen? Wie besser könnte das System autonom funktionieren?

AM
27 Tage her

„Bis sich eine amerikanische Wohnstraße wie ein Wartezimmer der künstlichen Intelligenz anfühlte.“ – Genau das wird es gewesen sein. Die Autos hatten nichts zu tun, wahrscheinlich auch keinen Stammparkplatz und sollten irgendwo kreisen, wo es möglichst wenig stört. Dummerweise hatte man vergessen, ihnen beizubringen, daß nicht alle das in der gleichen Straße versuchen.

Insgesamt kein Grund zur Aufregung, das Problem dürfte schnell gelöst sein. Schade, daß es die Kisten hier noch nicht gibt. Angenehmer als der durchschnittliche deutsche Taxifaher sind sie sicherlich.

Alf
27 Tage her

Autonom fahrende Fahrzeuge sind blind, wenn eine Fliege den Sensor verdeckt. Aber viel schlimmer ist die Informationsaufbereitung Macht Powerpoint blöd?Die New York Times zitiert einen Bericht, demnach das Columbia-Unglück auch durch falsche Informationsaufbereitung zustande gekommen sein könnte.Weltweit sind ungefähr 400 Millionen Exemplare von Microsofts Präsentations-Software PowerPoint im Einsatz. Der US-Computerwissenschaftler Edward Tufte [1] ist der Meinung, dass dieses Programm seine Nutzer potentiell verblödet [2]. Er begründet das mit der komprimierten Art, in der Informationen in den .ppt-Dateien wiedergegeben werden. Diese erziehe die Menschen dazu, Texte zu überfliegen und Listen zu vertrauen, nicht mehr dem eigenen Menschenverstand.Die New York Times [3]… Mehr

Last edited 27 Tage her by Alf
Will Hunting
27 Tage her

Das ist ein Lernprozess.
Allerdings sollten uns Amokfahrten zu denken geben.
Jedes System kann manipuliert werden.
.

Kuno.2
27 Tage her

Die KI und die weitere Modernisierung müssen natürlich Grenzen haben. Bei manchen neueren PKW (seit mindestens einem Jahr) kann man sein Auto normal in ein Parkhaus fahren und dann später per Knopfdruck der Fernbedienung zur Ausfahrt ordern. Wenn das aber viele Autofahrer so machen, dann gibt es zwar keine Karambolage aber jede Menge Stau im Parkhaus.

Will Hunting
27 Tage her

Ich mache mir zuweilen ein Spaß daraus KI mit mehrdeutigen Fragen herauszufordern.
KI folgt Algorithmen oder Strukturen.
Allerdings sollte man dem ganzen Zeit geben.
Ich habe Jahrzehnte für eine Architekten gearbeitet.
Ich hatte Einblick in seine frühen und späten Werke.
Fenster die nicht im 90Grad Winkel zu öffnen waren oder Mulden im Mauerwerk für das Thermostatventil bis hin zu zahlreichen Auszeichnungen.
Also…abwarten.

alter weisser Mann
27 Tage her

Warum soll die KI, die sich zumal im Säuglingsalter befindet, keine Fehler machen?
Der Artikel ist mehr so deutscher Stammtisch.

Michael M.
27 Tage her
Antworten an  alter weisser Mann

Leider komplett daneben. Der KI-Mist wird uns doch grundsätzlich als Allheilmittel verkauft und intelligent ist daran schon mal gar nichts.
Vom vollautonomen Straßenverkehr sind wir noch Lichtjahre entfernt und Ich bin vom Fach und weiß wovon ich spreche. Sie auch, offensichtlich wohl eher nicht, oder?!

Last edited 27 Tage her by Michael M.
Sozia
27 Tage her

Auf Youtube gibt es ein nettes Video, in dem eine Reporterin versucht, ihren Sohn mit einem Weymo abzuholen. Zuerst bleibt das Auto auf der anderen Straßenseite stehen, anstatt zu wenden und sie direkt mitzunehmen. Bei der grünen Ampel bleibt es dann längere Zeit stehen und blockiert die linke Fahrspur. Und letztendlich teilt das Auto seiner Passagierin mit, sie habe nur noch 5 Minuten Fußmarsch zu ihrem Ziel, obwohl die Straße eigentlich direkt hingeführt hätte. In einem anderen Video sieht man, wie sich die Reymos auf einem Großparkplatz alle gleichzeitig morgens auf den Weg machen und sich haltlos ineinander verheddern. Und… Mehr

h.milde
27 Tage her

Interessant, die „KI-Autos“ beginnen schon eine Art „Sozialverhalten“ zu zeigen wie in “ I Robot“, oder wurden die gehackt?
Werden die Hacker dann, vllt. sogar unliebsame Fahrgäste, sagen wir mal im „Kampf gegen Rechts“, in Gegenden fahren,wo es lebensgefährlcih sein könnte, oder die Kiste samt Passagier über die Klippen fahren?