Kann die Künstliche Intelligenz auch Bankkonten plündern?

Führende US-Großbanken beginnen, externe KI-Systeme auszusperren: Sicherheitssysteme können offenbar nicht immer erkennen, ob ein Mensch oder eine selbständig agierende Software auf ein Konto zugreift – KI-Agenten könnten zu Bankräubern werden.

Die Zentrale von JP Morgan in New York. picture alliance / ZUMAPRESS.com | Gina M Randazzo
Die Zentrale von JP Morgan in New York.

Eine neue, schwer kalkulierbare Gefahr alarmiert die US-Großbanken: Künstliche Intelligenz verschafft sich zunehmend Zugang zu Bankkonten, und manche Programme scheinen dabei eigenständig zu handeln, ohne dass ihre Nutzer entsprechende Anweisungen gegeben haben. Laut der News-Plattform Axios beginnen die Geldinstitute damit, externe KI-Systeme auszusperren. Betroffen sind bereits einige der größten Finanzinstitute der Vereinigten Staaten. Dazu gehören Morgan Stanley, JPMorgan Chase, Bank of America, Wells Fargo und Citigroup.

Wie Axios unter Berufung auf mehrere Banken-Insider berichtet, wurden bei verschiedenen Geldinstituten Zugriffe nicht genehmigter KI-Agenten festgestellt. Teilweise hätten diese Programme versucht, Handlungen vorzunehmen, die nicht eindeutig auf Anweisungen der Kontoinhaber zurückzuführen waren.

Die Nachrichtenagentur Reuters bestätigte inzwischen, dass mehrere Großbanken den Zugang externer KI-Agenten beschränken. Allerdings konnte Reuters die von Axios beschriebenen Vorfälle zunächst nicht unabhängig überprüfen.

Debanking
Von der EU-Sanktion zur Kontaktschuld
Die neue Gefahr unterscheidet sich grundlegend von klassischen Hackerangriffen: Bei sogenannten KI-Agenten handelt es sich um Programme, die nicht nur Fragen beantworten oder Informationen auswerten, sondern eigenständig Aufgaben erledigen können. Sie können beispielsweise Einkäufe organisieren, Rechnungen bearbeiten, Termine vereinbaren oder verschiedene Internetdienste miteinander verbinden. Problematisch kann dann sein, wenn derartige Systeme Zugriff auf Bankkonten erhalten.

In vielen Fällen überlassen Kunden ihren digitalen Assistenten freiwillig Benutzernamen und Passwörter. Die Programme melden sich anschließend bei der Bank an und erledigen bestimmte Aufgaben im Auftrag ihrer Nutzer.

Doch damit entsteht ein erhebliches Sicherheitsrisiko: Denn die Bank kann nicht immer zuverlässig unterscheiden, ob eine bestimmte Aktion tatsächlich vom Kontoinhaber gewünscht wurde oder ob die Software eigenmächtig handelt.

Gefahr durch manipulierte KI-Systeme

Besonders gefährlich wäre dies bei KI-Agenten, denen nicht nur die Einsicht in Kontostände, sondern auch die Durchführung von Überweisungen oder anderen finanziellen Transaktionen erlaubt wurde. Bankmanager befürchten, dass fehlerhafte oder manipulierte KI-Systeme dadurch erhebliche finanzielle Schäden verursachen könnten, berichtet Axios.

Die größte amerikanische Bank zieht bereits Konsequenzen: JPMorgan Chase schränkt den Zugang externer KI-Agenten zu seinen Systemen ein. Vorstandschef Jamie Dimon hatte schon Mitte Oktober ausdrücklich vor den Risiken gewarnt. „Wir werden nicht einfach jeden externen Agenten in unser Unternehmen lassen“, erklärte Dimon bei der Präsentation der Quartalsergebnisse. Das sei für Kunden und Bank schlicht zu gefährlich. Auch Finanzvorstand Jeremy Barnum bestätigte, dass das Institut versuche, entsprechende Zugriffe technisch zu blockieren.

Wiederaufbauhilfe
Wie deutsches Geld über die Ukraine an BlackRock fließen soll
Besonders brisant ist dabei die Frage der Haftung. Wer seine Zugangsdaten freiwillig einem KI-System überlässt, könnte im Schadensfall selbst für bestimmte Folgen verantwortlich sein. Die Nutzungsbedingungen von JPMorgan Chase enthalten inzwischen ausdrückliche Bestimmungen für KI-Agenten. Demnach müssen sich solche Programme als automatisierte Systeme zu erkennen geben und dürfen technische Zugangsbeschränkungen nicht umgehen. Die Bank behält sich außerdem vor, den Zugriff jederzeit einzuschränken oder vollständig zu unterbinden.

Auch Morgan Stanley geht gegen externe KI-Agenten vor und hat damit begonnen, entsprechende Zugriffe auf seine Plattformen zu blockieren. Allerdings stellte ein Sprecher der Bank klar, dass bislang keine Fälle beobachtet worden seien, in denen unkontrollierte KI-Agenten eigenmächtig in die Systeme der Bank eingedrungen seien.

Ebenso beschränken die Bank of America und die Citigroup nach Informationen von Axios den Zugang externer Programme, der amerikanische Finanzdienstleister Charles Schwab verfolgt eine ähnliche Strategie. Vorstandschef Richard Wurster erklärte, sein Unternehmen blockiere nicht autorisierte KI-Agenten und erfasse diese Vorgänge täglich in einem Bericht.

Die Zahl der abgewehrten Zugriffe sei derzeit noch überschaubar, trotzdem halte das Unternehmen die Schutzmaßnahmen für notwendig, um die Kontrolle über die Anmeldung und Identifizierung seiner Kunden zu behalten.

Finanzaufsicht warnt ebenfalls

Dass die Sorgen der Banken keineswegs unbegründet sind, zeigen auch Untersuchungen der Finanzaufsicht: Das Financial Stability Board veröffentlichte im Oktober neue Empfehlungen zum verantwortungsvollen Einsatz Künstlicher Intelligenz im Finanzsektor. Darin werden unter anderem menschliche Kontrolle, transparente Entscheidungsprozesse und ein strenges Risikomanagement für externe KI-Systeme gefordert. Die kanadische Bankenaufsicht OSFI warnte bereits im Sommer vor den besonderen Gefahren selbständig handelnder KI-Agenten: Zu weitreichende Zugriffsrechte könnten dazu führen, dass Programme unerlaubte Aktionen durchführen oder vertrauliche Informationen weitergeben.

Anzeige

Unterstützung
oder €

Kommentare ( 28 )

Liebe Leser!

Wir sind dankbar für Ihre Kommentare und schätzen Ihre aktive Beteiligung sehr. Ihre Zuschriften können auch als eigene Beiträge auf der Site erscheinen oder in unserer Monatszeitschrift „Tichys Einblick“.
Bitte entwerten Sie Ihre Argumente nicht durch Unterstellungen, Verunglimpfungen oder inakzeptable Worte und Links. Solche Texte schalten wir nicht frei. Ihre Kommentare werden moderiert, da die juristische Verantwortung bei TE liegt. Bitte verstehen Sie, dass die Moderation zwischen Mitternacht und morgens Pause macht und es, je nach Aufkommen, zu zeitlichen Verzögerungen kommen kann. Vielen Dank für Ihr Verständnis. Hinweis

28 Comments
neuste
älteste beste Bewertung
Inline Feedbacks
Alle Kommentare ansehen
Budgie
20 Tage her

Die KI macht doch nichts anderes als die deutsche Regierung,
informieren, manipulieren und schröpfen unserer Konten, oder?
Ist die deutsche Regierung selbst nur eine Erfindung der KI und die Figur Merz deshalb eine reine Animation? Von Perfektion ist die KI auf vielen Gebieten ja noch weit entfernt.

Last edited 20 Tage her by Budgie
Mausi
17 Tage her

„Man“ sollte mal die AGBs lesen. Passworte etc an Dritte zu geben, führt dazu, dass die Bank nicht haftet. Nur Bildungsarmut nimmt an, dass KI kein Dritter ist, ohne sich bei der Bank zu vergewissern. Eine Stufe vorher: Der Passwortmanager.

Last edited 17 Tage her by Mausi
curryculum
19 Tage her

Hä? Seit wann gibt es jetzt genau LLMs mit eigenem „Willen“? Wo steckt der denn zwischen dem Prefill und Generation? Selten so einen Quatsch gelesen.

Reinhard Peda
19 Tage her

„Eine neue, schwer kalkulierbare Gefahr alarmiert die US-Großbanken: Künstliche Intelligenz verschafft sich zunehmend Zugang zu Bankkonten, und manche Programme scheinen dabei eigenständig zu handeln, ohne dass ihre Nutzer entsprechende Anweisungen gegeben haben.“ Einer von vielen Gründen kein Internetbanking zu machen!  Telefonbanking mit richtigen Sachbearbeitern geht, da Sicherheit durch E-Mail Bestätigung, Passwörtern und weitere Sicherheitsmaßnahmen Gewährleistet werden kann. Die Deutsche Bank hat jetzt einen neuen Trick drauf. Bargeldabhebung am Bankschalter, Minimum 2.000 Euro, ansonsten Geldautomat. Nur ein weiterer Schritt Richtung Bargeldlosen Geldverkehr, was die meisten Kunden kaum begreifen. Wollte dort Aktien kaufen. Das war nicht möglich, weil ich angeblich(?) belehrt werden… Mehr

Mausi
17 Tage her
Antworten an  Reinhard Peda

Jede Bank bietet inzwischen Internetbanking an. Selbst wenn Sie zu einer Bank gehen gehen mit Schalterpersonal, kann Ihr Konto Internet. Sie können nur darauf verzichten, es zu aktivieren. Und ich denke, Sie werden dort beim persönlichen Berater die gleichen Angaben machen und unterschreiben müssen für Aktienkäufe wie fürs Internetbanking auch.

Last edited 17 Tage her by Mausi
yeager
20 Tage her

Da stellt sich natürlich die Frage, wie man einer KI-Blackbox so weit vertrauen kann, dass man der Kontrolle über sein Geld anvertraut.
Derweil Analysten an der Wall-Street längst das Schicksal von Konzernen und ganzen Volkswirtschaften in die virtuellen Hände von KI-Systemen legen.

P. Pauquet
20 Tage her

‚Die Geister, die ich rief, werde ich nun nicht los‘

Peter Pascht
19 Tage her
Antworten an  P. Pauquet

Ja die Geister in den Köpfen der Menschen – die aus Allem was sie nicht verstehen einen „bösen Geist“ machen

Peter Pascht
20 Tage her

Was soll dieser populistische Blödsinn andauernd von KI zu sprechen.
Es gibt keine KI !!! – was als „KI“ verulkt wird hat mit Intelligenz nicht das gerinste zu tun.
Es sind Sprachanalyse Systeme – die anhand von Stichworten Antworten herausfiltern aus ihrem gespeicherten Wissen.
Intelligenz = Begreifen und Verstehen – das können diese Systems nicht.

Gert Lange
20 Tage her
Antworten an  Peter Pascht

Beweisen Sie Ihre Behauptung.

Michael M.
20 Tage her
Antworten an  Gert Lange

Da gibt’s nichts zu beweisen, denn KI ist nichts anders als von Menschen programmierte Software, die super schnell Unmengen an abgespeicherten Daten durchsuchen kann. Intelligent ist daran überhaupt gar nichts.

Peter Pascht
19 Tage her
Antworten an  Michael M.

touche Chapeau

Peter Pascht
19 Tage her
Antworten an  Gert Lange

Suchen sie sich ihren Beweis selber indem sie mit KI chaten.

Mausi
17 Tage her
Antworten an  Peter Pascht

Im Grunde können wir Anwender mit dem Programm nicht umgehen. Jede sprachliche Ungenauigkeit kann aufs „Glatteis“ führen. Und sprachliche Ungenauigkeit kommt von laxem Umgang mit der Sprache oder von fehlenem Verständnis dessen, was man abfragt, von fehlender mindestens grober Kontrolle durch den Anwender.

Last edited 17 Tage her by Mausi
Peter Pascht
20 Tage her

Kann die Künstliche Intelligenz auch Bankkonten plündern? – NEIN das kann sie nicht – weil KI überhaupt keine eigenen Absichten hat – sondern nur das tut was der Mensch ihr einprogrammiert hat. Die Frage muss also lauten – Können Menschen mithilfe von KI Konten Plündern? – auch da heißt es NEIN Um ein Bankonto zu plündrn braucht es ein ZugangPIN. Das geht auch nicht durch ausprobieren – denn bei 3x wiederhot falschem PIN wird das konto gespert für online Zugriff – zudem, ein PIN ist mindesten 4 stellig also 10.000 Möglichkeiten die auszuprobiren wären Was da Böses über KI erzählt… Mehr

Gert Lange
20 Tage her
Antworten an  Peter Pascht

Hat der Mensch eigene Absichten, oder ist es auch nur „Einprogrammiertes“, oder?

Peter Pascht
19 Tage her
Antworten an  Gert Lange

Der Mensch hat einprogrammierte Absichten die er meint es seien seine eigenen. – darum haben wird doch Schulpflicht

Nibelung
20 Tage her

Das Latein der Leute ist spätestens am Ende, wenn der Staat ungefragt an jedem ersten für sich die Kollekte und vielleicht noch wahlweise für barmherzige Zwecke auf das Konto aller zugreift und man dann über den Rest verfügen kann, unabhängig von den eigenen Problemen, die dabei entstehen können. Wenn es dann noch ein Bargeldverbot gibt oder mit einem Limit versehen ist, dann sitzen wir wie die Ratten in der Falle und die Immobilie ist auch nicht frei von Begierden, einschließlich dessen was sich darin befindet, bei Gold angefangen bis hin zum Picasso und nicht vergessen, verkommene Subjekte sind zu allem… Mehr

Michael W.
20 Tage her

Und wie meldet sich die KI an meinem Bankkonto an? Das geht nämlich nur mit Photo-TAN. Und das Gerät dazu bekam ich von meiner Bank. Es funktioniert nur mit meinen Bankkonten.
Ach so, die Deppen geben ihre Zugangsdaten weiter. Dann ist doch alles klar: Selber Schuld. Zugangsdatenweitergabe ist grob fahrlässig. Dann können die ihre Zugangsdaten auch gleich an die nächste Litfaßsäule kleben. Oder an jede Laterne, gleich neben „Katze entlaufen“ oder „Möbel zu verkaufen“.

Last edited 20 Tage her by Michael W.
Peter Gramm
20 Tage her

Der Mensch ist das größte Monster und vernichtet sich durch seine Gier selbst. Insbesondere im Politikbereich findet man diese Spezies besonders häufig.