Führende US-Großbanken beginnen, externe KI-Systeme auszusperren: Sicherheitssysteme können offenbar nicht immer erkennen, ob ein Mensch oder eine selbständig agierende Software auf ein Konto zugreift – KI-Agenten könnten zu Bankräubern werden.
picture alliance / ZUMAPRESS.com | Gina M Randazzo
Eine neue, schwer kalkulierbare Gefahr alarmiert die US-Großbanken: Künstliche Intelligenz verschafft sich zunehmend Zugang zu Bankkonten, und manche Programme scheinen dabei eigenständig zu handeln, ohne dass ihre Nutzer entsprechende Anweisungen gegeben haben. Laut der News-Plattform Axios beginnen die Geldinstitute damit, externe KI-Systeme auszusperren. Betroffen sind bereits einige der größten Finanzinstitute der Vereinigten Staaten. Dazu gehören Morgan Stanley, JPMorgan Chase, Bank of America, Wells Fargo und Citigroup.
Wie Axios unter Berufung auf mehrere Banken-Insider berichtet, wurden bei verschiedenen Geldinstituten Zugriffe nicht genehmigter KI-Agenten festgestellt. Teilweise hätten diese Programme versucht, Handlungen vorzunehmen, die nicht eindeutig auf Anweisungen der Kontoinhaber zurückzuführen waren.
Die Nachrichtenagentur Reuters bestätigte inzwischen, dass mehrere Großbanken den Zugang externer KI-Agenten beschränken. Allerdings konnte Reuters die von Axios beschriebenen Vorfälle zunächst nicht unabhängig überprüfen.
In vielen Fällen überlassen Kunden ihren digitalen Assistenten freiwillig Benutzernamen und Passwörter. Die Programme melden sich anschließend bei der Bank an und erledigen bestimmte Aufgaben im Auftrag ihrer Nutzer.
Doch damit entsteht ein erhebliches Sicherheitsrisiko: Denn die Bank kann nicht immer zuverlässig unterscheiden, ob eine bestimmte Aktion tatsächlich vom Kontoinhaber gewünscht wurde oder ob die Software eigenmächtig handelt.
Gefahr durch manipulierte KI-Systeme
Besonders gefährlich wäre dies bei KI-Agenten, denen nicht nur die Einsicht in Kontostände, sondern auch die Durchführung von Überweisungen oder anderen finanziellen Transaktionen erlaubt wurde. Bankmanager befürchten, dass fehlerhafte oder manipulierte KI-Systeme dadurch erhebliche finanzielle Schäden verursachen könnten, berichtet Axios.
Die größte amerikanische Bank zieht bereits Konsequenzen: JPMorgan Chase schränkt den Zugang externer KI-Agenten zu seinen Systemen ein. Vorstandschef Jamie Dimon hatte schon Mitte Oktober ausdrücklich vor den Risiken gewarnt. „Wir werden nicht einfach jeden externen Agenten in unser Unternehmen lassen“, erklärte Dimon bei der Präsentation der Quartalsergebnisse. Das sei für Kunden und Bank schlicht zu gefährlich. Auch Finanzvorstand Jeremy Barnum bestätigte, dass das Institut versuche, entsprechende Zugriffe technisch zu blockieren.
Auch Morgan Stanley geht gegen externe KI-Agenten vor und hat damit begonnen, entsprechende Zugriffe auf seine Plattformen zu blockieren. Allerdings stellte ein Sprecher der Bank klar, dass bislang keine Fälle beobachtet worden seien, in denen unkontrollierte KI-Agenten eigenmächtig in die Systeme der Bank eingedrungen seien.
Ebenso beschränken die Bank of America und die Citigroup nach Informationen von Axios den Zugang externer Programme, der amerikanische Finanzdienstleister Charles Schwab verfolgt eine ähnliche Strategie. Vorstandschef Richard Wurster erklärte, sein Unternehmen blockiere nicht autorisierte KI-Agenten und erfasse diese Vorgänge täglich in einem Bericht.
Die Zahl der abgewehrten Zugriffe sei derzeit noch überschaubar, trotzdem halte das Unternehmen die Schutzmaßnahmen für notwendig, um die Kontrolle über die Anmeldung und Identifizierung seiner Kunden zu behalten.
Finanzaufsicht warnt ebenfalls
Dass die Sorgen der Banken keineswegs unbegründet sind, zeigen auch Untersuchungen der Finanzaufsicht: Das Financial Stability Board veröffentlichte im Oktober neue Empfehlungen zum verantwortungsvollen Einsatz Künstlicher Intelligenz im Finanzsektor. Darin werden unter anderem menschliche Kontrolle, transparente Entscheidungsprozesse und ein strenges Risikomanagement für externe KI-Systeme gefordert. Die kanadische Bankenaufsicht OSFI warnte bereits im Sommer vor den besonderen Gefahren selbständig handelnder KI-Agenten: Zu weitreichende Zugriffsrechte könnten dazu führen, dass Programme unerlaubte Aktionen durchführen oder vertrauliche Informationen weitergeben.



Sie müssenangemeldet sein um einen Kommentar oder eine Antwort schreiben zu können
Bitte loggen Sie sich ein
Die KI macht doch nichts anderes als die deutsche Regierung,
informieren, manipulieren und schröpfen unserer Konten, oder?
Ist die deutsche Regierung selbst nur eine Erfindung der KI und die Figur Merz deshalb eine reine Animation? Von Perfektion ist die KI auf vielen Gebieten ja noch weit entfernt.
„Man“ sollte mal die AGBs lesen. Passworte etc an Dritte zu geben, führt dazu, dass die Bank nicht haftet. Nur Bildungsarmut nimmt an, dass KI kein Dritter ist, ohne sich bei der Bank zu vergewissern. Eine Stufe vorher: Der Passwortmanager.
Hä? Seit wann gibt es jetzt genau LLMs mit eigenem „Willen“? Wo steckt der denn zwischen dem Prefill und Generation? Selten so einen Quatsch gelesen.
„Eine neue, schwer kalkulierbare Gefahr alarmiert die US-Großbanken: Künstliche Intelligenz verschafft sich zunehmend Zugang zu Bankkonten, und manche Programme scheinen dabei eigenständig zu handeln, ohne dass ihre Nutzer entsprechende Anweisungen gegeben haben.“ Einer von vielen Gründen kein Internetbanking zu machen! Telefonbanking mit richtigen Sachbearbeitern geht, da Sicherheit durch E-Mail Bestätigung, Passwörtern und weitere Sicherheitsmaßnahmen Gewährleistet werden kann. Die Deutsche Bank hat jetzt einen neuen Trick drauf. Bargeldabhebung am Bankschalter, Minimum 2.000 Euro, ansonsten Geldautomat. Nur ein weiterer Schritt Richtung Bargeldlosen Geldverkehr, was die meisten Kunden kaum begreifen. Wollte dort Aktien kaufen. Das war nicht möglich, weil ich angeblich(?) belehrt werden… Mehr
Jede Bank bietet inzwischen Internetbanking an. Selbst wenn Sie zu einer Bank gehen gehen mit Schalterpersonal, kann Ihr Konto Internet. Sie können nur darauf verzichten, es zu aktivieren. Und ich denke, Sie werden dort beim persönlichen Berater die gleichen Angaben machen und unterschreiben müssen für Aktienkäufe wie fürs Internetbanking auch.
Da stellt sich natürlich die Frage, wie man einer KI-Blackbox so weit vertrauen kann, dass man der Kontrolle über sein Geld anvertraut.
Derweil Analysten an der Wall-Street längst das Schicksal von Konzernen und ganzen Volkswirtschaften in die virtuellen Hände von KI-Systemen legen.
‚Die Geister, die ich rief, werde ich nun nicht los‘
Ja die Geister in den Köpfen der Menschen – die aus Allem was sie nicht verstehen einen „bösen Geist“ machen
Was soll dieser populistische Blödsinn andauernd von KI zu sprechen.
Es gibt keine KI !!! – was als „KI“ verulkt wird hat mit Intelligenz nicht das gerinste zu tun.
Es sind Sprachanalyse Systeme – die anhand von Stichworten Antworten herausfiltern aus ihrem gespeicherten Wissen.
Intelligenz = Begreifen und Verstehen – das können diese Systems nicht.
Beweisen Sie Ihre Behauptung.
Da gibt’s nichts zu beweisen, denn KI ist nichts anders als von Menschen programmierte Software, die super schnell Unmengen an abgespeicherten Daten durchsuchen kann. Intelligent ist daran überhaupt gar nichts.
touche Chapeau
Suchen sie sich ihren Beweis selber indem sie mit KI chaten.
Im Grunde können wir Anwender mit dem Programm nicht umgehen. Jede sprachliche Ungenauigkeit kann aufs „Glatteis“ führen. Und sprachliche Ungenauigkeit kommt von laxem Umgang mit der Sprache oder von fehlenem Verständnis dessen, was man abfragt, von fehlender mindestens grober Kontrolle durch den Anwender.
Kann die Künstliche Intelligenz auch Bankkonten plündern? – NEIN das kann sie nicht – weil KI überhaupt keine eigenen Absichten hat – sondern nur das tut was der Mensch ihr einprogrammiert hat. Die Frage muss also lauten – Können Menschen mithilfe von KI Konten Plündern? – auch da heißt es NEIN Um ein Bankonto zu plündrn braucht es ein ZugangPIN. Das geht auch nicht durch ausprobieren – denn bei 3x wiederhot falschem PIN wird das konto gespert für online Zugriff – zudem, ein PIN ist mindesten 4 stellig also 10.000 Möglichkeiten die auszuprobiren wären Was da Böses über KI erzählt… Mehr
Hat der Mensch eigene Absichten, oder ist es auch nur „Einprogrammiertes“, oder?
Der Mensch hat einprogrammierte Absichten die er meint es seien seine eigenen. – darum haben wird doch Schulpflicht
Das Latein der Leute ist spätestens am Ende, wenn der Staat ungefragt an jedem ersten für sich die Kollekte und vielleicht noch wahlweise für barmherzige Zwecke auf das Konto aller zugreift und man dann über den Rest verfügen kann, unabhängig von den eigenen Problemen, die dabei entstehen können. Wenn es dann noch ein Bargeldverbot gibt oder mit einem Limit versehen ist, dann sitzen wir wie die Ratten in der Falle und die Immobilie ist auch nicht frei von Begierden, einschließlich dessen was sich darin befindet, bei Gold angefangen bis hin zum Picasso und nicht vergessen, verkommene Subjekte sind zu allem… Mehr
Und wie meldet sich die KI an meinem Bankkonto an? Das geht nämlich nur mit Photo-TAN. Und das Gerät dazu bekam ich von meiner Bank. Es funktioniert nur mit meinen Bankkonten.
Ach so, die Deppen geben ihre Zugangsdaten weiter. Dann ist doch alles klar: Selber Schuld. Zugangsdatenweitergabe ist grob fahrlässig. Dann können die ihre Zugangsdaten auch gleich an die nächste Litfaßsäule kleben. Oder an jede Laterne, gleich neben „Katze entlaufen“ oder „Möbel zu verkaufen“.
Der Mensch ist das größte Monster und vernichtet sich durch seine Gier selbst. Insbesondere im Politikbereich findet man diese Spezies besonders häufig.