Eine neue, schwer kalkulierbare Gefahr alarmiert die US-Großbanken: Künstliche Intelligenz verschafft sich zunehmend Zugang zu Bankkonten, und manche Programme scheinen dabei eigenständig zu handeln, ohne dass ihre Nutzer entsprechende Anweisungen gegeben haben. Laut der News-Plattform Axios beginnen die Geldinstitute damit, externe KI-Systeme auszusperren. Betroffen sind bereits einige der größten Finanzinstitute der Vereinigten Staaten. Dazu gehören Morgan Stanley, JPMorgan Chase, Bank of America, Wells Fargo und Citigroup.

Wie Axios unter Berufung auf mehrere Banken-Insider berichtet, wurden bei verschiedenen Geldinstituten Zugriffe nicht genehmigter KI-Agenten festgestellt. Teilweise hätten diese Programme versucht, Handlungen vorzunehmen, die nicht eindeutig auf Anweisungen der Kontoinhaber zurückzuführen waren.

Die Nachrichtenagentur Reuters bestätigte inzwischen, dass mehrere Großbanken den Zugang externer KI-Agenten beschränken. Allerdings konnte Reuters die von Axios beschriebenen Vorfälle zunächst nicht unabhängig überprüfen.

Die neue Gefahr unterscheidet sich grundlegend von klassischen Hackerangriffen: Bei sogenannten KI-Agenten handelt es sich um Programme, die nicht nur Fragen beantworten oder Informationen auswerten, sondern eigenständig Aufgaben erledigen können. Sie können beispielsweise Einkäufe organisieren, Rechnungen bearbeiten, Termine vereinbaren oder verschiedene Internetdienste miteinander verbinden. Problematisch kann dann sein, wenn derartige Systeme Zugriff auf Bankkonten erhalten.

In vielen Fällen überlassen Kunden ihren digitalen Assistenten freiwillig Benutzernamen und Passwörter. Die Programme melden sich anschließend bei der Bank an und erledigen bestimmte Aufgaben im Auftrag ihrer Nutzer.

Doch damit entsteht ein erhebliches Sicherheitsrisiko: Denn die Bank kann nicht immer zuverlässig unterscheiden, ob eine bestimmte Aktion tatsächlich vom Kontoinhaber gewünscht wurde oder ob die Software eigenmächtig handelt.

Gefahr durch manipulierte KI-Systeme

Besonders gefährlich wäre dies bei KI-Agenten, denen nicht nur die Einsicht in Kontostände, sondern auch die Durchführung von Überweisungen oder anderen finanziellen Transaktionen erlaubt wurde. Bankmanager befürchten, dass fehlerhafte oder manipulierte KI-Systeme dadurch erhebliche finanzielle Schäden verursachen könnten, berichtet Axios.

Die größte amerikanische Bank zieht bereits Konsequenzen: JPMorgan Chase schränkt den Zugang externer KI-Agenten zu seinen Systemen ein. Vorstandschef Jamie Dimon hatte schon Mitte Oktober ausdrücklich vor den Risiken gewarnt. „Wir werden nicht einfach jeden externen Agenten in unser Unternehmen lassen“, erklärte Dimon bei der Präsentation der Quartalsergebnisse. Das sei für Kunden und Bank schlicht zu gefährlich. Auch Finanzvorstand Jeremy Barnum bestätigte, dass das Institut versuche, entsprechende Zugriffe technisch zu blockieren.

Besonders brisant ist dabei die Frage der Haftung. Wer seine Zugangsdaten freiwillig einem KI-System überlässt, könnte im Schadensfall selbst für bestimmte Folgen verantwortlich sein. Die Nutzungsbedingungen von JPMorgan Chase enthalten inzwischen ausdrückliche Bestimmungen für KI-Agenten. Demnach müssen sich solche Programme als automatisierte Systeme zu erkennen geben und dürfen technische Zugangsbeschränkungen nicht umgehen. Die Bank behält sich außerdem vor, den Zugriff jederzeit einzuschränken oder vollständig zu unterbinden.

Auch Morgan Stanley geht gegen externe KI-Agenten vor und hat damit begonnen, entsprechende Zugriffe auf seine Plattformen zu blockieren. Allerdings stellte ein Sprecher der Bank klar, dass bislang keine Fälle beobachtet worden seien, in denen unkontrollierte KI-Agenten eigenmächtig in die Systeme der Bank eingedrungen seien.

Ebenso beschränken die Bank of America und die Citigroup nach Informationen von Axios den Zugang externer Programme, der amerikanische Finanzdienstleister Charles Schwab verfolgt eine ähnliche Strategie. Vorstandschef Richard Wurster erklärte, sein Unternehmen blockiere nicht autorisierte KI-Agenten und erfasse diese Vorgänge täglich in einem Bericht.

Die Zahl der abgewehrten Zugriffe sei derzeit noch überschaubar, trotzdem halte das Unternehmen die Schutzmaßnahmen für notwendig, um die Kontrolle über die Anmeldung und Identifizierung seiner Kunden zu behalten.

Finanzaufsicht warnt ebenfalls

Dass die Sorgen der Banken keineswegs unbegründet sind, zeigen auch Untersuchungen der Finanzaufsicht: Das Financial Stability Board veröffentlichte im Oktober neue Empfehlungen zum verantwortungsvollen Einsatz Künstlicher Intelligenz im Finanzsektor. Darin werden unter anderem menschliche Kontrolle, transparente Entscheidungsprozesse und ein strenges Risikomanagement für externe KI-Systeme gefordert. Die kanadische Bankenaufsicht OSFI warnte bereits im Sommer vor den besonderen Gefahren selbständig handelnder KI-Agenten: Zu weitreichende Zugriffsrechte könnten dazu führen, dass Programme unerlaubte Aktionen durchführen oder vertrauliche Informationen weitergeben.