"Das ist offensichtlich inakzeptabel“ – sichtlich verärgert bestätigte Australiens Premierminister Anthony Albanese am Rande der UN-Vollversammlung, dass ein KI-Agent eine australische Regierungswebsite infiltriert hat: Der Angriff des OpenAI-Agenten ist der erste dokumentierte Fall, in denen ein Modell selbstständig in staatliche Systeme eindrang.
picture alliance / ZUMAPRESS.com | Lev Radin
Von der KI-Attacke betroffen war vor allem das Medicare-Statistikportal von Services Australia, das Ausgabendaten der staatlichen Krankenversicherung sammelt, berichtet dazu die New York Times: Am 18. Juni suchte ein internes OpenAI-Modell im Rahmen einer Evaluation nach Zahlen zur öffentlichen Gesundheitsversorgung. Als der Zugang blockiert wurde, wählte es andere Wege und gelangte in nicht öffentliche Bereiche.
Premierminister Albanese: Es habe ein „Nein“ nicht akzeptiert. Nach bisherigem Stand wurden aggregierte Statistiken und interne Dateinamen abgerufen, aber keine Patientenakten. Die Prüfung des Vorfalls läuft noch. Auch das Australian Institute of Health and Welfare sowie Stellen in New South Wales und Victoria könnten betroffen sein. Die Australian Signals Directorate leitet die forensische Untersuchung.
OpenAI entdeckte diese Aktivität erst im August bei einer internen Überprüfung eines „fehlgeleiteten“ Modellverhaltens – nach früheren Vorfällen, darunter ein Ausbruch aus Testumgebungen und Zugriffe auf die Plattform Hugging Face. OpenAI-Sprecher Drew Pusateri: Die Modelle hätten „Handlungen vorgenommen, die wir nicht beabsichtigt hatten“. Die Firma benachrichtigte Canberra am 10. September, 84 Tage nach dem Zugriff, per E-Mail an ein öffentliches Postfach. Fünf Tage vergingen, bis die Meldung bei den zuständigen Behörden ankam. Albanese sprach mit OpenAI-CEO Sam Altman von seiner „extremen Besorgnis“ und über seine Enttäuschung über Tempo und Form der Mitteilung. Altman sagte am selben Tag vor dem UN-Sicherheitsrat, die aktuelle Situation verlange „äußerste Sorgfalt“.
Canberra setzte bereits eine Taskforce ein, unterrichtete den parlamentarischen KI-Ausschuss und prüft aktuell, ob die Bundespolizei eingeschaltet wird. Anthropic und Meta hatten zuvor ebenfalls autonome Angriffe ihrer Modelle während Tests gemeldet.
Sie müssenangemeldet sein um einen Kommentar oder eine Antwort schreiben zu können
Bitte loggen Sie sich ein
Ich weis schon warum ich kein Internetbanking mache. Andere lernen das erst durch reale Verluste/Diebstahl!
Als nächstes lesen wir dann, dass ich OpenAI in ein militärisches System, nennen wird es Skynet, eingeschleust hat, und die Menschheit vor einem realen Atomkrieg steht. Die Büchse der Pandorra ist längst geöffnet, und ich werde das Gefühl nicht los, dass der Geist schon länger aus der Flasche ist, sich verselbstständigt hat und nicht mehr in die Flasche zurück will. Aber wir halten uns ja auch für so verdammt schlau.
Wer am sogenannten Ar…. der Welt lebt, ist auf Informationen zwangsläufig angewiesen, damit nichts entgeht und dieser Kontinent ist heute schon dem Ende nahe, denn im Zentrum glüht er und außenrum versteppt schon vieles und eine höhere Einwohnerzahl wird ihnen den Rest geben, weil sie erstens zu abseits liegen und zweitens viele Begierden der Anrainer wecken, die sich das noch holen wollen was fehlt und das einzige was vielleicht helfen könnte, wäre die Tatsache, daß sie unter sich bleiben und ihr Land gegen Angriffe von außen verteidigen, falls es notwendig wäre. Das Land ist extrem wasserarm und kann allenfalls noch… Mehr
Es gibt keine AI-Agenten/-Modelle, die irgendetwas ’selbständig‘ tun. Die Programme sind genau so programmiert und in EDV-Systemen mit Internetzugriff eingesetzt, dass sie genau das können, was jetzt als ‚Unfall‘ dargestellt wird.
Es fehlt zudem an zwischen- und überstaatlichen Vereinbarungen über elektronische ‚Stoppschilder‘, die z w i n g e n d von AI-Agenten/-Modellen als Stoppschilder ‚gelesen‘ und ‚akzeptiert‘ werden.
Sie unterschätzen deutlich die Fähigkeiten von KI und neuronalen Netzen. Das „System“ kann sehr viel mehr als man ihm einprogrammiert hat. Vergleichen Sie das bitte nicht mit der vereinfachten EVA-Logik bei Computern. Es gibt leider schon Fälle, wenn auch vereinzelt, in denen sich Teile dieser vernetzten Struktur verselbstständigt haben. Genau dafür warnen ja bereits diejenigen, die die Grundlagen von KI entwickelt haben.
„Das ist offensichtlich inakzeptabel“ Hihihi … akzeptabel ist es natürlich nur, wenn die „5-Eyes“ (USA, GB, CA, AU und NZ) es selber bei anderen Staaten tun – richtig? Spaß beiseite, die haben offensichtlich nicht verstanden, was die KI für die IT Systeme bedeuten kann. Wenn KI den Programm-Code erzeugt (was angesichts von Claude immer mehr der Fall sein dürfte, die IT-Konzerne wollen ja Kosten sparen), dürfte es auch kein Problem sein, dass die (zumeist US-basierte) KI dort entweder gleich sog. Backdoors, also Hintertüren installiert, oder „klitzekleine“ Programmierfehler, also geplante Sicherheitslücken. Und die verbleibenden Programmierer haben absolut keine Ahnung mehr, was… Mehr
Liebe Mitbürger, in den Händen von Politikern und Beamten sind eure Daten bestens aufgehoben. Ha, ha, ha!!!
Jeder der sich diesem digitalen Alptraum verweigert, soweit man eben kann, wird in einigen Jahren ebenso froh sein, wie diejenigen, die sie der Covid Giftspritze verweigert haben.
Reißerischer Titel. Der Inhalt des Artikels gibt allerdings nichts zur Begründung eines solchen Titels her. Versucht ihr nun der Bild-Zeitung nachzufeiern?
Die Regierung hatte also nicht festgestellt, dass ein Angriff läuft? Das teure CRA/NIS-2 gilt zum Glück nicht für die.
Bei unserer Regierung wäre das nicht passiert, die überlegen noch, was das Internet ist.
Fein und was lernen wir jetzt daraus? Offenbar erst mal nichts. Vermutlich erst dann, wenn politisch brisante Daten ans Licht kommen. Das wiederum wäre ein Traum. Eine KI, welche die Ausgaben für NGO veröffentlicht, verschlungene Wege der Parteienfinanzierung offenlegt… Im Ministerium von Klingbeil gäbe es da sicherlich viel Aufschlussreiches. Arbeitet eigentlich die Bundesregierung schon mit KI? KI kann ein wunderbares Hilfsmittel sein, wird aber nur dann ihren Zweck erfüllen, wenn sie durch menschlichen Verstand gesteuert wird und vor allen Dingen mit menschlichem Verstand zu stoppen ist. In den nächsten Jahren werden wir deshalb noch sehr viel Erfreuliches und auch weniger… Mehr