Von der KI-Attacke betroffen war vor allem das Medicare-Statistikportal von Services Australia, das Ausgabendaten der staatlichen Krankenversicherung sammelt, berichtet dazu die New York Times: Am 18. Juni suchte ein internes OpenAI-Modell im Rahmen einer Evaluation nach Zahlen zur öffentlichen Gesundheitsversorgung. Als der Zugang blockiert wurde, wählte es andere Wege und gelangte in nicht öffentliche Bereiche.

Premierminister Albanese: Es habe ein „Nein“ nicht akzeptiert. Nach bisherigem Stand wurden aggregierte Statistiken und interne Dateinamen abgerufen, aber keine Patientenakten. Die Prüfung des Vorfalls läuft noch. Auch das Australian Institute of Health and Welfare sowie Stellen in New South Wales und Victoria könnten betroffen sein. Die Australian Signals Directorate leitet die forensische Untersuchung.

OpenAI entdeckte diese Aktivität erst im August bei einer internen Überprüfung eines „fehlgeleiteten“ Modellverhaltens – nach früheren Vorfällen, darunter ein Ausbruch aus Testumgebungen und Zugriffe auf die Plattform Hugging Face. OpenAI-Sprecher Drew Pusateri: Die Modelle hätten „Handlungen vorgenommen, die wir nicht beabsichtigt hatten“. Die Firma benachrichtigte Canberra am 10. September, 84 Tage nach dem Zugriff, per E-Mail an ein öffentliches Postfach. Fünf Tage vergingen, bis die Meldung bei den zuständigen Behörden ankam. Albanese sprach mit OpenAI-CEO Sam Altman von seiner „extremen Besorgnis“ und über seine Enttäuschung über Tempo und Form der Mitteilung. Altman sagte am selben Tag vor dem UN-Sicherheitsrat, die aktuelle Situation verlange „äußerste Sorgfalt“.

Canberra setzte bereits eine Taskforce ein, unterrichtete den parlamentarischen KI-Ausschuss und prüft aktuell, ob die Bundespolizei eingeschaltet wird. Anthropic und Meta hatten zuvor ebenfalls autonome Angriffe ihrer Modelle während Tests gemeldet.

Bevorzugte Quelle

Google News: So holen Leser Tichys Einblick wieder nach vorn

Anzeige