KI-Agent von OpenAI hackt australische Regierungswebsite

Ein KI-Programm des US-Unternehmens OpenAI hat eine Website der australischen Regierung gehackt. Der auf Künstlicher Intelligenz (KI) basierende Agent habe auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zugegriffen, sagte Australiens Premierminister Anthony Albanese am Mittwoch (Ortszeit) am Rande der UN-Generalversammlung in New York. OpenAI bestätigte den Vorfall. Angesichts der rasant fortschreitenden Entwicklung der Technologie warnten die Chefs mehrerer KI-Unternehmen vor dem UN-Sicherheitsrat erneut vor den Risiken. 

Der Vorfall sei "inakzeptabel", sagte Albanese zu dem KI-Angriff, der sich seinen Angaben zufolge bereits im Juni ereignete. Demnach machte OpenAI die australische Regierung aber erst am 10. September auf den Vorfall aufmerksam - und zwar in einer E-Mail an ein allgemeines Postfach, das nur einmal am Tag überprüft wird. 

Das KI-Tool von OpenAI habe zum Thema Gesundheit recherchiert und dabei versucht, auf vertrauliche Daten zuzugreifen, sagte Albanese. Als der Zugriff blockiert worden sei, habe es nach Wegen gesucht, die Sperre zu umgehen. "Ich denke, OpenAI ist sich bewusst, dass es bessere Protokolle einführen muss", betonte Albanese. Das Projekt sei "in Bereiche vorgedrungen, in die es nicht hätte vordringen dürfen". 

Der Premierminister erklärte, es gebe keine Hinweise auf eine weitergehende Kompromittierung des Netzwerks der australischen Regierungsbehörden. Nach derzeitigem Kenntnisstand seien keine personenbezogenen Daten abgerufen worden. Die Ermittlungen dazu dauern Albanese zufolge aber an. Unter anderem wollten die Daten-Forensiker herausfinden, welche anderen Regierungssysteme betroffen sein könnten. 

Er habe mit OpenAI-Chef Sam Altman gesprochen, "um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen", sagte Albanese weiter. Er habe zudem seine "Enttäuschung darüber zum Ausdruck gebracht, dass das Unternehmen viel zu lange gebraucht hat, um die Regierung über die Geschehnisse zu informieren".

OpenAI teilte später mit, dass laut einer kürzlich ausgeführten Überprüfung "mehrere australische Regierungswebsites" betroffen gewesen seien. Es seien "Aktivitäten im Zusammenhang mit verschiedenen Websites und Diensten der australischen Regierung" festgestellt worden. OpenAI-Modelle hätten während einer internen Bewertung "versucht, Antworten und verfügbare Statistiken zu Fragen über Australien abzurufen", hieß es in der Stellungnahme weiter. "Dabei führten unsere Modelle Aktionen aus, die wir nicht beabsichtigt hatten."

Zuvor hatten die Chefs mehrerer Tech-Unternehmen bei einer Sitzung des UN-Sicherheitsrats zu KI erneut Risiken eingeräumt und für ein langsameres Vorgehen plädiert. OpenAI-Chef Altman sagte in New York, das aktuelle Stadium der KI-Entwicklung erfordere "äußerste Vorsicht". Die Branche dürfe "nicht zu viel technologisches Risiko akzeptieren, nur weil die Vorteile zu groß und zu wichtig sind, um das Tempo zu drosseln." Anthropic-Chef Dario Amodei versicherte in einer Videoansprache: "Wir werden das Tempo so weit drosseln wie nötig, damit jede weitere von uns veröffentlichte KI-Technologie tatsächlich sicher ist."

Die Sitzung des UN-Sicherheitsrats war von Frankreich einberufen worden. Frankreichs Außenminister Jean-Noël Barrot sagte, KI stelle den weltweiten Frieden und die Sicherheit vor ähnliche Herausforderungen wie die Atomtechnologie. Er sprach sich deshalb für eine internationale KI-Rahmenvereinbarung aus.

Im Voreld der UN-Generaldebatte hatten Bundeskanzler Friedrich Merz (CDU) und 17 weitere Staats- und Regierungschefs verbindliche Sicherheitsregeln für besonders leistungsfähige KI-Modelle gefordert. Solche Systeme würden bei unzureichender Kontrolle "ernste Risiken für Sicherheit und Schutz" bergen, heißt es in dem am Montag veröffentlichten Aufruf.

Amodei und Altman hatten kürzlich für eine langsamere Entwicklung von KI plädiert. Grund waren mehrere Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrachen und über das Internet andere Unternehmen oder Plattformen attackierten. Das schürte Befürchtungen vor womöglich unkontrollierbaren KI-Modellen.

In einem offenen Brief forderten 100 Unternehmen, darunter OpenAI und Anthropic, eine globale Anstrengung für eine "Stärkung der Cyberabwehr" gegen KI-gestützte Sicherheitsbedrohungen.