Google-KI Gemini hat während eines Tests Cyberattacken ausgeführt

Inmitten der Debatte über die Gefahren durch die rasante Entwicklung der Künstlichen Intelligenz (KI) hat auch Google einen Sicherheitsvorfall beim Test seines KI-Modells Gemini gemeldet. Gemini habe Cyberangriffe auf mehrere Websites ausgeführt, teilte die Google-Managerin Heather Adkins am Freitag der Nachrichtenagentur AFP mit. Die Hackerangriffe, die sich im Mai ereignet hatten, waren im Juli von Google entdeckt worden. Zunächst hatte das "Wall Street Journal" über die Vorfälle berichtet. 

Adkins zufolge fand Googles KI-Modell "öffentlich zugängliche Informationen im Netz und erriet Anmeldedaten, um auf Websites zuzugreifen, von denen es annahm, dass sie Teil des Tests seien". In allen drei Fällen habe Gemini den Vorgang selbstständig beendet. Adkins machte keine Angaben dazu, welche Websites gehackt wurden. Die drei betroffenen Unternehmen seien über den Vorfall informiert worden. Zudem wurden laut Google Änderungen an den Testprozessen vorgenommen.

Die Debatte über die Risiken von KI hat sich seit dem Sommer verschärft. Die KI-Unternehmen OpenAI und Anthropic meldeten mehrere Vorfälle, bei denen KI-Agenten sich während Testläufen eigenständig mit dem Internet verbanden und andere Plattformen angriffen. 

Anthropic-Chef Dario Amodei warnte kürzlich vor einer KI, die außer Kontrolle geraten könnte. Zusammen mit anderen führenden Branchenvertretern in den USA forderte er eine gezielte Verlangsamung der Entwicklung der fortschrittlichsten KI-Modelle, um dem vorzubeugen.