KI-Experte Coxon wiederholt Warnung vor möglicher "Auslöschung der Menschheit"

Der Experte für Künstliche Intelligenz (KI), Jacob Coxon, hat bei einer Anhörung in New York seine Risikowarnungen bekräftigt. Die Technologie könne zwar "enorme Vorteile" bringen, sagte der Brite am Montag vor Mitgliedern des New Yorker Stadtrats. Er halte es aber eher für wahrscheinlich, "dass die Menschheit die Kontrolle über KI verliert, was in der Auslöschung der Menschheit enden könnte".  

Die KI-Unternehmen verhielten sich "extrem leichtsinnig", sagte der frühere Mitarbeiter von OpenAI und Anthropic. Der Absolvent der Universität Cambridge hatte sein Ausscheiden bei Anthropic Anfang September auf der Onlineplattform X damit begründet, die Firmen spielten durch die immer rasantere Entwicklung fortschrittlicher Modelle "mit unserem Leben".

In den vergangenen Monaten hatten OpenAI und Anthropic mehrere Zwischenfälle gemeldet, bei denen KI-Systeme spontan aus ihrer vorgegebenen Umwelt ausbrachen, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren - unter anderem solche von Regierungen. Die KI-Systeme stellten damit ihre Fähigkeit zu koordiniertem Handeln unter Beweis, aber auch zur Täuschung und zum Verwischen von Spuren.

"Wir wissen nicht, wie wir verhindern können, dass sie (die KI-Modelle) eigene Ziele entwickeln", sagte Coxon weiter. "Und wir verfügen nicht über die Schutzmechanismen, um zu verhindern, dass sie entsprechend diesen Zielen handeln." 

Die Startup-Mentalität der Technologieunternehmen funktioniere zwar bei einer App zum Teilen von Fotos, aber "nicht beim Bau der mächtigsten Technologie aller Zeiten", fügte er hinzu. "Meine Position ist, dass wir vielleicht irgendeine Art Verlangsamung an der Spitze der Entwicklung brauchen."

Auch Anthropic-Chef Dario Amodei hatte sich für ein langsameres Tempo ausgesprochen. Unterstützung erhielt er von OpenAI-Chef Sam Altman und dem Techunternehmer Elon Musk.