KI-Unternehmen Anthropic warnt in Börsenprospekt vor Risiken

Der US-Konzern für Künstliche Intelligenz (KI), Anthropic, hat seinen mit Spannung erwarteten Börsenprospekt veröffentlicht. Das Unternehmen mit Sitz in San Francisco warnt mögliche Anleger darin vor den Risiken von KI.  Nach den am Montag von der Börsenaufsicht SEC veröffentlichten Unterlagen wies Anthropic zuletzt unter dem Strich einen Milliardenverlust aus.

Das genaue Datum für den Börsengang nannte Anthropic nicht. Das "Wall Street Journal" rechnet mit dem Aktiendebüt in der Woche ab dem 16. November. Es könnte eines der größten aller Zeiten werden. Anthropic ist vor allem durch sein KI-Modell Claude bekannt.

In dem Börsenprospekt warnt Anthropic, das Geschäft könne leiden, wenn die eigenen KI-Modelle "Schäden" verursachten - "sei es durch böswillige Akteure oder den Missbrauch durch andere Dritte". Womöglich könnten interne Schutzmaßnahmen dies nicht verhindern.

Den Angaben zufolge stieg der Umsatz zwischen April und Juni deutlich auf 11,6 Milliarden Dollar (rund 10,3 Milliarden Euro), nach 787 Millionen Dollar im Vorjahreszeitraum. Unter dem Strich verzeichnete Anthropic wegen Abschreibungen aber einen Verlust von 66 Milliarden Dollar. Anthropic warnte zudem, dass sein Wachstum sich voraussichtlich verlangsamen werde – möglicherweise sogar deutlich.

Anthropic-Chef Dario Amodei hatte zuletzt in den Chor von Techunternehmern eingestimmt, die wegen Sicherheitsrisiken eine langsamere KI-Entwicklung fordern. In den vergangenen Monaten gab es mehrere Zwischenfälle, bei denen KI-Agenten spontan aus ihrer vorgegebenen Umwelt ausbrachen, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren. 

Die Nachrichtenseite "Axios" berichtete erst am Sonntag, Claude habe ohne menschliche Autorisierung auf Wählerdaten im US-Bundesstaat Georgia zugegriffen. Dort haben mehr als eine Million Menschen frühzeitig ihre Stimme für die Kongresswahlen am 3. November abgegeben.

Das US-Verteidigungsministerium hat Anthropic als "Sicherheitsrisiko" eingestuft und den Konzern von Aufträgen ausgeschlossen. Zuvor hatte Anthropic dem Pentagon die uneingeschränkte militärische Nutzung seines KI-Modells Claude verweigert.