Amnesty International hat vor zunehmenden Menschenrechtsverletzungen durch den Einsatz Künstlicher Intelligenz (KI) gewarnt. "KI kann instrumentalisiert werden, um zu diskriminieren, zu desinformieren und zu spalten", sagte Lena Rohrbach, Expertin für Menschenrechte im digitalen Zeitalter, bei der Vorstellung des am Mittwoch veröffentlichten Jahresberichts der Menschenrechtsorganisation in Berlin. Software wie ChatGPT, die Texte erstellt, könne etwa Hassreden gegen Frauen und Homosexuelle am Fließband produzieren und verbreiten.
Amnesty prangerte insbesondere den Einsatz von Gesichtserkennung an. Die Bundesregierung habe ihr Versprechen noch nicht eingelöst, Gesichtserkennung im öffentlichen Raum zu verbieten, sagte Rohrbacher. Sowohl bei der Fußball-Europameisterschaft in Deutschland als auch bei den Olympischen Spielen in Paris werde derzeit über den Einsatz von KI debattiert. "Dabei besteht die Befürchtung, dass dies dauerhaft ausgeweitet wird", sagte Rohrbacher.
In Russland würden bereits Kameras mit Gesichtserkennung genutzt, um etwa Teilnehmer an regierungskritischen Demonstrationen zu identifizieren, erläuterte sie. Die iranischen Behörden kündigten im vergangenen Jahr an, mit entsprechender Software Frauen zu identifizieren, die sich dem Schleierzwang widersetzen. Und die New Yorker Polizei habe 2023 nach einer Klage von Amnesty International eingeräumt, Gesichtserkennung zur Überwachung von Black-Lives-Matter-Protesten benutzt zu haben.
KI werde zudem genutzt, um Deepfake-Pornographie herzustellen, sagte Rohrbach. Dies betreffe vor allem Frauen. Sie verwies auf das Beispiel einer 17 Jahre alten Ägypterin, die sich das Leben nahm, nachdem gefakte Nacktfotos von ihr verbreitet worden waren. Amnesty kritisierte auch Internettplattformen, die etwa Informationen zu Schwangerschaftsabbrüchen einschränkten.
Besonders problematisch sei der Einsatz von Spionagesoftware wie Pegasus oder Predator. "Sie ermöglichen ein ganz neues Level an transnationaler Repression", sagte Rohrbach. Im vergangenen Jahr hätten etwa Armenien, Indien und Serbien die Pegasus-Software genutzt, um Medien und die Zivilgesellschaft zu überwachen. Die Software Predator, die von einem europäischen Konsortium hergestellt werde, sei beispielsweise für einen Cyber-Angriff auf einen in Berlin lebenden vietnamesischen Journalisten eingesetzt worden.
Daneben komme es auch versehentlich zu Menschenrechtsverletzungen durch KI, etwa beim Einsatz von Algorithmen durch Behörden. In Serbien habe die Einführung eines automatisierten Systems dazu geführt, dass Tausende Familien zu Unrecht den Zugang zur Sozialhilfe verloren. "Eigentlich gibt es eine Frist, in der Menschen die Urteile überprüfen sollen, (...) aber de facto trifft die Entscheidung ein Algorithmus", erklärte Rohrbach.
Amnesty International fordert sowohl ein Verbot von besonders invasiver Spionagesoftware als auch ein Moratorium für den Handel mit anderen Überwachungstechnologien, bis es dazu internationale Regeln gebe. Die europäische KI-Verordnung sei ein Schritt in die richtige Richtung, biete aber zugleich ein "Einfallstor für Menschenrechtsverletzungen in den besonders grundrechtssensiblen Bereichen Migration und Sicherheit". Dort müsse die Bundesregierung "national gesetzlich nachschärfen", sagte Rohrbacher.
Politik
Amnesty International warnt vor zunehmenden Menschenrechtsverletzungen durch KI
- AFP - 24. April 2024, 02:07 Uhr
Amnesty International hat vor zunehmenden Menschenrechtsverletzungen durch den Einsatz Künstlicher Intelligenz (KI) gewarnt. 'KI kann instrumentalisiert werden, um zu diskriminieren, zu desinformieren und zu spalten', sagte die Expertin Lena Rohrbach.
Weitere Meldungen
CDU-Chef Friedrich Merz hat beim Bundespartei die Delegierten auf eine Rückkehr an die Macht im Bund eingeschworen. "Deutschland kann es besser, aber Deutschland muss auch endlich
MehrFrankreichs Präsident Emmanuel Macron hat zum Auftakt des Besuchs des chinesischen Präsidenten Xi Jinping in Paris "gleiche Regeln für alle" gefordert. "Die Zukunft unseres
MehrDie CDU hat am Montag ihren dreitägigen Bundesparteitag in Berlin eröffnet, mit dem sie die Weichen für eine Rückkehr ins Kanzleramt stellen will. Von dem Parteitag solle ein
MehrTop Meldungen
Nürnberg (dts Nachrichtenagentur) - Das politisch umstrittene Bürgergeld reduziert laut einer neuen Studie des Instituts für Arbeitsmarkt- und Berufsforschung (IAB) den Anreiz,
MehrDer chinesische Dienstleistungssektor hat im April erneut leicht zugelegt. Der Branchenindex, den die Wirtschaftsberatung S&P Global zusammen mit dem chinesischen
MehrBerlin (dts Nachrichtenagentur) - Deutschlands Landkreise drängen Bund und Länder zu einer raschen Strompreisreform, um die Energiewende im Osten nicht zu gefährden. "Der
Mehr