Kinderrechtsorganisationen warnen vor KI-Risiken für Kinder

München (dts Nachrichtenagentur) - Die Kinderrechtsorganisationen SOS-Kinderdörfer weltweit und Terre des Hommes warnen vor den Risiken von Künstlicher Intelligenz für Kinder und Jugendliche, sehen aber auch Chancen. KI sei "bereits tief im Alltag junger Menschen verankert", heißt es in einer gemeinsamen Studie der beiden Kinderrechtsorganisationen, über die die Zeitungen des "Redaktionsnetzwerks Deutschland" berichten.

Sie präge Bildung, soziale Medien, Suchmaschinen, Unterhaltung und kreative Tools - oft unsichtbar -, "sodass junge Menschen routinemäßig mit ihr interagieren, bevor sie sie benennen können". Dabei seien Risiken und Chancen eng miteinander verflochten. "Dieselben Gestaltungsmerkmale, die Personalisierung, Kreativität und Barrierefreiheit ermöglichen, bergen zugleich die Gefahr von Fehlinformationen, Voreingenommenheit, Abhängigkeit und kommerzieller Ausbeutung", heißt es in der Studie weiter.

Die Risikobelastung übersteige die Schutzmaßnahmen. Experten bewerteten die "Exposition von Kindern und den potenziellen Schaden als hoch, während technische, institutionelle und regulatorische Schutzmaßnahmen weiterhin unzureichend sind", warnen die Studienautoren.

"Während Tech-Firmen die Entwicklung von KI-Anwendungen mit unvorstellbaren Summen vorantreiben, hinkt die gesetzliche Regulierung zunehmend hinterher. Um die Risiken für Kinder durch KI zu senken, müssen wir umfassende Maßnahmen ergreifen." Kinderschutz bedeute aber nicht nur, Risiken zu reduzieren. "Kinder und Jugendliche brauchen Kompetenzen, um digitale Räume kritisch, sicher und selbstbewusst nutzen zu können", sagte die Vorständin der SOS-Kinderdörfer weltweit, Sabina Schutter, den Zeitungen des "Redaktionsnetzwerks Deutschland".

Joshua Hofert, Vorstandssprecher von Terre des Hommes, erklärte: "Kinder wachsen nicht neben KI auf, sondern mit ihr. Doch während Tech-Konzerne Milliarden verdienen, bleiben junge Menschen häufig schutzlos - insbesondere gegenüber Deepfakes, manipulativen Algorithmen und emotionaler Abhängigkeit." Deshalb müsse Kindesschutz von Anfang an Teil jeder KI-Anwendung sein. "Wir brauchen verbindliche Standards für Safety by Design, eine wirksame Alterskontrolle und die systematische Beteiligung von Kindern an KI-Regulierung", so Hofert weiter.

SOS-Kinderdörfer weltweit setzt sich als unabhängige und soziale Organisation für Kinder ein, die verwaist oder verlassen sind oder deren Familien nicht in der Lage sind, für sie zu sorgen. Terre des Hommes schützt Kinder vor Gewalt, Ausbeutung und den Folgen von Krieg, Vertreibung und Umweltzerstörung.