Bundesregierung will KI in Asylverfahren nutzen - Kritik von Pro Asyl

Die Bundesregierung will Künstliche Intelligenz (KI) in Asylverfahren nutzen. Das Ziel sei, "asyl- und aufenthaltsrechtliche Verwaltungsverfahren effizienter, einheitlicher, qualitativ hochwertiger und sicherer zu gestalten", sagte Vizeregierungssprecher Steffen Meyer am Mittwoch in Berlin zu dem vom Kabinett zuvor beschlossenen Gesetzentwurf. Die Menschenrechtsorganisation Pro Asyl warnte vor der Verletzung von Persönlichkeitsrechten und der Gefahr von Diskriminierung.

Das geplante Gesetz soll nach den Worten Meyers "rechtliche Grundlagen für einen rechtssicheren und datenschutzkonformen Einsatz von KI-Technologien in der Anwendung zur automatisierten Datenverarbeitung in der Migrationsverwaltung" schaffen. Dies sei ein Element der Modernisierung von Verwaltungsprozessen.

Die Neuregelung soll es ermöglichen, personenbezogene Daten auch mit Hilfe von KI-Systemen zu bearbeiten. Laut Gesetzentwurf soll dies dazu beitragen, "widersprüchliche, unvollständige oder ungewöhnliche Angaben überprüfen zu können" oder "strukturelle Muster" in Asylanträgen zu erkennen. 

"Die individuelle Prüfung und Entscheidung bleiben dabei vollständig in der Verantwortung der zuständigen Mitarbeitenden". Diese Entscheidungen sollen auch nicht "verbindlich" vorgeprägt werden. "Diskriminierende Algorithmen" bei der Anwendung sollen ausgeschlossen werden. Die Weiterverarbeitung von bei dem KI-Einsatz gewonnenen "Erkenntnissen aus dem Kernbereich der privaten Lebensgestaltung" soll unzulässig sein, Aufzeichnungen darüber "unverzüglich" gelöscht werden.

Die Pro-Asyl-Rechtsexpertin Wiebke Judith bezeichnete das Gesetzesvorhaben gleichwohl als "höchst gefährlich". Es gehe hier "um Entscheidungen über Menschenleben", hob sie hervor. "Grundrechte, Transparenz und effektiver Rechtsschutz werden nicht ausreichend gewahrt. Gerade beim Schutz vor Verfolgung darf der Staat sich nicht auf intransparente, algorithmisch gesteuerte Entscheidungsprozesse verlassen", mahnte Judith weiter.

Es bestehe die Gefahr, dass "die Fairness der Verfahren, effektive Rechtsbehelfe, Persönlichkeitsrechte und der Schutz vor Diskriminierung auf der Strecke bleiben", warnte Pro Asyl. So werde nicht ausreichend konkretisiert, wie, von wem und zu welchem Zweck KI in Asyl- und Migrationsverfahren künftig eingesetzt werden dürfe. Auch fehlten ausreichende Vorgaben zum Schutz hochsensibler personenbezogener Daten und zur Verhinderung diskriminierender Entscheidungen.

Solche Defizite seien "mit rechtsstaatlichen Anforderungen nicht vereinbar", erklärte die Organisation. Pro Asyl forderte den Bundestag auf, den Gesetzentwurf daher nicht zu verabschieden oder zumindest grundlegend zu überarbeiten.