Künstliche Intelligenz wird zunehmend auch im Asylbereich eingesetzt. Die Anwendung in diesem sensiblen Bereich wirft jedoch Fragen über Fehleranfälligkeit auf. Ein Forschungsprojekt der Universität Graz hat die Risiken und Chancen der unterschiedlichen Tools im österreichischen Asylverfahren beleuchtet und hat zur Unterstützung von Beratungsstellen eine Orientierungshilfe erstellt, teilte die Uni Graz mit.

In der Europäischen Union wächst die Bereitschaft für den Einsatz von Künstlicher Intelligenz (KI) in Asylverfahren und im Migrationsbereich. Befürworterinnen argumentieren, dass KI den bürokratischen Aufwand erheblich reduzieren könnte. Diese kann Dokumente schneller analysieren und Schriftstücke effizienter produzieren - auch in verschiedenen Sprachen. Dies würde nicht nur die Kommunen entlasten, sondern auch Schutzsuchenden schnellere Entscheidungen ermöglichen. KI könnte unter bestimmten Bedingungen vorurteilsfreier agieren als menschliche Prüferinnen, was zu gerechteren Verfahren führen könnte.

Risiko der Halluzinationen

Das vom Zukunftsfonds Steiermark geförderte Projekt "A.I.SYL" an der Universität Graz hat den Einsatz von KI im Asylverfahren in Österreich unter die Lupe genommen und auf seine Chancen und Risiken für Datenschutz und Grundrechte eingeschätzt. Dazu haben die Politikwissenschafterin Laura Jung und Rechtswissenschafterin Angelika Adensamer u. a. ein Auskunftsbegehren an das Innenministerium gestellt. Aus der Beantwortung gehe hervor, dass aktuell sowohl bekannte Werkzeuge wie zum Beispiel DeepL und Complexity als auch eigens entwickelte Systeme zum Einsatz kommen. "Dabei geht es um die Zusammenfassung von Informationen zu Staaten, um in Asylverfahren Verfolgungsrisiken, die Glaubwürdigkeit der Angaben und die Bewertung sicherer Herkunftsländer festzustellen", wie Adensamer berichtete.

"Vor allem Large-Language-Modelle (LLM), die komplexe Fragestellungen verarbeiten, können in Form sogenannter Halluzinationen falsche Angaben liefern", warnte Jung. Wenn Behörden über wenig Fakten verfügen, bestünde die Gefahr, dass neue Analysemethoden Wissen und Objektivität vortäuschen.

Analyse elektronischer Datenträger und Datenschutz

Aus Sicht des Grazer Teams wirft zudem die Analyse von sichergestellten elektronischen Datenträgern - wie zum Beispiel Handys von Antragstellern - Datenschutzfragen auf: Dabei werden sensible Daten wie Telefonnummern, Provider-SMS, Applikationsdaten, WLAN-Metadaten, Bilddaten und Identifikationsdaten des Geräts ausgewertet, um die Identität und Reiserouten zu überprüfen.

"Nicht nur Asylwerbende, sondern alle Drittstaatsangehörigen sind von der Ausweitung der Datenverarbeitung durch Biometrie, Screenings an der Grenze und der Verknüpfung von Informationen betroffen", hielt Adensamer fest. Jung verwies in diesem Zusammenhang darauf, dass Geflüchtete und Asylwerbende gleichsam zu Versuchsobjekten werden könnten: "An ihnen werden Tools getestet, die Staatsbürger:innen so nicht akzeptieren würden." Kostenersparnis und Effizienzsteigerung beurteilt Jung skeptisch: "Wenn komplexe Verfahren inkorrekt durchgeführt werden, zahlen wir durch die Gefährdung von Grundrechten und Rechtsstaat einen hohen Preis."

Service: Detaillierte Ergebnisse des Forschungsprojektes werden am 12. Mai beim Forum Stadtpark vorgestellt. https://aisyl.uni-graz.at/de/