Wenn die Maschine über Asyl entscheidet: Uni-Graz-Projekt über Chancen und Risiken der KI

In Asylverfahren wird zunehmend künstliche Intelligenz eingesetzt. Foto: studio v zwölf stock.adobe.com

Erkennung der Sprache, Feststellung des Herkunftslandes, Länderberichte und Risikobewertungen: Migrant:innen sind im Asylverfahren zunehmend mit künstlicher Intelligenz (KI) konfrontiert. Ein Forschungsprojekt an der Universität Graz macht auf die Fehleranfälligkeit sowie Intransparenz der Technologie aufmerksam. Zur Unterstützung von Beratungsstellen haben Politikwissenschaftlerin Laura Jung und Rechtswissenschaftlerin Angelika Adensamer eine Orientierungshilfe erarbeitet.

Wenn zwar noch nicht weit fortgeschritten, sind KI-Tools etwa zur Spracherkennung in Österreich laut Regierungsprogramm schon vorgesehen. Andere werden aber bereits verwendet, bestätigen Angelika Adensamer und Laura Jung aufgrund einer Anfragebeantwortung des Innenministeriums. Im Zuge ihres Forschungsprojektes A.I.SYL haben sie erfahren, dass sowohl bekannte Werkzeuge wie zum Beispiel DeepL und Complexity als auch eigens entwickelte Systeme zum Einsatz kommen. „Dabei geht es um die Zusammenfassung von Informationen zu Staaten, um in Asylverfahren Verfolgungsrisiken, die Glaubwürdigkeit der Angaben und die Bewertung sicherer Herkunftsländer festzustellen“, beschreibt Angelika Adensamer.

„Vor allem Large-Language-Modelle, die komplexe Fragestellungen verarbeiten, können in Form sogenannter Halluzinationen falsche Angaben liefern“, warnt Laura Jung. Wenn Behörden über wenig Fakten verfügen, bestünde die Gefahr, dass neue Analysemethoden Wissen und Objektivität vortäuschen. Kostenersparnis und Effizienzsteigerung beurteilt Jung skeptisch: „Wenn komplexe Verfahren inkorrekt durchgeführt werden, zahlen wir durch die Gefährdung von Grundrechten und Rechtsstaat einen hohen Preis.“

Ein ebenso hohes Risiko stellen Diskriminierung durch Technologie sowie Verletzungen der Grundrechte wie Privatsphäre und Datenschutz dar. Angelika Adensamer: „Nicht nur Asylwerbende, sondern alle Drittstaatsangehörigen sind von der Ausweitung der Datenverarbeitung durch Biometrie, Screenings an der Grenze und der Verknüpfung von Informationen betroffen.“
Jung verweist in diesem Zusammenhang darauf, dass Geflüchtete und Ayslwerber:innen gleichsam zu Versuchskaninchen werden könnten: „An Ihnen werden Tools getestet, die Staatsbürger:innen so nicht akzeptieren würden.“

Rechts- und Sozialberater:innen im Bereich der Migration, betonen die beiden Forscher:innen, müssen bei KI-Anwendungen also nicht nur auf die rechtlichen Bestimmungen, sondern auch auf Stärken und Schwächen der Maschine achten: „Ein automatisierte Übersetzung kann dann sinnvoll sein, wenn mögliche Fehlerquellen bekannt sind.“

Veranstaltungstipp

Die Ergebnisse des Forschungsprojektes A.I.SYL, gefördert vom Zukunftsfonds Steiermark, kommende Woche bei einer öffentlichen Veranstaltung vorgestellt und diskutiert:
WANN: Montag, 12. Mai 2025, 18 Uhr
WO: Forum Stadtpark, Am Stadtpark 1, 8010 Graz
⇒ Infos und Anmeldung

Laura Jung ist Politikwissenschaftlerin. Foto: Uni Graz/wildundwunderbar

Angelika Adensamer ist Rechtswissenschaftlerin.

Andreas Schweiger

Weitere Artikel

Forscher:innen entdecken natürlichen Wirkstoff zum Schutz vor Lebererkrankungen

Die Leber leidet still. „Fetteinlagerungen, strukturelle Zerstörung des Gewebes oder mutierende Tumorzellen – all das fliegt eine Weile unter dem Radar. Begleitet werden diese Veränderungen oft von leichten, jedoch chronischen Entzündungen“, erklärt Andreas Koeberle, Pharmazeut an der Universität Graz. Er hat mit seinem Team und Kolleg:innen der Universität Innsbruck den Wirkstoff Mitrephoron B untersucht, der neue Behandlungsansätze ermöglicht. Die Ergebnisse der Studie wurden kürzlich in der Open-Access-Fachzeitschrift „Theranostics“ veröffentlicht.

Klima an den Klippen: Forscher:innen enträtseln Entwicklung des Grönländischen Eisrandes

Senkrechte Eiswände, bis zu 40 Meter hoch: In Game of Thrones wurden sie als Befestigung dramatisiert, im Kalten Krieg mit Interesse erforscht. Wie die imposanten Wälle entlang des 80 000 Kilometer langen Eisrands Grönlands entstanden sind, wie sie sich entwickeln und welchen Einfluss sie auf das Klima habe, ist noch nicht vollständig geklärt. Forscher:innen der Universitäten Graz und Innsbruck sind der Lösung des Rätsels einen Schritt näher gekommen. Die Ergebnisse ihrer jüngsten Untersuchung sind in der Zeitschrift The Cryosphere erschienen.

Alternsforschung aus Graz auf der Bühne des US-Kapitols

Ulla Kriebernegg, Leiterin des CIRAC an der Universität Graz, warb in Washington als Vorstandsmitglied der Gerontological Society of America für die Bedeutung der Alternsforschung. Ihr Auftritt beim „Capitol Hill Day“ unterstreicht die internationale Sichtbarkeit der Grazer Forschung zu Altern und Care.

Gerecht ans Klima-Ziel: Forschende zeigen nötige Fairness bei CO2-Speicherung auf

Wie uns der Krieg im Nahen Osten gerade wieder vor Augen führt, ist Österreich wie viele andere Länder massiv auf Öl und Gas angewiesen. Die lasche Klimapolitik und begrenzte Möglichkeiten, CO2 aus der Atmosphäre zu binden, könnten die Abhängigkeit für die nächsten Generationen einzementieren. Auf diese Gefahr weisen Wissenschaftler:innen der Universität Graz in einer neuen Studie hin, die im Fachjournal Global Environmental Change erschienen ist. Sie zeigen auf, dass Rechte zur CO2-Entfernung ebenso fair verteilt werden müssen wie Emissionsbudgets, um die globale Erwärmung zu stoppen.