Blick in Blackbox

Wissenschaft wirkt in die Praxis: Christoph Koeth, Director Innovation von Fresenius Kabi, Doktorandin Anna Polzer, Projektleiter Stefan Thalmann und Jürgen Fleiß vom Business Analytics and Data Science-Center der Uni Graz (v. l.) Foto: Uni Graz/Schweiger

Uni Graz überprüft die Arbeit von künstlicher Intelligenz in der Pharmaproduktion

In der Produktion von Medikamenten kann Qualitätskontrolle über Leben und Tod bestimmen. Was passiert, wenn künstliche Intelligenz (KI) diese hochsensible Aufgabe übernimmt? WirtschaftsinformatikerInnen der Universität Graz überprüften, ob die erforderlichen Standards gewährleistet bleiben. Sie haben erstmals an einem Beispiel der Pharmaproduktion nachgewiesen, dass automatisierte Entscheidung die Anforderung erfüllt.

Die Maschine denkt. Doch tut sie das zuverlässig? Können wir ihr wirklich vertrauen? Und lässt sich ihre Tätigkeit zertifizieren? Das untersuchten ForscherInnen der Universität Graz in einer Kooperation mit dem Gesundheits-Unternehmen Fresenius Kabi Austria. „Künstliche Intelligenz soll automatisiert überprüfen, ob relevante Qualitätskriterien erfüllt sind oder Arzneimittel aus dem Prozess entfernt und verworfen werden müssen“, schildert Stefan Thalmann, Leiter des Business Analytics and Data Science-Center an der Uni Graz, die Ausgangslage.

Der Einsatz von Software in solchen sensiblen Bereichen unterliegt Richtlinien und muss zertifiziert werden. KI nimmt jedoch eine Sonderstellung ein, da – abseits von einem Regulierungsentwurf der EU – aktuell keine Ansätze für die Zertifizierung vorhanden sind. „Denn die Technologie lernt selbstständig Entscheidungsregeln aus vergangenen Beurteilungen, die Menschen getroffen haben und die in den sogenannten Trainingsdaten abgebildet sind“, fasst der Wissenschafter zusammen.

In der Zusammenarbeit mit Fresenius Kabi ging es darum, den Prüfvorgang von sensiblen Medikamenten mit Hilfe einer KI unter die Lupe zu nehmen. Den Haken beschreibt Thalmann: „KI wird zur Blackbox, denn wir kennen diese Regeln nicht und wissen somit nicht, worauf sich die automatisierte Entscheidung begründet.“ Der Wirtschaftsinformatiker erklärt: „Wir setzten spezielle Erklär-Komponenten ein und mit künstlichen Sonderfällen wurde die KI gewissermaßen herausgefordert.“ In der Folge konnten so die Modelle verstanden und Ergebnisse besser nachvollzogen werden. Erstmals ist es damit WissenschafterInnen der Uni Graz gelungen, den Einsatz künstlicher Intelligenz im Pharmaumfeld zu zertifizieren. Stefan Thalmann: „Das Projekt zeigt, wie der KI-Regulierungsvorschlag der EU in der Praxis umgesetzt werden kann.“

Die Ergebnisse wurden in einem Fachjournal veröffentlicht.

Im Rahmen des Profilbereichs Smart Regulation arbeitet Stefan Thalmann interdisziplinär mit JuristInnen, PsychologInnen und EthikerInnen an diesem Thema weiter.

Andreas Schweiger

Weitere Artikel

Elektrisierend: Forschende filmen die ersten Augenblicke auf dem Weg von Licht zu Strom

Physikern der Universität Graz ist gemeinsam mit Kolleg:innen der Universität Marburg und des Forschungszentrums Jülich ein wissenschaftlicher Durchbruch gelungen. Erstmals konnte die Geburt von elektrischer Energie aus Licht gefilmt und theoretisch beschrieben werden. Die Arbeit ist von weitreichender Bedeutung, unter anderem für die Optimierung nachhaltiger Energiegewinnung aus Photovoltaik. Denn sie liefert fundamentale Bausteine für das Verständnis der physikalischen Prozesse, wie sie etwa in organischen Solarzellen stattfinden. Das Paper wurde in der Fachzeitschrift Physical Review X, einem der weltweit renommiertesten Journale für Physik, publiziert.

Uni Graz: Gemeinsam für einen zukunftsfähigen Wissensstandort Steiermark

Runder Tisch fordert tragfähige Finanzierung für die Leistungsvereinbarungsperiode 2028–2030 der fünf steirischen Universitäten mit dem Bund.

Wie unterrichten mit youtube und KI? Uni Graz stärkt Mediendidaktik in der Schule

Die Reise durch die Blutgefäße mit der VR-Brille veranschaulicht den Biologie-Unterricht. Ein interaktives Quiz macht Physik lebendiger. Das youtube-Video erklärt den Ersten Weltkrieg. Das Handy wird zwar vermehrt aus dem Klassenzimmer verbannt, dafür übernehmen in der Schule zunehmend soziale Plattformen, Apps sowie KI eine Rolle in der Wissensvermittlung. Doch wie gelingt der Unterricht mit Medien noch besser? Wo liegen die mediendidaktischen Herausforderungen? An der Universität Graz tauschen sich dazu Wissenschaftler:innen bei einer Tagung aus, die zum ersten Mal in Österreich stattfindet.

Jurassic Sounds: Biologe rekonstruiert Insekten-Gesänge vor 165 Millionen Jahren

Es war wohl nicht nur das Brüllen der Dinosaurier, das im Zeitalter des Jura die tierische Geräuschkulisse ausmachte. Grillen und Heuschrecken kommunizierten in vielfältigen Gesängen und höchsten Tönen, wie Thorin Jonsson vom Institut für Biologie der Universität Graz gemeinsam mit Kolleg:innen der Universitäten in Lincoln, Bristol (UK), Peking (China) und Tempe (USA) herausfand. Die Erkenntnisse über die bislang ältesten Klangspuren der Erde wurden soeben im Journal PNAS veröffentlicht.