Fakten recherchieren, Übungsmaterial zusammenstellen oder gleich die Hausübungen benoten: Es gibt viele Anwendungsbereiche für KI in der Schule. Welche davon sind überhaupt erlaubt? Wo lauern Fallen? Und welche Pflichten gehen Schüler:innen und Lehrende bei der Nutzung von ChatGPT & Co. ein? Diesen Fragen hat sich die Juristin Maria Bertel mit ihrem Team gewidmet, unterstützt von Forschungsmanagerin Maddalena Vivona.
„Es gibt mehrere juristische Grundlagen, die bei der Nutzung von KI im Bildungsbereich berücksichtigt werden müssen: etwa den AI Act der EU, die Datenschutzgrundverordnung und – was selten mitbedacht wird – die Kinderrechte“, fasst Maria Bertel vom Institut für Öffentliches Recht und Politikwissenschaft zusammen. Gemeinsam mit Evelyne Putz und Julian Priebsch hat sie im Rahmen des von der EU geförderten Projekts EducationalAI die Gesetzeslage der Europäischen Union durchpflügt und die relevanten Punkte in einem Leitfaden für Lehrende und Führungskräfte im Bildungsbereich zusammengefasst. „Der AI Act trifft hier schon wichtige Vorkehrungen. Bestimmte Anwendungen wie das Beurteilen von Leistungen ausschließlich durch künstliche Intelligenz werden als hoch riskant eingestuft“, stellt die Forscherin klar.
Werden Copilot, Gemini oder andere im Unterricht beziehungsweise für die Hausübungen genutzt, ist der Schutz von personenbezogenen Daten zu beachten. Schon das ist nicht allen bewusst. Dass die Deutschprofessorin zur Betreiberin eines KI-Systems werden kann, wenn sie eine Rechercheaufgabe stellt, erschließt sich ohne juristisches Fachwissen kaum noch. „Wir haben also viele rechtliche Begriffe geklärt, die Lehrpersonen meist nicht so vertraut sind“, führt Bertel aus. Die Jurist:innen haben die Expertise von Ethiker:innen, Didaktier:innen und Pädagog:innen eingeholt, um die Bedürfnisse aus der täglichen Praxis zu berücksichtigen. Der Leitfaden, der ausgewählte unionsrechtliche Grundlagen enthält, steht frei zum Download zur Verfügung.
Gemeinsam mit Evelyne Putz erstellt Maria Bertel nun ein Pendant, das sich auf österreichisches Recht fokussiert. Dieses soll im heurigen Frühsommer fertig sein. „Wir hoffen, damit rechtliche Unsicherheiten bei der Nutzung von künstlicher Intelligenz in der Schule ein Stück weit reduzieren zu können“, meint die Juristin. Sie empfiehlt, dass die einzelnen Bildungsinstitutionen gemeinsam mit den Jugendlichen, Eltern und der Direktion Richtlinien erarbeiten. Dass die Technologie in Bildungsinstitutionen zum Einsatz kommen soll, steht für die Forscherin außer Zweifel. Ein Chatbot könne beispielsweise ein guter Lerntutor sein. Allerdings ist wichtig, die Kinder zu begleiten und ihnen klarzumachen, dass sie mit einer Maschine kommunizieren.
Den Vorstoß von Bildungsminister Christoph Wiederkehr, KI als Unterrichtsgegenstand einzuführen, begrüßt die Forscherin grundsätzlich: „Digitale Fähigkeiten und Kenntnisse über die Funktionsweise dieser Tools sollten auf jeden Fall vermittelt werden. Das betrifft alle Fächer. Ob dafür ein neuer Gegenstand eingeführt werden muss, möchte ich nicht beurteilen.“