EU-Regeln zum Einsatz von Künstlicher Intelligenz im Unterricht

Die Europäische Union hat 2024 mit dem EU AI Act erstmals Regeln für den Umgang mit Künstlicher Intelligenz (KI) aufgestellt. Erklärte Ziele sind, Innovationen mit Sicherheits- und Ethikstandards in Einklang zu bringen und die Entwicklung vertrauenswürdiger KI zu fördern. Dazu gehört auch der sichere und ethische Einsatz von KI an Schulen. Das Gesetz tritt stufenweise in Kraft, wie diese Übersicht zeigt. Das soll sicherstellen, dass Unternehmen, Behörden und Schulen genug Zeit für die Umsetzung haben.

Was ändert sich?

Bereits ab 2. Februar 2025 müssen Schulen, die KI-gestützte Systeme nutzen, sicherstellen, dass ihr Personal für den verantwortungsvollen Einsatz von KI-Systemen geschult ist und entsprechende Kompetenzen aufgebaut hat. Dafür gibt es Selbstlernkurse und Webinare von unterschiedlichen Anbietern. Ebenfalls ab Februar 2025 sind KI-Systeme mit unannehmbarem Risiko in der EU verboten. Der EU AI Act kategorisiert KI-Systeme in vier Risikostufen: 

• Unannehmbares Risiko: KI, die menschliches Verhalten manipuliert oder soziale Bewertungen vornimmt, z. B. Aufbau von Gesichtserkennungsdatenbanken
• Hohes Risiko: KI-Systeme, die Sicherheit oder Grundrechte betreffen, z. B. Lernmanagementsysteme, die Lernergebnisse bewerten, Lernprozesse steuern oder Prüfungsbetrug überwachen
• Begrenztes Risiko: KI-Systeme, die mit Personen interagieren, wie z. B. Chatbots
• Minimales Risiko: administrative oder KI-Systeme wie z. B. Spamfilter. 

Daher müssen Schulen bis dahin eine Bewertung ihrer KI-Systeme vorgenommen haben. Bis Mitte 2025 sollten die notwendigen Verwaltungsstrukturen geschaffen sein. Spätestens bis August 2026 müssen alle eingesetzten KI-Technologien den Bestimmungen des EU AI Act entsprechen. 

Ethische Leitlinien für die KI-Nutzung

Für Lehrkräfte hat die EU Ethische Leitlinien über die Nutzung von KI und Daten für Lehr- und Lernzwecke veröffentlicht, die europaweit in Schulen zum Einsatz kommen sollen. Darin werden verschiedene Anwendungsfälle von KI vorgestellt: 

• Wissensvermittlung an Schülerinnen und Schüler: z. B. intelligentes Tutoren-System, dialogbasiertes Tutoren-System, Anwendungen zum Sprachenlernen
• Unterstützung von Schülerinnen und Schülern: z. B. Lernumgebungen für entdeckendes Lernen, formative Evaluation von schriftlichen Aufgaben, KI-gestütztes kollaboratives Lernen
• Unterstützung von Lehrkräften: z. B. summative Evaluation von schriftlichen Aufgaben, Überwachung des Schülerforums, KI-gestützte Lehrassistenten, Empfehlung pädagogischer Ressourcen
• Systemunterstützung: z. B. Educational Data Mining für die Mittelzuweisung, Diagnose von Lernschwierigkeiten, Beratungsdienste

Anschließend werden vier zentrale Aspekte genannt, die der ethischen Nutzung von KI und Daten beim Lehren, Lernen und Bewerten zugrunde liegen sollen: 1) der Vorrang menschlichen Handelns, 2) Fairness, 3) Menschlichkeit und 4) der Grundsatz der gerechtfertigten Entscheidung. Davon werden dann sieben Kernanforderungen an eine vertrauenswürdige KI abgeleitet: 

• Vorrang menschlichen Handelns und menschliche Aufsicht, z. B. Grundrechte, Kinderrechte, menschliches Handeln und menschliche Aufsicht
• Transparenz, z. B. Nachverfolgbarkeit, Erklärbarkeit und Kommunikation
• Vielfalt, Nichtdiskriminierung und Fairness, z. B. Zugänglichkeit, universeller Entwurf, Vermeidung unfairer Verzerrungen, Beteiligung der Interessenträger
• Gesellschaftliches und ökologisches Wohlergehen, z. B. Nachhaltigkeit und Umweltschutz, soziale Auswirkungen, Gesellschaft und Demokratie
• Datenschutz und Datenqualitätsmanagement, z. B. Achtung der Privatsphäre, Qualität und Integrität der Daten sowie Datenzugriff
• Technische Robustheit und Sicherheit, z. B. Abwehrfähigkeit, Schutz und allgemeine Sicherheit, Präzision, Zuverlässigkeit und Reproduzierbarkeit
• Rechenschaftspflicht, z. B. Nachprüfbarkeit, Minimierung und Meldung von negativen Auswirkungen, Kompromisse und Rechtsbehelfe

Zu jeder dieser Kernanforderungen werden schließlich mehrere Leitfragen für Lehrkräfte formuliert, die Lehrkräfte dazu befähigen sollen, besser mit den komplexen Technologien umzugehen. Fallbeispiele zeigen, wie die Leitfragen in der schulischen Praxis angewendet werden können, zum Beispiel um ein neues KI-System vor der Einführung zu prüfen. Die Leitfragen können auch als Grundlage für Diskussionen mit Lernenden, Eltern und der Schulgemeinschaft dienen.