Das Thema „Künstliche Intelligenz“ (KI) ist in aller Munde – auch im Bereich der schulischen Bildung müssen wir uns intensiv damit beschäftigen, wie der Schulalltag unter dem Einsatz von KI in Zukunft aussehen soll. Was sind intelligente tutorielle Systeme überhaupt, wozu sind sie theoretisch in der Lage und wie sieht es aus mit dem Datenschutz bei einem Einsatz dieser Systeme für die Kleinsten der Gesellschaft? Antworten auf diese Fragen finden Sie in diesem Beitrag.
Der Inhalt im Überblick
Realität in den Schulen
Die derzeitigen schulischen Gegebenheiten sind davon geprägt, dass immer mehr Schüler in immer heterogeneren Klassen lernen und gleichzeitig eine immer geringere Anzahl von Lehrkräften zur Verfügung steht, um ihnen den notwendigen „Rucksack“ an Wissen mit auf den Lebensweg zu geben – ein stark verbesserungswürdiger Allgemeinzustand.
Parallel dazu überzieht unsere Gesellschaft eine große Digitalisierungslawine. In welchem Ausmaß die Schulen zurzeit digital arbeiten, scheint heterogen zu sein. Im Allgemeinen reicht dies von der Unterstützung durch einzelne digitale Tools für den Unterricht bis hin zur Digitalisierung ganzer Schulen, auch unter KI-Einsatz, je nach Bundesland, Förderprogramm und einzelnen Initiativen.
Es liegt auf der Hand, dass der Einsatz von KI in diesem Bereich eine Verbesserung der Ist-Situation im deutschen Bildungssystem bewirken würde. Jetzt ist die Zeit, die schulische Realität flächendeckend in die Lage zu versetzen, mit den KI-Technologien in Zukunft rechtmäßig umgehen zu können und datenschutzrechtliche Leitplanken zu schaffen, mit denen man vor Ort arbeiten kann.
Was genau sind intelligente tutorielle Systeme?
Intelligente tutorielle Systeme (ITS) sind eine von vielen möglichen Formen von KI-Technologien in Schulen, wie in dem Schlussbericht Trendstudie „KI@Bildung: Lehren und Lernen in der Schule mit Werkzeugen Künstlicher Intelligenz“ im Auftrag der Deutsche Telekom Stiftung, 06/2021, (S. 10) dargestellt.
Was solche Intelligente tutorielle Systeme können, fasst die Bundeszentrale für politische Bildung auf ihrer Webseite anschaulich wie folgt zusammen:
„Diese Systeme verwenden Algorithmen, um den aktuellen Wissensstand und die Fähigkeiten des Lernenden kontinuierlich zu analysieren und (…) individuell zugeschnittene Lerninhalte bereitzustellen. (…) das System (kann) erkennen, in welchen Bereichen jemand Schwierigkeiten hat und gezielte Übungen oder Lernmaterialien anbieten, um genau diese Schwächen zu bearbeiten. (…)
Zugleich können Lehrerinnen und Lehrer mittels ITS jederzeit den Kompetenzstand ihrer Schülerinnen und Schüler abrufen. Das System sammelt kontinuierlich Daten über den Fortschritt, die Aktivität und die Leistung der Lernenden, (…). Dieser kontinuierliche Einblick hilft dabei, Unterricht effektiv zu planen und sicherzustellen, dass niemand zurückbleibt.
Ein weiterer Vorteil von ITS ist die Möglichkeit, den Lernenden sofortiges und individuelles Feedback zu ihren Antworten und Lösungen zu geben. (…)“
Dafür kombinieren die intelligenten tutoriellen Systeme (ITS) menschliche Kommunikations- und Interaktionsformate (z.B. Sprache, Chatbots etc.) mit Verfahren des Machine Learnings und der Learning Analytics bzw. des Educational Data Minings.
Machine Learning
Bei dem sog. „Machine Learning“ lernen Systeme, eigenständig Muster und Zusammenhänge aus Daten zu erkennen. Das Lernen impliziert hierbei bereits, dass sie sich dabei verbessern. Und zwar selbstständig. Hierfür gibt es in der Regel vorangestellte Lernphasen mit mehreren Bausteinen und Aufgaben, die aufeinander aufbauen. Alle daraus resultierenden Erkenntnisse können dann auch für tiefergehende Problemstellungen und Aufgaben genutzt werden.
Learning Analytics und Educational Data Mining
Unter dem Begriff „Learning Analytics“ versteht man die kontinuierliche Messung und Sammlung, Analyse und Berichterstattung von Daten über Lernende und ihre Aktivitäten zum besseren Verständnis und zur Optimierung des Lernens in den jeweiligen digitalen Lernumgebungen. Hier werden Klicks, Navigationsmuster, Suchanfragen, Bearbeitungszeiten und Daten über Quantität und Qualität von Interaktionen dokumentiert und mit Blick auf Kompetenz- und Leistungsniveau ausgewertet. Educational Data Mining (EDM) meint Verfahren zur Messung und Analyse von Lernprozessen und -aktivitäten, Lernzeit und Lerndauer sowie Testleistungen, die eingesetzt werden um aus diesen Daten abzuleiten, wie Lernende in bestimmten didaktischen Formaten oder mit bestimmten Lernangeboten und Systemen lernen (siehe ebenfalls o.g. Studien-Schlussbericht, S. 12).
Datenverarbeitung in intelligenten tutoriellen Systemen
Die Möglichkeiten der Systeme lassen es bereits erahnen: Die Daten, die in einem solchen System verarbeitet werden können, sind absolut umfangreich und umfassen grundsätzlich eine Vielzahl von Daten sowohl über den Lernenden, über den Lernplan, technische Nutzerdaten, aber auch Umgebungsdaten, Feedbackdaten und natürlich die persönlichen Lerndaten des Lernenden.
Neben der Tatsache, dass in diesen Systemen zum aller größten Teil Daten von Kindern verarbeitet werden, die von der DSGVO besonders geschützt werden, könnten ggf. auch Rückschlüsse auf sensible Daten gem. Art. 9 DSGVO gezogen werden – nicht nur zu den Schülern selbst, sondern auch zu Personen in deren Umfeld.
All das bringt erhebliche datenschutzrechtliche Herausforderungen mit sich.
KI in der Schule weltweit
Dass andere Länder bei dem Thema „Einsatz von KI in der schulischen Bildung“ wesentlich weiter vorangeschritten sind, ist kein Geheimnis und nicht überraschend.
Hervor geht dies auch aus Fakten wie dem o.g. Studien-Schlussbericht (S. 19), in der einzelne schulische KI-Anwendungen betrachtet und ausgewertet wurden. Zu den bewerteten Tools wird festgestellt:
„Von den insgesamt 99 recherchierten und erfassten Anwendungen stammen über die Hälfte aus den USA und China“.
Als Begründung für den deutlich sichtbaren US-amerikanischen und chinesischen Entwicklungs- und Produktvorsprung werden die technologischen Stärken der jeweiligen nationalen IT-Industrien und bildungskulturelle Unterschiede genannt.
Was alles in diesem Bereich woanders bereits praktiziert wird und folglich auch bei uns grundsätzlich möglich sein könnte, lässt sich anhand folgender Beispiele aus den genannten Ländern erahnen:
China: Analyse von Daten im Klassenzimmer
China will bis 2030 eine Weltmacht in Sachen KI werden, so der Plan des chinesischen Staatsrats. Entsprechend ist auch in Chinas Schulen KI längst angekommen. Egal, ob mittels „Learning Analytics“ an chinesischen Schulen mit Hilfe von Sensoren sogar Gehirnströme der Schüler gemessen und die entsprechenden Auswertungen für Lehrer und Eltern bereitgestellt werden, Roboter in Klassenräumen zur Analyse des Gesundheitszustandes und des Beteiligungslevels eines jeden Kindes analysieren oder Kameras in Klassenräumen alle 30 Sekunden die Gesichtsausdrücke eines jeden Schülers erfassen – diese Maßnahmen dürften sicherlich für uns alle zu weit gehen, zeigen aber die Bandbreite dessen auf, was möglich ist.
USA: durchstrukturierter, individualisierter Unterricht
Ggf. eher als „Best Practice“-Beispiel anzusehen ist hingegen die Organisation der „School of One“ in New York mittels des Projekts „New Classroom“: Hier wird der je nach Lernstand differenzierte individuelle Lehrplan für die nächsten Unterrichtsstunden verbunden mit einem Spektrum an methodischen Varianten, die Lernenden den inhaltlichen Zugang erleichtern sollen. Dort erstellt ein KI-basiertes Lernsystem jede Nacht für die Schüler den individuellen Stundenplan für den nächsten Tag, den jeder Schüler morgens erhält. In Mathe wurden Klassen- und Jahrgangsgrenzen aufgelöst, alle zusammen lernen in einem großen Raum. Manche lernen gemeinsam in Gruppe, andere lassen sich von Lehrern etwas erklären oder lernen allein. Das System wertet das Gelernte unverzüglich aus und auf der Basis erstellt es dann wiederum einen neuen Lernplan. Die Lehrer sehen auf Bildschirm, wie jeder vorankommt. So können sie schnell reagieren und gewinnen Zeit, um effizienter zu unterrichten. Für Schüler ein Erfolg, sollen Zahlen in dem Video belegen – sie würden 1,5 Mal so viel wie das nationale Mittel in den USA lernen, dank der digitalen Personalisierung.
Deutschland: eher verhalten
In Deutschland hingegen setzen bislang nur wenige Bundesländer KI-basierte Tools im Regelbetrieb ein, so der Bericht „Learning Analytics im Unterricht: Wo künstliche Intelligenz bereits eingesetzt wird – und was Deutschland davon lernen kann“ (ab S. 33, 35). In diesem Bericht wird Frau Jun.-Prof. Dr. rer. nat. Maria Wirzberger, Professorin für Lehren und Lernen mit intelligenten Systemen an der Universität Stuttgart zitiert:
„Hier sind sich ForscherInnen einig: In deutschen Schulen würde der Einsatz von KI nur akzeptiert, wenn es verlässliche, sichere und ethisch begründbare Verfahren und Regeln zum Umfang mit den Daten gibt.“
In einem Bericht über die 46. Deutschen Jahrestagung für Künstliche Intelligenz des Fachbereichs Künstliche Intelligenz der Gesellschaft für Informatik Ende September 2023 in Berlin wird ernüchternd festgestellt, es werde noch einige Zeit ins Land gehen, bis Künstliche Intelligenz in didaktisch durchdachten, anwendungsfreundlich designeten und für alle verfügbaren Lernprogrammen an allen deutschen Schulen ankommen werde. Man bemängelt, es sei nichts vorangegangen und man komme „im Gerangel von Bund und Ländern keinen Schritt weiter“.
Ist Deutschland bereit für KI in der Schule?
Eines ist sicher: Jetzt ist der Zeitpunkt, die Gestaltung des datenschutzkonformen Einsatzes von KI-Techniken in deutschen Schulen anzugehen.
Vorteile der intelligenten tutoriellen Systeme versus Datenschutz-Risiken
Die wichtigsten Vorteile des Einsatzes von ITS-Systemen in Schulen für Lernende sind: personalisiertes, maßgeschneidertes Lernen, sofortiges Feedback, Barrierefreiheit und Einsatzmöglichkeit unabhängig von Zeit und Ort. Die entsprechenden, vielzähligen datenschutzrechtlichen Herausforderungen sind die, die uns regelmäßig bei dem Einsatz von KI-Technologien begegnen:
- Regelung der datenschutzrechtlichen Verantwortlichkeit
- Einhaltung der datenschutzrechtlichen Grundsätze aus Art. 5 DSGVO:
- Rechtmäßigkeit
- Datensparsamkeit
- Zweckbindung
- Transparenz
- Richtigkeit
- Verarbeitung nach Treu & Glauben
- Integrität und Vertraulichkeit
- Datenschutz durch Technikgestaltung (Art. 25 DSGVO)
- Verbot automatisierter Entscheidung im Einzelfall (Art. 22 DSGVO)
- Regelung des Umgangs mit Rechten der Betroffenen
- Datenschutz-Folgenabschätzung (Art. 35 DSGVO)
Das Besondere ist aber zusätzlich, dass wir uns im Schulbereich in einem besonders sensiblen, staatlich geregelten Rahmen bewegen, in dem in Zukunft in KI-Systemen massenhaft Daten von Kindern verarbeitet werden, so wie ggf. auch sensible Daten i.S.d. Art. 9 Abs. 1 DSGVO. Die Risiken, die daraus resultieren, in diesem Artikel zusätzlich darzustellen, würde den Rahmen leider sprengen – man muss sie aber als äußerst hoch qualifizieren.
Prüfung des Datenschutzes in intelligenten tutoriellen Systemen
Wie es momentan datenschutzrechtlich „holpert“ bezüglich des Einsatzes von z.B. KI-basierten ITS-Systemen, wird bei genauerer Betrachtung o.g. Prüfpunkte relativ schnell klar.
Vorweggenommen sei die Frage, wer denn zukünftig die „Rechtmäßigkeit der Verarbeitung“ verantwortungsvoll und möglichst verlässlich für die Schulen prüft. Angezweifelt wird, dass dies die Schulleitung höchst persönlich sein kann angesichts dicker Prüfkataloge, die jeweils abzuarbeiten sind und des Expertenwissens, das unbedingt für eine Bewertung der Datenschutzkonformität des Systems erforderlich ist.
Dann geraten wir bereits bei dem „Grundsatz der Rechtmäßigkeit der Datenverarbeitung“ gem. Art. 5 Abs. 1 lit. a DSGVO mächtig ins Stocken.
Besonders problematisch macht für die Schulen die Suche nach der Rechtsgrundlage für den Einsatz KI-basierter, personalisierter Lerntechnologien die Tatsache, dass Art. 6 Abs. 1 lit. f DSGVO im öffentlichen Bereich nicht möglich ist. Damit bleibt ein Rückgriff auf einzelne Rechtsvorschriften über Art. 6 Abs. 1 lit. c oder e DSGVO i.V.m. Art. 6 Abs. 3 DSGVO. Doch Schulrecht ist Landesrecht. Für den digitalen Unterricht gibt es mittlerweile Rechtsvorschriften, speziell für den Einsatz von KI hingegen sollte an der ein oder anderen Stelle noch Nacharbeit notwendig sein. Mit der neuen KI-Verordnung der EU kommen zwar zusätzliche Vorschriften, die allein werden aber nicht ausreichen.
Auch mit dem „Grundsatz der Datensparsamkeit“ gem. Art. 5 Abs. 1 lit. d DSGVO wird es schwierig: Ganz im Gegensatz dazu benötigen die ITS-Systeme besonders viele Daten und die Qualität des Systems hängt u.U. ab von Datenquantität und -qualität. Anonymisierung und Psedonymisierung dürften von besonderer Relevanz sein.
Nicht besser wird es bei der Betrachtung des „Grundsatzes der Zweckbindung“ gem. Art. 5 Abs. 1 lit. b DSGVO, denn bei KI-Systemen ist oft im Zeitpunkt der Eingabe von Daten der genaue spätere Verwendungszweck nur schwer zu definieren, bzw. sind Daten ursprünglich eben zu anderen Zwecken erhoben worden, so dass es sich u.U. um eine Zweckänderung gem. Art. 6 Abs. 4 DSGVO handeln könnte.
Die übrigen o.g. Prüfpunkte gehen dem Datenschützer ähnlich schwer von der Hand.
Die schwierige datenschutzrechtliche Situation von KI in der Schule
KI-basierte, personalisierte ITS-Systeme in deutschen Schulen werden verstärkt kommen, und die grundsätzlichen Möglichkeiten massenhafter Datenerhebung bzw. -analyse damit ebenfalls. Die datenschutzrechtlichen Voraussetzungen bei dem Einsatz dieser Systeme gewährleisten zu können, ist aktuell schwierig, die Prüfung komplex und ohne genügend technisches Expertenwissen fast nicht möglich. Ein eindeutiges „Go“ von „oberster Stelle“ könnte ein Weg sein, der vielen Schulen erhebliche Erleichterungen bringen würde – anstatt vieler „Nos“.
Die Erforderlichkeit ist daher bis auf Weiteres, jedes einzelne System von vornherein bereits möglichst datenschutzkonform zu entwickeln, um in der anschließenden Prüfung zu differenzieren, unter welchen ggf. weiteren erforderlichen Voraussetzungen ein datenschutzkonformer Einsatz möglich ist.
Schnell pragmatische Wege zu finden, die den Datenschutz für unsere Kleinsten voll umfänglich gewährleisten – das scheidet also momentan leider noch aus, so dass der Allgemeinzustand vorerst stark verbesserungswürdig bleiben dürfte.
