In der Schule sangen wir das alte Volkslied „Die Gedanken sind frei, wer kann sie erraten […] Es bleibet dabei: die Gedanken sind frei“. Eine alte Weisheit, die schon die Minnesänger wie Walther von der Vogelweide besangen „och sint iedoch gedanke frî– Sind doch Gedanken frei.“ Dies ist nun eine weitere Gewissheit, die unserer Tage ins Wanken gerät.
Der Inhalt im Überblick
Onkel Xi schaut dir in den Kopf
Laut Berichten wird nun in immer mehr chinesischen Schulen das Gegenteil Realität. Die Grenze, die auch Diktaturen bisher nicht überschreiten konnten, nämlich die Gedanken ihrer Untertanen zu lesen, soll nun in chinesischen Klassenzimmern überwunden werden. Eine weitere Meldung aus einem Land, in dem es keinen Datenschutz gibt.
Mit Hilfe von Stirnbändern werden die Gehirnströme der Schüler permanent ausgewertet. Ein Lehrer kann so über ein Tablet die Aufmerksamkeit der Schüler in Echtzeit überwachen und so feststellen, ob ein Schüler gerade in Gedanken abschweift. Zudem wird dem Lehrer über eine Leuchte an der Vorderseite des Stirnbands die Aufmerksamkeit des Schülers angezeigt: Leuchtet sie rot, ist der Schüler aufmerksam, leuchtet sie weiß, ist er unaufmerksam. Des Weiteren wurden Kameras mit Gesichtserkennungssoftware in den Klassenräumen installiert, durch die ebenfalls Rückschlüsse auf die Konzentration der Schüler gewonnen werden können.
Nicht nur den Eltern werden die Auswertungen übermittelt, sondern die Daten werden auch an staatliche Stellen weitergeleitet und den Schülern werden die Ergebnisse ihrer Mitschüler angezeigt, um so zu einem Wettstreit um mehr Aufmerksamkeit zu motivieren.
Gibt es zwei Seiten der Medaille?
Lehrer berichten, dass die Schüler durch die Stirnbänder aufmerksamer seien. Wahrscheinlich aus Angst vor negativen Konsequenzen, wenn ihre Werte schlechter sind als die ihrer Mitschüler. Theoretisch bieten die Stirnbänder aber natürlich auch die Chance, den Unterricht kindgerechter zu gestalten. Sobald der Lehrer merkt, dass immer mehr Kinder unaufmerksam werden, könnte eine Pause einlegt oder zusammen mit dem Schüler nach den Gründen für die mangelnde Aufmerksamkeit gesucht werden. So könnten einzelne Probleme gelöst werden, die vielleicht sonst bei einer Vielzahl von Schülern in einer Klasse übersehen würden.
Laut eines Artikels soll die Technik auch zur Verbesserung der Arbeitsbedingungen bei einem chinesischen Stromnetzbetreiber im Süden des Landes eingesetzt werden: Stellt der Arbeitgeber über die Stirnbänder fest, dass ein Arbeiter zu unkonzentriert wird, wird ihm eine Pause oder Urlaub gewährt (vielleicht auch für immer). Nach eigenen Angaben konnte das Unternehmen so, seit Einführung der Stirnbänder 2014, den Gewinn um ca. 315 Mio. Dollar steigern, weil Mitarbeiter effektiver arbeiteten und ihnen weniger häufig kostspielige Fehler unterliefen.
Ob nun für solche Verbesserung unbedingt der Einsatz von Gehirnstrommessung erforderlich ist, mag dahin gestellt bleiben. Zumal es für die Schüler (oder Mitarbeiter) wahrscheinlich ein wahr gewordener Alptraum ist. So berichten Schüler, dass sie zu Hause Ärger mit den Eltern bekamen, weil die Aufmerksamkeitswerte zu schlecht waren. Ich möchte gar nicht wissen, wie strahlend weiß das Stirnband während meiner gesamten Pubertät geleuchtet hätte, wahrscheinlich so weiß, dass ich hochkant von der Schule geflogen wäre.
„Dem Anwenden muss das Erkennen vorausgehen“
Dieses Zitat von Max Planck wurde bei der Eröffnungsrede zum Symposium des Bundesbeauftragten für Datenschutz zu dem Thema „Chancen und Risiken für den datenschutzgerechten Einsatz von Künstlicher Intelligenz“ angebracht.
Es ist eine gute Maxime für eine Herangehensweise beim Einsatz neuer Technologien. Eine Gesellschaft sollte schon vor dem Einsatz neuer Technologien hinterfragen, welche Probleme dabei enstehen könnten. Gerade vor dem Hintergrund häufiger Mahnungen, Datenschutz sei der Totengräber für Innovation, sollte man angesichts solch drastischer Entwicklungen in anderen Ländern diskutieren, welche Risiken, aber auch welche Chancen neue Technologien haben.
Die DSGVO bietet dafür einen geeigneten Ansatz. So sollen Risiken bei Einsatz neuer Technologien für die Verarbeitung personenbezogener Daten schon frühzeitig mitberücksichtigt werden, indem der Verantwortliche diese Rahmen des Konzepts Privacy by design and by default oder der Datenschutz-Folgeabschätzung ermittelt.
„Vorsicht, mit Zuversicht vereint, gelangt zum Zweck“
Der Blick für mögliche Risiken sollte aber nicht den Blick für Innovation verstellen. Schließlich gingen in der Vergangenheit die meisten Innovationen auch mit gewissen Risiken einher. So wird nicht zu Unrecht kritisiert, dass die DSGVO es europäischen Unternehmen unnötig schwer macht, in der EU konkurrenzfähige datengestützte Zukunftstechnologien zu entwickeln.
Zu nennen sind hier das Verbot mit Erlaubnisvorbehalt, d.h. das prinzipielle Verbot zur Verarbeitung personenbezogener Daten. Ein solches der allgemeinen Handlungsfreiheit diametral entgegenstehende Prinzip führt zwangsweise zu so müßigen wie fehlgeleiteten Diskussionen, ob nun Visitenkarten ausgetauscht werden dürfen oder nicht. Eine der Diskussionen, die Europa sicher nicht an die Innovationsspitze katapultieren wird.
Vor dem Hintergrund der Entwicklung von Künstlicher Intelligenz werden zudem der strenge Zweckbindunggrundsatz und die Erklärbarkeit/Voraussagbarkeit der Ergebnisse von Datenverarbeitungen krititsiert. Schließlich wissen die Entwickler von Künstlicher Intelligenz häufig selbst nicht genau, wie Algorithmen zu Ergebnissen kommen, sondern nur dass sie zu Ergebnissen kommen. Nur wenn Spagat zwischen Datenschutz und mutiger technischer Innovation gelingt, kann der europäische Ansatz eines hohen Datenschutzstandards zu einem Vorbild für andere Länder werden, als alternatives Modell zu dem zügellosen Überwachungskapitalismus chinesischer aber auch amerikanischer Art. Gelingt dies nicht, werden sich auch europäische Bürger mangels Alternativen der Macht des Faktischen beugen müssen und auf chinesische und amerikanische Produkte angewiesen sein.
Das Beispiel zeigt einmal mehr, dass Technik an sich nie gut oder schlecht ist, sondern dass es auf die Art der Verwendung ankommt. Gehirnwellenmessung im medizinischen Bereich ist ein Segen. Ihr Einsatz ohne ethischen Kompass in anderen Lebensbereichen öffnet Tür und Tor zu einer Überwachungsgesellschaft ungeahnten Ausmaßes. Die Frage, die man sich daher stellen sollte, ist wie man auf die Herausforderungen einer Welt reagieren soll, in der es nicht mehr nur darum geht, dass Computer gehackt werden, sondern dass es mittlerweile möglich ist, Menschen zu hacken. Hoffen wir, dass Kinder auch in Zukunft noch aus voller Brust „die Gedanken sind frei“ im Musikunterricht singen werden.
Woher kommen die Erkenntnisse die zu diesem Artikel führten. Ich wäre an weiteren Details interessiert um die Brisanz dieses Artikels entsprechend in meinen Gruppen näher erläutern kann.
Guten Tag, die Erkenntnisse für diesen Beitrag stammen allesamt aus den in dem Beitrag verlinkten Artikeln und Videos.