In Kanada installiert ein Restaurantbetreiber über 60 Kameras in seinem Restaurant. Weshalb das etwas mit dem chinesischen Social-Credit-System zu tun hat und weshalb man diese Entwicklung auch in Europa sehr genau beobachten sollte, beleuchtet dieser Artikel.
Der Inhalt im Überblick
Gefährden Sie nicht Ihren Social Credit!
Das chinesische Social-Credit-System wurde 2014 beschlossen und wird in dem Land seitdem schrittweise und konsequent entwickelt und ausgebaut. Das System wird aus öffentlichen und privaten Datenbanken (z.B. Verkaufsplattformen) gespeist, wobei etwa Daten zur finanziellen Bonität, zum Strafregister und weitere als relevant erfasste Verhaltensweisen zusammengeführt werden. Hieraus ergibt sich eine Gesamtpunktzahl, welche die soziale Reputation des Bürgers widerspiegelt. Feuerzeuge oder Taschenmesser werden bei der Sicherheitskontrolle am Flughafen entdeckt? Gar nicht gut. Zu schnelles Fahren in der Stadt? Vertrauensschädigend! Das gibt satt Minuspunkte in der Sozialwertung. Bei der Sanktionierung sind der Fantasie des Unrechtsstaats nahezu keine Grenzen gesetzt: Schlechte Bewertungen können etwa zu Steuererhöhungen führen, Reisebeschränkungen oder zur Verwehrung des Zugangs zur Ausübung bestimmter Berufe.
Es ist ein Versuch der totalen Kontrolle der Zivilbevölkerung. Der Bürger wird auf Schritt und Tritt überwacht und jedes (Fehl-)verhalten wird protokolliert und bewertet. Ein potentieller Exportschlager?
HaiDiLao Hotpot Restaurant Company
Ein Restaurant Manager, der ein Restaurant der chinesischen Kette Haidilao Hot Pot in Vancouver betreibt, bestätigte kürzlich, dass in den Betriebsräumlichkeiten auf Wunsch der Konzernmutter 60 Überwachungskameras installiert wurden, die als Teil des Social-Credit-Systems in China fungieren. Die 60 Kameras verteilen sich auf 30 Tische, auf jeden Tisch sind daher gleich zwei Kameras gerichtet (wohl damit die Gesichter sich gegenübersitzender Personen beide im Bild sind).
Auf die Frage, warum in dem Restaurant so viele Kameras zur Überwachung des Personals und der Gäste eingesetzt werden, äußerte der Manager unverblümt, der Zweck liege in der Ahnung von Fehlverhalten zur Bestrafung des Personals, die sich nicht an Unternehmensstandards hielten. Darüber hinaus werden die Videos nach China übermittelt, wobei der Grund hierfür als „geheim“ eingestuft worden sei. Natürlich geht es bei dem Ganzen auch irgendwie ein bisschen um die „very strict food safety discipline“.
Auf Nachfrage der Journalisten bei der zuständigen Datenschutzbehörde in British Kolumbien, ob sie sich der Überwachung in dem Restaurant bewusst sei und wie dies mit der geltendem Datenschutzrecht vereinbar sei, ließ die Behörde verlauten, dass die Einwilligung zentrales Element des Datenschutzes sei. Eine solche könne nach dem Personal Information Protection Act (PIPA) ausdrücklich, stillschweigend oder durch ein fehlendes Opt-out-gegeben werden. Da viele Mitarbeiter des Restaurants (immer noch) chinesische Staatsbürger und bereits im Social-Credit-System registriert sind, sei es unwahrscheinlich, dass sie nach kanadischem Recht Datenschutz verlangen würden. Denn ein „Einwilligen“ sei in totalitären Regimen keine Option. Zu den Gästen wurde sich nicht geäußert.
Der Vorgang wirft ein Schlaglicht darauf, dass das befremdliche Social-Credit-System in China kein lokales Phänomen zu bleiben scheint, sondern sich chinesischen Unternehmen in der Pflicht sehen können, an der systematischen Massenüberwachung, unabhängig von ihrem konkreten Standort, teilzunehmen. Auch vermuten manche, dass die exzessive Videoüberwachung in dem Restaurant aus Vancouver ein Testballon der Kommunistischen Partei Chinas dafür ist, wie solche Maßnahmen in den jeweiligen betroffenen Ländern aufgenommen werden.
Social-Credit-System auch in Deutschland möglich?
Wie würde so ein Fall in Deutschland laufen? Hier lässt sich mit ziemlicher Sicherheit sagen, dass ein Restaurantbesitzer, der das chinesische Social-Credit-System in seinem Restaurant ausrollt, schnell eine der 16 Landesdatenschutzaufsichtsbehörden an der Backe hätte.
Diese haben sich letztes Jahr in Gestalt der Datenschutzkonferenz (DSK) mittels einer Aktualisierung der Orientierungshilfe zur Videoüberwachung zum Thema geäußert. Hier heißt es etwa:
„Bevor eine Videokamera aktiviert wird, ist für jede Verarbeitung eindeutig zu bestimmen und festzulegen, welcher Zweck mit der Videoüberwachung erreicht werden soll. […] Die jeweiligen Zwecke sind für jede einzelne Kamera schriftlich zu dokumentieren und ins Verzeichnis der Verarbeitungstätigkeiten aufzunehmen.“
Hier dürften deutsche Restaurantbesitzer mit einer Vorliebe für orwellsche Überwachungsmaßnahmen schon ins Straucheln geraten. Was würde man hier dokumentieren? Anders als in der kanadischen Provinz Britisch-Kolumbien gelten unter der DSGVO strenge Anforderungen an eine Einwilligung. Die Möglichkeit eine solche im Beschäftigtenverhältnis freiwillig zu geben, wird von den Behörden in den meisten Fällen überaus kritisch gesehen. Und auch der Idee, dass die Gäste durch das Betreten eines speziell ausgewiesenen Bereichs nach vorheriger Information über die Videoüberwachung konkludent in diese Einwilligen, erteilt man in der Orientierungshilfe eine Absage.
Somit kommt bei der Videoüberwachung durch nicht-öffentliche Stellen regelmäßig nur das berechtigte Interesse gem. Art. 6 Abs.1 lit. f DSGVO als Rechtsgrundlage in Betracht. Dafür muss es sich aber bei dem verfolgten Anliegen um einen legitimen Zweck handeln. Wird hier etwa „Berechnung der sozialen Reputation“ als Verarbeitungszweck eingetragen, könnte es passieren, dass das eigene DSGVO-Exemplar im Regal spontan Feuer fängt. Unabhängig von solchen praktischen Problemen bei Einführung einer totalitären Überwachung in den eigenen Betriebsräumlichkeiten, formiert sich glücklicherweise auch politischer Widerstand.
Die SPD-Vorsitzende Esken hatte sich beispielsweise letztes Jahr für ein Verbot von Gesichtserkennung im öffentlichen Raum ausgesprochen. So eine Regelung würde § 4 BDSG gut zu Gesicht stehen, der für die Videoüberwachung durch öffentliche Stellen weiterhin anwendbar bleibt.
Es gibt mittlerweile eine politische Initiative mit den Namen „reclaim your face“, die sich dafür einsetzt, Gesichtserkennungssoftware europaweit zu verbieten. Und tatsächlich, die EU rührt sich hier endlich. So hat diese kürzlich einen Entwurf für ein Gesetz zur Regulierung von automatisierten Entscheidungssystemen vorgelegt, das insbesondere die automatisierte Gesichtserkennung an öffentlichen Orten betreffen dürfte. Der Entwurf soll explizit auch den Einsatz von „Social-Scoring-Systemen“ durch Regierungen verbieten.
Gefährliche Ausnahmen
Damit ist das Thema Überwachungsstaat jedoch nicht vom Tisch, denn gänzlich ohne Ausnahmen will auch die künftigen EU-Regelungen zur KI-gestützten Videoüberwachung nicht auskommen. So ist vorgesehen, dass es für bestimmte Fälle auch Ausnahmen des Verbotes geben muss: Die EU-Kommission nennt hier etwa die gezielte Abwehr drohender Terrorattacken oder die Nutzung des Systems zur Auffindung von mutmaßlichen Tätern bei von schweren Straftaten. Hier fallen einem etwa Fälle wie die Suche nach Anis Amri nach der Terrorattacke von Berlin im Dezember 2016 ein.
Im Umkehrschluss kann dies jedoch nur bedeuten, dass die Installation biometrischer und KI-gestützter Videoüberwachung im ersten Schritt möglich sein muss, um sie dann für die „Ausnahmen“ bereit zu haben. Dies muss nicht der schleichende Beginn einer Totalüberwachung sein. Aber die eingesetzte Technologie bringt ohne Zweifel alle Werkzeuge mit, die es hierfür benötigt, wie das chinesische Social-Credit-System eindrucksvoll zeigt.
