In Mannheim kommt sie seit bald fünf Jahren zum Einsatz. Mitte Juli soll es dann auch in Hamburg so weit sein: Die Überwachung öffentlicher „Brennpunkte“ mittels KI-Videoüberwachung sorgt für Aufregung. Sie soll bei der Erkennung atypischer Bewegungsmuster bei der zuständigen Polizei Alarm schlagen. Inzwischen nahm das Europäische Parlament seine Verhandlungsposition zum geplanten KI-Gesetz an, um mit der endgültigen Gesetzesform beginnen zu können.
Der Inhalt im Überblick
KI-Kameras in Hamburg und Mannheim
Zum Start des Pilotprojektes „intelligente Videoüberwachung“ im öffentlichen Raum in Mannheim Ende 2018 sprach man von „echte(r) Pionierarbeit“ und erhoffte sich durch die polizeiliche Nutzung einen Rückgang der Straßenkriminalität. Nun soll sie Mitte Juli auch im Hamburger Stadtteil St. Georg zum Einsatz kommen. Der betroffene Hansaplatz soll hierzu mittels vier Kameras probeweise für zunächst drei Monate mit derselben Technik ausgestattet werden, die bereits in Mannheim zum Einsatz kommt. Durch ihren Einsatz erhoffe man sich einen Rückgang der Straftaten im sogenannten „Brennpunkt“.
Atypische Bewegungsmuster wie etwa Rennen
Die mittels Kameras angefertigten Videoaufnahmen werden hierbei durch eine vom Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung (IOSB) entwickelten Software ausgewertet und solle dabei atypische Verhaltensmuster erkennen.
Mannheim: Algorithmenbasierte Videoüberwachung
Diese Software kam zunächst in Mannheim in Einsatz, wo sie seit nunmehr bald fünf Jahren die „konventionelle“ Videoüberwachung unterstützt. Sie arbeite dabei aber nicht mit einer Gesichtserkennung. Stattdessen registriere sie gewisse Verhaltensmuster, die typischerweise auf Straftatenverhalten hindeuten. In der Pressemitteilung des Ministeriums des Inneres, für Digitalisierung und Kommunen Baden-Württemberg hieß es:
„Bestimmte Verhaltensmuster, die auf Straftaten hindeuten wie etwa Schlagen, Rennen, Treten, Hinfallen, werden über entsprechende Algorithmen erkannt und sofort im Lagezentrum der Polizei gemeldet.“
Die Entscheidung, ob das alarmauslösende Verhalten auch einen hinreichenden Verdacht begründe, treffe am Ende dann die Polizei. So könne sie zielgerichtet und effektiv eingreifen. Im Schnitt läge die Interventionszeit zwischen der softwareseitigen Meldung und dem tatsächlichen Eingreifen durch die Polizisten bei ca. zwei Minuten. Die Software nehme hierbei also lediglich die Rolle eines Assistenzsystems der Polizeibeamten ein.
Damit die unter Laborbedingungen entwickelte Experimentalsoftware dazulernen und effektiv Gefahrensituationen erkennen kann, ist sie auf Trainingsdaten angewiesen. Da solche Aufnahmen aus öffentlichen Räumen in Deutschland aber nicht existierten, dient ihr Einsatz in Mannheim seit jeher als Pilotprojekt.
Hamburg: Anonymisierung zu „Strichmännchen“
Auch im Hamburger Stadtteil St. Georg soll dieselbe Software des Fraunhofer-IOSB zum Einsatz kommen, die lediglich atypische Verhaltensmuster erkennen soll.
Erkennt die Software bei den Videoaufnahmen bspw., dass eine Person taumelt oder eine aggressive oder defensive Körperhaltung einnehme, wird eine Meldung mit den Bildern an die Polizei getätigt. Bei ihrer Auswertung anonymisiere die aufgenommenen Personen zu „Strichmännchen“, um sie mit Verhaltensmuster zu vergleichen. Die Videoaufnahmen, welche durch die Polizei ausgewertet werden müssen, werden dabei für 72 Stunden gespeichert und anschließend überschrieben. Da – anders, als bei der konventionellen Videoüberwachung – nicht stetig ein Polizeibeamter vor den Monitoren sitzen muss, erhofft man sich hierdurch eine Entlastung, sowie effektivere Personalverwaltung.
Kritik an KI-Kameras: Überwachungsdruck & Verhaltensanpassung
Ziel sei es mittels der Assistenzarbeit der Software, frühzeitig Gefahren zu erkennen, um eine schnelle polizeiliche Intervention zu ermöglichen. Zur Verfolgung von Straftätern werde die Software nicht eingesetzt. Der ehemalige Landesbeauftragte für den Datenschutz und die Informationsfreiheit Baden-Württemberg, Stefan Brink, sah bei der Überwachung mittels KI-Unterstützung sogar einen Vorteil für den Datenschutz. So müsse sich die Polizei nicht das gesamte Bildmaterial ansehen, sondern lediglich die durch die Software gemeldeten „verdächtigen“ Szenen.
Doch der Einsatz von künstlicher Intelligenz im Rahmen öffentlicher Videoüberwachung stößt auch auf heftige Kritik. Der Sprecher das Chaos Computer Clubs (CCC), Matthias Marx, befürchtet, dass die KI-gestützte Videoüberwachung zu einer – bewusst oder unbewussten – Verhaltensanpassung der Menschen führen könnte, um keinen Alarm auszulösen. Grund sei, dass für die Betroffenen nicht erkennbar sei, welche Verhaltensweisen die Algorithmen als verdächtig einstufe und welche nicht. Auch auf netzpolitik.org wird befürchtet, dass gerade „marginalisierte Gruppen wie Obdachlose“ unter Druck gesetzt würden.
Darüber hinaus wird die Zuverlässigkeit der Software kritisiert. Zwar habe sich laut IOSB die Genauigkeit über die Zeit hinweg verbessert; eine zuverlässige Unterscheidung zwischen Umarmung und Schlägerei könne die Software aber nicht gewährleisten. 2020 lag die tägliche Fehlerquote „im unteren zweistelligen Bereich“ – somit bei mehr als 10% aller Fälle.
Geplantes KI-Gesetz: KI-Videoüberwachung bald europarechtswidrig?
In der Zwischenzeit verständigte sich das EU-Parlament am 14.06.2023 auf eine gemeinsame Verhandlungsposition zum geplanten Gesetz über künstliche Intelligenz. Mit einer großen Einigkeit von 499 zu 28 Stimmen (und 93 Enthaltungen) kann es nun in die finale Abstimmung zum Gesetzestext gehen.
Wir berichteten bereits ausführlich über das geplante „weltweit erste umfassende KI-Gesetz“. KI-Systeme sollen hierbei unterschiedlichen Risikostufen zugeordnet werden, abhängig davon, welches Risiko sie potenziell für ihre Nutzer darstellen können. Der risikobasierte Ansatz soll gewährleisten, dass KI-Systeme einerseits transparent und für ihre Nutzer nachvollziehbar sind, während anderseits den bestehenden Gefahren angemessen Rechnung getragen wird.
Am 14. Juni 2023 nahm das Europäische Parlament seine Verhandlungsposition zum geplanten KI-Gesetz mit deutlicher Mehrheit an, sodass nun in gemeinsamer Absprache mit den Mitgliedsstaaten begonnen wird, das Gesetz in eine endgültige Form zu gießen. Ziel ist es dabei, eine Einigung zwischen den Mitgliedsstaaten bis Ende diesen Jahres zu erreichen.
Forderung nach Verbot von inakzeptablen KI-Praktiken
Die Abgeordneten des Parlaments fordern, gewisse KI-Anwendungen grundsätzlich zu verbieten. Etwa wenn diese besonders schwer in die Privatsphäre der Nutzer eingreifen und diskriminieren. So sollen bspw. Überwachungssysteme, welche anhand biometrischer Daten Personen in Echtzeit oder nachträglich aus der Ferne identifizieren können, unter ein solch geplantes Verbot fallen, wenn sie an öffentlich zugänglichen Orten zum Einsatz kommt. Aber auch Emotionserkennungssysteme finden sich in der Auflistung wieder. Ihr Einsatz in der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen soll aufgrund der inakzeptablen Gefahr nach derzeitiger Planung verboten werden.
Ganz so einfach wird dieses Verbot allerdings nicht den Trilog passieren. Denn die EVP-Fraktion im EU-Parlament und der EU-Rat setzt sich weiterhin für großzügige Ausnahmen vom Verbot der biometrischen Überwachung für die Strafverfolgung und den Grenzschutz ein.
KI im öffentlichen Raum nimmt zu
Obwohl in Deutschland die sogenannten „KI-Kamers“ bisher nur in zwei Städten zum Einsatz kommen, nimmt die generelle Rolle von KI-unterstützten Techniken in der Öffentlichkeit zu. So hat die französische Regierung im März diesen Jahres einen Gesetz beschlossen, das als Rechtsgrundlage für den Einsatz algorithmischer Videoüberwachung während der Olympischen Sommerspiele 2024 dienen soll. Frankreich ist somit das erste EU-Mitgliedsstaat, das für eine solche Überwachungstechnik eine eigene Rechtsgrundlage geschaffen hat.
In Rheinland-Pfalz bediente sich die Polizei bereits über einem Jahr eines „Handy-Blitzers“: Monocams, die in vorbeifahrende Autos filmen und mithilfe einer Software auswerten lässt, ob der jeweilige Fahrer beim Fahren ein Handy nutzte. Das aber ohne eine eigens für die Maßnahme geschaffene Rechtsgrundlage.
KI wird in Zukunft wohl eine immer größer werdende Rolle spielen – auch im öffentlichen Bereich. Deshalb bleibt abzuwarten, wie das geplante KI-Gesetz auf europäischer Ebene dazu beitragen kann, ein einheitliches Regularium zu schaffen.
