EDSB zum geplanten Übereinkommen für Künstliche Intelligenz

Am 18. August 2022 hat die Europäische Kommission eine Empfehlung für einen Beschluss des Europäischen Rates zur Ermächtigung zur Aufnahme von Verhandlungen im Namen der EU über ein Übereinkommen des Europarates über künstliche Intelligenz (KI), Menschenrechte, Demokratie und Rechtsstaatlichkeit vorgelegt. Mit der am 13. Oktober 2022 veröffentlichten Stellungnahme äußert sich nun der EDSB dazu.

Europarat und die Rolle seiner Übereinkommen

Anders als es der Name vermuten lässt ist der Europarat kein Organ der EU, sondern eine internationale Organisation mit 46 Mitgliedstaaten, darunter auch die 27 Mitgliedstaaten der EU. Der Europarat hat es sich zur Aufgabe gemacht mittels internationalen Übereinkommen und Protokollen (wie z.B. der Europäische Menschenrechtskonvention) einen verbindlichen Rechtsrahmen für den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit zu schaffen.

Schon im September 2019 setzte das Ministerkomitee des Europarats einen Ad-hoc-Ausschuss für Künstliche Intelligenz ein, der eine Machbarkeitsstudie über einen Rechtsrahmens für die Entwicklung, das Design und die Anwendung von KI-Systemen durchführen sollte. Im April 2022 erhielt ein neuer Ausschuss für Künstliche Intelligenz den Auftrag bis November 2023 ein geeignetes Rechtsinstrument für Künstlichen Intelligenz auszuhandeln. Die EU-Kommission hatte zwischenzeitlich im April 2021 einen Vorschlag für eine KI-Verordnung gemacht, der nun parallel das europäische Gesetzgebungsverfahren durchläuft. Da die beiden Regulierungsvorhaben große Überschneidungen aufweisen, hat die Kommission dem Europäischen Rat ein Verhandlungsmandat für die EU im Europarat erteilt, um sicherzustellen, dass der kommende Vorschlag für ein KI-Übereinkommen mit der bereits vorgeschlagenen KI-Verordnung vereinbar ist. Dieses Mandat hat sich der Europäische Datenschutzbeauftragte (EDSB) nun mal näher angeschaut.

Datenschutz und EDSB werden stärker eingebunden

In Anbetracht des „grenzüberschreitenden“ Charakters der künstlichen Intelligenz begrüßt der EDSB die Aufnahme von Verhandlungen über ein Übereinkommen des Europarats. Der EDSB betrachtet das Übereinkommen als eine wichtige Chance, dass von der Europäischen Kommission vorgeschlagene Gesetz über künstliche Intelligenz zu komplementieren, indem man den Schutz der Grundrechte des Individuums, das von KI-Systemen betroffen ist, weiter stärkt.

Hierzu spricht er vier Hauptempfehlungen zu der Verhandlungsrichtung aus:

1. In den allgemeinen Zielen für die Aushandlung des Übereinkommens sollten die Garantien und Rechte der Personen- und Personengruppen, die KI-Systemen unterworfen sind, im Einklang mit dem Hauptschwerpunkt und den Zielen des Europarats stärker in den Vordergrund gerückt werden.
2. Ein ausdrücklicher Verweis auf die Übereinstimmung des Übereinkommens mit dem bestehenden EU-Rechtsrahmen für den Datenschutz sollte in eine spezielle Richtlinie aufgenommen werden.
3. Im Einklang mit dem risikobasierten Ansatz sollte das Ziel eines Verbots von KI-Systemen, die unannehmbare Risiken darstellen, eingeführt werden.
4. Das Übereinkommen sollte die Annahme eines Privacy by Design und durch Privacy by Default-Ansatzes in jeder Phase des Lebenszyklus von KI-Systemen fördern.

Darüber hinaus enthält die Stellungnahme weitere Empfehlungen zu Mindestanforderungen an die Transparenz, Erklärbarkeit und Überprüfbarkeit sowie zu Einhaltungs- und Kontrollmechanismen.

Wechselwirkung des KI-Übereinkommens mit bestehendem Recht

Der EDSB bemängelt zunächst, dass im Verhandlungsmandat eine klare Anweisung bezüglich des Verhältnisses des Übereinkommens zum Datenschutzrecht fehlt. Diesbezüglich stellten der EDSB und der Europäische Datenschutzausschuss in ihrer gemeinsamen Stellungnahme fest, dass Daten, einschließlich personenbezogener Daten,

„in vielen Fällen die wichtigste Voraussetzung für autonome Entscheidungen sind, die sich unweigerlich auf das Leben des Einzelnen auf verschiedenen Ebenen auswirken“.

Der EDSB empfiehlt daher, eine Anweisung einzufügen, in der ausdrücklich auf die Vereinbarkeit des Übereinkommens mit dem bestehenden Rechtsrahmen für den Datenschutz verwiesen wird. Die Vereinbarkeit mit den Datenschutzgrundsätzen sollte eine Voraussetzung sein, auf der das Übereinkommen aufbauen sollte.

Empfehlungen des Europäischen Datenschutzbeauftragten

Wenngleich der EDSB die Vorlage zu einer KI-Verordnung grundsätzlich begrüßt, macht er in seiner Stellungnahme bezüglich des Datenschutzes auf diverse Punkte aufmerksam.

Ausgewogenes Verhältnis zwischen den Interessen

Konkret möchte der europäische Datenschutzbeauftragte eine spezifische Anweisung, welche die Verhandlungsführer daran erinnert, dass ein ausgewogenes Verhältnis zwischen dem öffentlichen Interesse und den Interessen der Personen, die von KI-Systemen erfasst werden, hergestellt werden muss. Grund hierfür ist – kaum überraschend – der Schutz personenbezogener Daten, aber auch anderer, auf dem Spiel stehender Grundrechte, insbesondere die Unschuldsvermutung, das Recht auf ein faires Verfahren, das Recht auf eine gute Verwaltung und der Grundsatz der Nichtdiskriminierung.

Mindestanforderungen gewährleisten

Weiterhin fordert der EDSB in einer Anweisung festzulegen,

• dass bestimmte Mindestverfahrensgarantien für Betroffenen vorsehen sollte.
• dass Mindestanforderungen an die Transparenz, Erklärbarkeit und Überprüfbarkeit von KI-Systemen gewährleistet werden.
• dass die Vorgabe aufgenommen wird, dass auch die von KI-Systemen ausgehenden gesellschaftlichen Risiken bewertet und gemindert werden müssen.

Hoch-Risiko-KI verbieten

Zudem sollte das Verhandlungsmandat eine Direktive vorsehen, dass bestimmte KI-Systeme, von denen unannehmbare Risiken ausgehen, verboten werden, sowie dass eine unverbindliche Liste solcher KI-Systeme  erstellt wird.

In diesem Kontext präzisiert der EDSB seine Empfehlung, indem er zusätzlich fordert, dass für KI mit hohem Risiko eine „Ex-ante-Konformitätsbewertung“ durch Dritte durchgeführt werden sollte. KI-Systeme mit hohem Risiko sollten bei jeder wesentlichen Änderung einem neuen Konformitätsbewertungsverfahren unterzogen werden.

Ein hoher internationaler Standard für KI ist wünschenswert

Angesichts der enormen wirtschaftlichen Potenziale durch den Einsatz von künstlicher Intelligenz einerseits und dem hohen Missbrauchspotential und den möglichen verheerenden gesellschaftlichen Folgen anderseits, ist ein hoher Standard bei der Regulierung von KI-Systemen nicht nur in Europa, sondern international wünschenswert. Ein Übereinkommen des Europarats bietet dafür eine gute Gelegenheit. Zweifelsohne wird sich dessen Regulierungsverfahren und das europäische Gesetzgebungsverfahren für die KI-Verordnung gegenseitig beeinflussen. Hoffentlich im positiven Sinne für unsere Grundrechte und Freiheiten. Die Stellungnahme des EDSB leistet dabei ihren Beitrag dazu.