Am 17. Mai 2024 verabschiedete der Europarat die KI-Konvention über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit, die sicherstellen soll, dass die Aktivitäten im Lebenszyklus von Systemen der künstlichen Intelligenz mit den Menschenrechten, der Demokratie und der Rechtsstaatlichkeit uneingeschränkt vereinbar sind. In diesem Beitrag wollen wir einen Blick in die relevantesten Aspekte dieser Konvention werfen.
Der Inhalt im Überblick
Europarat legt Rahmenbedingungen für KI-Systeme fest
Künstliche Intelligenz birgt offensichtlich ein enormes Potenzial für Bürger und Unternehmen, da sie die Entwicklung neuer Produkte und die Verbesserung zahlreicher Dienstleistungen ermöglicht, etwa im Bereich der Gesundheitsfürsorge oder der Verbrechensbekämpfung. Sie kann jedoch auch negative Auswirkungen auf zahlreiche Menschenrechte haben. Nach Angaben von Amnesty International wird beispielsweise in einigen US-Bundesstaaten das COMPAS-System verwendet, um anhand von Hunderten von Parametern zu beurteilen, wie wahrscheinlich es ist, dass ein Inhaftierter erneut straffällig wird. Der Richter trifft dann auf der Grundlage dieser Ergebnisse eine Entscheidung. Einer Studie zufolge wurden Menschen irrtümlich aufgrund ihrer Hautfarbe unterschiedlich bewertet.
Um die Rahmenbedingungen für die Entwicklung von KI-Systemen festzulegen und die Grundrechte und die demokratischen Grundsätze zu schützen, hat der Europarat den ersten internationalen Vertrag über künstliche Intelligenz verabschiedet. Der Europarat sollte allerdings nicht mit dem Rat der Europäischen Union, dem EU-Organ aus den Staats- und Regierungschefs der Mitgliedstaaten, welcher am 21. Mai 2024 dem KI-Gesetz zustimmte, verwechselt werden. Der Europarat ist unabhängig von der Europäischen Union und hat sich die Förderung der Demokratie sowie der Schutz der Menschenrechte und der Rechtsstaatlichkeit zum Ziel gesetzt. Dies verfolgt er mit internationalen Abkommen wie beispielsweise der Konvention Nr. 108 zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten.
Das Übereinkommen über Künstliche Intelligenz ist das Resultat der Tätigkeit des Ausschusses für Künstliche Intelligenz, eines zwischenstaatlichen Organs, das die 46 Mitgliedstaaten des Europarats, die Europäische Union und 11 Nichtmitgliedstaaten sowie andere Interessengruppen, die als Beobachter teilnahmen, zusammenbrachte. Nach der Unterzeichnung der Konvention können weitere Länder der Konvention beitreten.
Geltungsbereich der Konvention und Ausnahmen
Gemäß Art. 3 der KI-Konvention erstreckt sich deren Anwendungsbereich auf Tätigkeiten innerhalb des Lebenszyklus von Systemen der künstlichen Intelligenz, die das Potenzial haben, die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit zu beeinträchtigen. Damit sollen sowohl Aktivitäten von öffentlichen Behörden als auch von privaten Akteuren geregelt werden. Gemäß Art. 2 der KI-Konvention ist unter dem Begriff des „Systems der künstlichen Intelligenz“ ein maschinengestütztes System zu verstehen, das für explizite oder implizite Zwecke aus den empfangenen Eingaben ableitet, wie es Outputs wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können.
Vom Anwendungsbereich der KI-Konvention sind allerdings Tätigkeiten ausgenommen, die mit dem Schutz der nationalen Sicherheitsinteressen einer Vertragspartei zusammenhängen. Eine weitere Ausnahme gilt für Forschungs- und Entwicklungstätigkeiten im Zusammenhang mit Systemen der künstlichen Intelligenz, für die das Übereinkommen auch nicht gilt. Wegen der Unterschiede zwischen den Rechtssystemen der Vertragsparteien können die Mitgliedstaaten zudem selbst entscheiden, ob sie die Normen der Konvention auf den Privatsektor direkt anwenden oder eigene Maßnahmen ergreifen.
Kritik seitens der Zivilgesellschaft
Diese zwei Ausnahmen vom Anwendungsbereich der AI-Konvention führten dazu, dass zahlreiche Organisationen und Einzelpersonen aus der Zivilgesellschaft an die Europäische Union und die Mitgliedstaaten des Europarats in einem offenen Brief appellierten, die Ausnahmen zum Schutz nationaler Interessen und für den Privatsektor abzulehnen. Denn aus Sicht wird mit diesen Ausnahmen die KI-Konvention geschwächt, indem sie den Staaten ermöglichen, private Unternehmen, einschließlich Big-Tech-Unternehmen, aus dem Anwendungsbereich rauszunehmen. Dies würde dazu führen, dass Menschenrechte, Demokratie und Rechtstaatlichkeit nicht wirksam schützt werden und diese Unternehmen einen Blankoscheck erhalten. Außerdem wird im offenen Brief argumentiert, dass der Verzicht auf die im internationalen, europäischen und nationalen Recht verankerten Garantien nicht durch den Schutz nationaler Interessen gerechtfertigt ist.
Kritik seitens des Europäischen Datenschutzbeauftragten
In der Endphase der Verhandlungen kritisierte der Europäische Datenschutzbeauftragte, dass die Bestimmungen des KI-Übereinkommens sehr allgemein und überwiegend deklaratorisch sind. Außerdem werden in der KI-Konvention keine roten Linien festgelegt, um bestimmte KI-Anwendungen zu verbieten. Aus diesem Grund bezeichnete der Europäische Datenschutzbeauftragte die Konvention als eine verpasste Gelegenheit, einen robusten und wirksamen Rahmen für den Schutz der Menschenrechte bei der Entwicklung von KI zu schaffen. In den Verhandlungen sollen sich die USA aktiv dafür eingesetzt haben, dass Privatunternehmen vom Anwendungsbereich der KI-Konvention herausgenommen werden.
Die Folgen des Übereinkommens zur Künstlichen Intelligenz
Kapitel II bis V der KI-Konvention enthalten eine Reihe von Pflichten für die Vertragsparteien, Maßnahmen zu ergreifen, um den Schutz der Menschenrechte, die Integrität demokratischer Prozesse, die Achtung der Rechtsstaatlichkeit, die Menschenwürde, die Gleichstellung der Geschlechter und das Verbot der Diskriminierung sowie die Rechenschaftspflicht innerhalb des Lebenszyklus von Systemen der künstlichen Intelligenz sicherzustellen. Art. 11 der KI-Konvention legt im Hinblick auf den Datenschutz fest, dass
„Jede Vertragspartei Maßnahmen einführt oder beibehält, um sicherzustellen, dass in Bezug auf Tätigkeiten innerhalb des Lebenszyklus von Systemen der künstlichen Intelligenz
1. die Datenschutzrechte von Einzelpersonen und ihre personenbezogenen Daten geschützt sind, auch durch geltende nationale und internationale Gesetze, Standards und Rahmenwerke; und
2. wirksame Garantien und Garantien für Einzelpersonen in Übereinstimmung mit den geltenden nationalen und internationalen rechtlichen Verpflichtungen eingerichtet wurden.“
In Anbetracht der genannten Ausnahmen und des sehr allgemein gehaltenen Wortlauts der Bestimmungen des Übereinkommens ergeben sich hieraus keine unmittelbaren Änderungen im Bereich des Datenschutzes, da die Vertragsparteien die Bestimmungen des AI-Übereinkommens zunächst durch nationale Gesetze konkretisieren und umsetzen sollen. Insofern bleibt das am 21. Mai 2024 durch die Mitgliedstaaten der EU verabschiedeten KI-Gesetz die wichtigste Norm im Bereich Künstliche Intelligenz.
