Es geht auf die Zielgerade! Das EU-Parlament verhandelt zurzeit seine finale Position zum AI Act. Damit soll der Einsatz von Künstlicher Intelligenz einen einheitlichen Rechtsrahmen bekommen. Was das Parlament fordert und worauf es bei der Regulierung von KI ankommt, haben wir in diesem Artikel zusammengestellt.
Der Inhalt im Überblick
Die KI-Verordnung als einheitlicher Rechtsrahmen
Einmal zum Auffrischen: Worum gehts eigentlich beim AI Act? Bei dem Gesetz über Künstliche Intelligenz (häufig auch KI-Verordnung oder eben AI Act) handelt es sich um ein Gesetzesvorhaben der Europäischen Kommission zur Regulierung von Künstlicher Intelligenz. Es gilt als weltweit erstes vollumfassendes Regelwerk für Künstliche Intelligenz und könnte maßgeblich die Entwicklung und den Einsatz von KI beeinflussen. Gemäß Artikel 3 Nr. 1 der Verordnung (Entwurf) ist ein KI-System
„eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren […].“
Kernelement der Verordnung ist ein risikobasierter Ansatz, der anhand der potenziellen Fähigkeiten und Gefahren verschiedene Auflagen und Verbote beinhaltet. Diese Regulierungen nehmen die Entwicklung, das Inverkehrbringen und die Nutzung von KI-Systemen in den Fokus. Anwendung findet die Verordnung in der gesamten EU. Darüber hinaus dürfte es aber auch zum sog. „Brüssel-Effekt“ kommen. Damit ist die Wirkung gemeint, dass andere Märkte und Regionen auf die Vorgaben der Europäischen Union reagieren müssen, wenn sie weiterhin entsprechende Dienste in der EU anbieten möchten. Dabei findet häufig eine faktische Annäherung an die rechtlichen Standards der EU statt (siehe DSGVO).
Der Ball liegt beim EU-Parlament
Aktuell befindet sich das Gesetzgebungsverfahren zur finalen Abstimmung in den Ausschüssen des Europäischen Parlaments. Zuletzt hatte es einige Verzögerungen gegeben. Grund hierfür war das Aufkommen neuer Dienste mit Chat- oder Bild-KI (ChatGPT lässt grüßen) und der Frage, wie mit diesen umzugehen ist. Das EU-Parlament will solche sogenannten generativen KI’s stärker in die Regulierung aufnehmen. Trotz aller Verzögerungen ist zu erwarten, dass sich die Parlamentarierinnen und Parlamentarier in den kommenden Tagen auf eine gemeinsame Position verständigen werden.
Inhaltlich wurde zuletzt eine neue Forderung in Bezug auf neuartige KI-Modelle wie OpenAIs ChatGPT publik: Es wird verlangt, dass derartige Dienste angeben müssen, ob urheberrechtlich geschütztes Material benutzt worden ist, um die KI zu trainieren. Dies diene dem Schutz und der Entschädigung der jeweiligen Urheber.
Der Rahmen steht!
Das Ziel ist dabei vergleichsweise klar. Die EU möchte – im Rahmen ihrer Digitalagenda – auch den Bereich der Künstlichen Intelligenz stärker in den Blick nehmen und mit einem Rechtsrahmen versehen. Zwar ist noch nicht in jedem Bereich eine finale Einigung erzielt worden. Dennoch ist klar, dass die EU festgelegte Risikokategorien bestimmen möchte, denen die Künstlichen Intelligenzen zugeordnet werden können. Wie genau diese Kategorien aussehen, haben wir bereits ausführlich in einer Vorstellung des Vorschlags für einen EU-Rechtsrahmen für Künstliche Intelligenz dargestellt. Im Kern gilt dabei der Grundsatz: je gefährlicher eine Künstliche Intelligenz, desto weitreichender die staatlichen Auflagen – bis hin zum Verbot einer KI. In die Kategorie der Hochrisiko-Systeme könnten auch sogenannte „General Purpose AI“ fallen, also Anwendungen, die mehrere verschiedene Einsatzzwecke haben (wie beispielsweise ChatGPT).
Große Einigkeit in vielen Punkten
Zwischen den Institutionen und den jeweiligen Mitgliedern besteht insoweit Einigkeit, dass es einer grundsätzlichen Regulierung bedarf. Dabei ist davon auszugehen, dass das vorgeschlagene Modell der verschiedenen Risikokategorien umgesetzt wird. Mit diesen unterschiedlichen Risikokategorien sollen laut EU-Parlament auch unterschiedliche Auflagen und Verbote einhergehen. Anwendungen höheren Risikos müssen beispielsweise erweiterte Informations- und Transparenzpflichten gegenüber ihren Nutzern umsetzen. Zudem soll eine Haftung für etwaige Schäden, die durch den Einsatz von KI-Anwendungen entstehen, (auch) bei den Entwicklern der jeweiligen KI liegen und nicht (nur) bei den Nutzern wie beispielsweise kleineren Unternehmen.
Zu der Kategorie mit besonders hohem Risiko sollen beispielsweise solche Künstlichen Intelligenzen gehören, die primär mit demokratischen Prozessen vertraut sind oder im Betrieb kritischer Infrastruktur Anwendung finden. Auch das sogenannte Social Scoring soll verboten sein.
Ähnlich wie in der DSGVO sind auch in der KI-Verordnung Sanktionsmöglichkeiten vorgesehen. Diese sehen Bußgelder von bis zu 30 Millionen Euro bzw. bis zu 6% des weltweiten Jahresumsatzes vor.
Der Teufel steckt im Detail
Verständlicherweise gibt es auch Bereiche und Themen, bei denen sich die Beteiligten noch uneins sind. Im Kern geht es um das Spannungsverhältnis von wirkungsvollen Maßnahmen und der Gefahr der Überregulierung. Ein Bereich, der sowohl innerhalb des Parlaments als auch in den demnächst startenden Trilogverhandlungen streitig ist und bleiben wird, ist die Liste der Hochrisiko-Anwendungen. Dabei handelt es sich um einen Annex zur Verordnung, in dem verschiedenste Bereiche und Anwendungen aufgeführt werden, die besonders streng reguliert werden sollen.
Besonders kontrovers dürften die Diskussionen im Bereich der polizeilichen Befugnisse werden. Während ein grundsätzlicher Einsatz von KI im Rahmen der Gefahrenabwehr wohl befürwortet werden dürfte, ist deren Begrenzung im Einzelfall schwieriger. Teile des Parlaments lehnen beispielsweise Maßnahmen des Predictive Policing ab. Dabei werden KI-Systeme eingesetzt, um standort- aber auch personenbezogene Falldaten zu analysieren und damit die Wahrscheinlichkeit zukünftiger Straftaten zu berechnen. Die Parlamentarier mahnen die mögliche Diskriminierung ethnischer und religiöser Minderheiten an.
Ein weiteres Beispiel ist die Frage der biometrischen Echtzeit-Identifizierung im öffentlichen Raum. Parlament und Mitgliedsstaaten haben sich früh darauf verständigt, die biometrischen Identifizierung im öffentlichen Raum in Echtzeit grundsätzlich zu verbieten. Zuletzt wurden jedoch (nicht nur im Rat) die Forderungen nach verschiedensten Ausnahmen laut. Dies dürfte ein Themengebiet sein, welches noch weit in die Trilogverhandlungen hinein diskutiert werden wird.
Das weitere Vorgehen und Kontrolle von Algorithmen
Am 18.04.2023 ging offiziell das Europäische Zentrum für die Transparenz von Algorithmen (ECAT) in Betrieb. Das in Sevilla angesiedelte Zentrum verfolgt den Zweck, die von Unternehmen eingesetzten Algorithmen zu überprüfen und dessen Programmroutinen genauer zu erfassen. Grundlage dieser Überprüfung ist der Digital Services Act (DSA), der insbesondere großen Plattformen wie Google, Meta und Amazon einen einheitlichen Rechtsrahmen verleiht und über dessen Inhalte und Ziele wir bereits im vergangenen Jahr ausführlich berichtet haben.
Die Inbetriebnahme des ECAT zeigt beispielhaft, dass die Europäische Union an vielen verschiedenen Stellen ansetzt, um die Digitalisierung effektiv mit Ordnungsrahmen zu flankieren.
Das europäische Gesetzgebungsverfahren zur KI-Verordnung befindet sich derweil in den letzten Zügen. Sobald sich das Europäische Parlament auf eine gemeinsame Position verständigt hat – anvisiert ist gegenwärtig der 26. April 2023 –, geht es in die finale Abstimmung des Gesetzestextes unter Mitwirkung des Parlaments, der EU-Kommission und der Rates der Europäischen Union (Trilogverhandlungen). Die Verordnung könnte damit noch in diesem Jahr in Kraft treten. Gemäß Art. 85 der KI-Verordnung wird sie dann 24 Monate später gelten.
KI-Verordnung als Schlüsselinstrument eines digitalen Europas
Zusammenfassend lässt sich festhalten, dass es sich bei der KI-Verordnung um „ein dickes Brett“ handelt. Angesichts der Tatsache, dass Künstliche Intelligenz ein maßgeblicher Fakor für unser zukünftiges Zusammenleben sein wird, ist eine europäische Harmonisierung folgerichtig. Enthalten sind dabei risikobasierte Kategorisierungen, in die sich die Künstlichen Intelligenzen einordnen lassen. Gewisse KI’s werden in der Folge verboten oder mit zusätzlichen Auflagen versehen. Ähnlich wie die DSGVO ahndet die KI-Verordnung rechtswidriges Verhalten mit empfindlichen Geldbußen.
