Die KI-Verordnung und das Büro für Künstliche Intelligenz

Die Europäische Kommission hat ein „Büro für Künstliche Intelligenz“ eingerichtet. Dieses ist von den künftigen Marktüberwachungsbehörden zu unterscheiden und hat ein breites Aufgabenspektrum. Der Artikel gibt einen Überblick über die Aufgaben des Büros und geht auf die Praxisrelevanz für Unternehmen sowie Aspekte des Datenschutzes ein.

In Brüssel gibt es jetzt das „Büro für Künstliche Intelligenz“

Was macht eigentlich das „Büro für Künstliche Intelligenz“? In Deutschland wird noch die Frage diskutiert, wer für die Zwecke der KI-Verordnung die Marktüberwachung übernehmen sollte. Die Datenschutzaufsichtsbehörden? Die Bundesnetzagentur? Währenddessen wurde in Brüssel eine neue Stelle eingerichtet: Das Büro für Künstliche Intelligenz bezeichnet gemäß Art. 3 Nr. 47 KI-VO

„die Aufgabe der Kommission, zur Umsetzung, Beobachtung und Überwachung von KI-Systemen und KI-Modellen mit allgemeinem Verwendungszweck und zu der im Beschluss der Kommission vom 24. Januar 2024 vorgesehenen KI-Governance beizutragen (…)“

Nur: was genau bedeutet das eigentlich?

Die Aufgaben des Büros für Künstliche Intelligenz

Grundsätzlich ergeben sich die Aufgaben des Büros für Künstliche Intelligenz aus Art. 64 KI-VO („Büro für Künstliche Intelligenz“). Abs. 1 sagt:

„Die Kommission entwickelt über das Büro für Künstliche Intelligenz die Sachkenntnis und Fähigkeiten der Union auf dem Gebiet der KI.“

Die Kommission fasst die Aufgaben des Büros wie folgt zusammen:

• Kohärente Implementierung der KI-Verordnung; hierzu gehört u.a. die direkte Durchsetzung der Regeln für KI-Modelle mit allgemeinem Verwendungszweck („general-purpose AI“), außerdem die Koordinierung von Praxisleitfäden („codes of practice“). Es kann KI-Modelle mit allgemeinem Verwendungszweck evaluieren und testen, Informationen anfordern und Sanktionen verhängen.
• Zusammenarbeit: Das Büro für Künstliche Intelligenz soll mit den Mitgliedsstaaten zusammenarbeiten. Es ist beteiligt an dem sog. „KI-Gremium“, in dem alle Mitgliedsstaaten mit einem Vertreter beteiligt sind und dessen Sekretariatsgeschäfte es führt. Außerdem soll es an verschiedenen Expertengruppen teilnehmen.
• Innovationsförderung: Die Kommission spricht von einem „innovativen Ökosystem für vertrauenswürdige KI“, zu dem das Büro durch eine Reihe unterschiedlicher Maßnahmen beitragen soll.
• Europäischer Ansatz: ein strategischer, kohärenter und effektiver Ansatz zu KI soll das Büro zu einem „global reference point“ machen.

Diese Aufgaben, die teils inhaltliche Vorgaben machen und teils politische Absichtserklärung sind, schlagen sich in der KI-Verordnung an unterschiedlichen Stellen nieder. Hierauf soll nur auszugsweise eingegangen werden.

Enge Verzahnung von KI und Datenschutz

Die Verbindung von Künstlicher Intelligenz und Datenschutz zeigt sich auch im Zusammenhang mit der Arbeit des Büros. So nimmt gemäß Art. 65 Abs. 2 KI-VO der Europäische Datenschutzbeauftragte als Beobachter an dem oben beschriebenen KI-Gremium teil. Das Büro für Künstliche Intelligenz ist außerdem gemäß Art. 27 Abs. 5 KI-VO damit befasst, ein Muster für einen Fragebogen auszuarbeiten, mit dem die Betreiber von Hochrisiko-KI eine sog. „Grundrechte-Folgenabschätzung“ durchführen können. Datenschützer:innen kennen bereits die „Datenschutz-Folgenabschätzung“ gemäß Art. 35 DSGVO, die Risiken für die Rechte und Freiheiten natürlicher Personen durch die Verarbeitung personenbezogener Daten zum Gegenstand hat. Auch auf diese weist die KI-VO die Betreiber von Hochrisiko-KI-Systemen in Art. 26 Abs. 9 ausdrücklich hin.

Praxisrelevanz: zum „Betreiber“ wird man schnell

Nach Art. 3 Nr. 4 KI-VO bezeichnet

„‚Betreiber‘ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.“

Zum „Betreiber“ wird man also schnell. Unter bestimmten Voraussetzungen – z.B. für ein Unternehmen, das ein Hochrisiko-KI-System zur Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen nutzt, können die Ausarbeitungen des Büros für Künstliche Intelligenz daher durchaus interessant werden.

Das Büro für Künstliche Intelligenz ist keine Marktüberwachungsbehörde

In Anbetracht des breiten Aufgabenfeldes des Büros für Künstliche Intelligenz und vor dem Hintergrund der aktuellen Debatte um neue behördliche Zuständigkeiten, ist wichtig: das Büro ist keine Marktüberwachungsbehörde. In ihrer Entscheidung über die Etablierung des Büros für Künstliche Intelligenz betonte die Europäische Kommission, dass die Zuständigkeiten und Befugnisse der nationalen Behörden zur Überwachung von KI-Systemen unberührt bleiben.

Interessant ist jedoch, dass das Büro für Künstliche Intelligenz gemäß Art. 75 KI-VO unter bestimmten Voraussetzungen die Befugnisse einer Marktüberwachungsbehörde hat. Hier geht es um KI-Systeme, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen. Voraussetzung ist außerdem, dass KI-System und KI-Modell vom selben Anbieter entwickelt wurden. Art. 75 KI-VO regelt zudem die Zusammenarbeit von Marktüberwachungsbehörden und dem Büro für Künstliche Intelligenz in unterschiedlichen Fällen. Es wird interessant sein zu sehen, wie sich die konkrete Zusammenarbeit ausgestaltet.

Wer arbeitet im Büro für Künstliche Intelligenz?

Nach Angaben der Kommission wird das Büro für Künstliche Intelligenz aus Spezialist:innen aus den Bereichen Technologie und Politik zusammengesetzt sein, außerdem aus Jurist:innen, Wirtschaftswissenschaftler:innen und Verwaltungsassistenzen. Thierry Breton, EU-Kommissar für den Binnenmarkt, sprach von dem

„(…) AI Office and its 140 talented women and men (…)“

Zweifelsohne braucht man eine solche Talent-Gruppe, wenn man die vielen und breit gefächerten Aufgaben mit Leben füllen will, die die KI-Verordnung für das Büro vorsieht. Es bleibt zu hoffen, dass die Kommission in Zeiten des Fachkräftemangels, in denen auch der Tech-Sektor um die besten KI-Köpfe buhlt, dieses Personal auch rekrutieren kann.

Ausblick: Bedeutung für die Arbeit auf nationaler Ebene

Mit Spannung werden wir darauf schauen dürfen, wie sich die Arbeit des Büros für Künstliche Intelligenz in der Praxis gestaltet. Die Debatte um nationale Zuständigkeiten zur Marktüberwachung kann aber davon unabhängig weitergeführt werden. Ideal wäre es, wenn die Arbeit des Büros die Implementierung der Verordnung auch tatsächlich erleichtert und eine erfolgreiche Zusammenarbeit mit den Mitgliedsstaaten gelingt.