Aktuell läuft das Gesetzgebungsverfahren für die Durchsetzung der KI-Verordnung. Die Datenschutzbehörden haben ihre Gelegenheit genutzt, noch einmal Stellung zur Regelung der KI-Marktüberwachung in Deutschland zu nehmen. Hierfür sieht die Bundesregierung die Bundesnetzagentur vor. Der Artikel beleuchtet die Kritik der DSK an dem Vorschlag und gibt einen Ausblick.
Der Inhalt im Überblick
Gesetz zur Durchsetzung der KI-Verordnung
Die Bundesregierung arbeitet seit Längerem daran, ein Gesetz zur Durchsetzung der KI-Verordnung zu verabschieden. Darin werden insbesondere die national zuständigen Behörden benannt, u.a. die Marktüberwachungsbehörde. Dieser Teil der Regelung heißt in der jetzigen Entwurfsfassung „KI-Marktüberwachungs- und Innovationsförderungsgesetz“, kurz „KI-MIG“.
Außerdem geregelt sind darin Kooperationsvorschriften und Vorschriften für das Bußgeldverfahren. Letztere sind wichtig, weil Bußgelder – hier besteht eine Parallele zur DSGVO – das scharfe Schwert der KI-Verordnung sind. In Extremfällen sind es bei Verstößen gegen die KI-Verordnung bis zu EUR 35 Mio. oder 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres. Über die behördliche Zuständigkeit der Marktüberwachung hatte es rege Diskussionen gegeben. Die Datenschutzbehörden wollten und wollen diese Rolle übernehmen, die Bundesregierung sieht in ihrem Entwurf aber die Bundesnetzagentur vor.
Das Gesetzgebungsverfahren ist verspätet
Eigentlich hätte die Diskussion bis spätestens zum 2. August 2025 erledigt sein müssen. Die Mitgliedsstaaten hatten die Pflicht, ihre Marktüberwachungsbehörden für die Zwecke der KI-Verordnung spätestens dann zu benennen. Der deutsche Gesetzgeber hinkt hier hinterher. Begründet wird das mit der Regierungsneubildung Anfang des Jahres. Das neu geschaffene Bundesministerium für Digitales und Staatsmodernisierung, bei dem die Federführung liegt, gibt an:
„Aufgrund der Regierungsneubildung konnte die von der KI-Verordnung für den 2. August[] 2025 vorgesehene Frist zur Festlegung der national zuständigen Behörden nicht gehalten werden. Das Gesetzgebungsverfahren wird jedoch zügig vorangebracht.“
Das Gesetzgebungsverfahren ist aber noch weit davon entfernt, abgeschlossen zu sein. Bundestag und Bundesrat haben sich mit dem Gesetz noch nicht befasst, auch einen Kabinettsbeschluss gibt es noch nicht. In einem ersten Schritt konnten aber im Rahmen des Konsultationsprozesses bis zum 10. Oktober 2025 Stellungnahmen zum Gesetzesentwurf abgegeben werden. Wenig überraschend, hat die DSK die Gelegenheit genutzt, um noch einmal eine Lanze für die Datenschutzbehörden als Marktüberwachungsbehörden zu brechen.
Die Argumente der DSK gegen die Zuständigkeit der Bundesnetzagentur
Diese Stellungnahme fasst im Wesentlichen die Argumente zusammen, die die Datenschutzbehörden bereits vorgebracht haben. So versucht die DSK insbesondere, eines der Hauptargumente für die Bundesnetzagentur zu entkräften: Einfache Aufsichtsstruktur durch zentralisierte Zuständigkeit. Die DSK kauft das Argument nicht, vielmehr mahnt sie vor Doppelzuständigkeiten bei bestimmten Lebenssachverhalten. Die Datenschutzbehörden sind zumindest immer dann zuständig, wenn KI-Systeme personenbezogene Daten verarbeiten. Das Argument ist also nicht von der Hand zu weisen.
Darüber hinaus kritisiert die DSK die Verfassungs- und Europarechtskonformität der Regelung. Sie knüpft dabei an zwei Kritikpunkte an, die bereits der HmbfDI Thomas Fuchs in einer Stellungnahme angebracht hatte.
Im Übrigen bezieht sich die Stellungnahme u.a. darauf, dass auch die Datenschutzbehörden die Möglichkeit haben wollen, KI-Reallabore einzurichten (mit datenschutzrechtlichem Fokus). Ein solches Reallabor ist eine kontrollierte Umgebung, in der KI-Systeme erprobt werden können, während einige Regeln nur eingeschränkt gelten. Ziel ist etwa, Innovation zu fördern.
Werden es doch die Datenschutzbehörden?
Die DSK führt mit ihrer Stellungnahme wichtige Argumente an, die gegen die Zuständigkeit der Bundesnetzagentur für die Marktüberwachung sprechen. Dass die Bundesregierung sich hiervon überzeugen lässt, ist aber unwahrscheinlich. Die wesentlichen Inhalte der Stellungnahme sind bereits hinlänglich bekannt, denn die Datenschutzbehörden haben sich in den Debatten zur Durchführung der KI-Verordnung mehrfach prominent positioniert. So oder so bleibt zu hoffen, dass die Marktüberwachung am Ende effektiv ist und – dort, wo es drauf ankommt – von einer guten Behördenkooperation profitieren kann.
