Die Frist ist abgelaufen. Bis zum 2. August 2025 hätte der deutsche Gesetzgeber eine Marktüberwachungsbehörde benennen müssen, so hat es die KI-Verordnung vorgesehen. Warum die Behörde wichtig ist und warum es sie trotzdem noch nicht gibt, erklärt dieser Artikel.
Der Inhalt im Überblick
Wofür sind die Marktüberwachungsbehörden da?
Die KI-Verordnung ist in Kraft und bereits in Teilen anwendbar. Es gelten z.B. die Regelungen zu verbotenen KI-Praktiken und wenn Unternehmen KI-Systeme einsetzen, dann muss ihr Personal die entsprechende Kompetenz dafür mitbringen. Nur: Wer überwacht das? Die Antwort auf diese Frage gibt Art. 70 Abs. 1 KI-VO. Dieser sieht u.a. vor, dass die Mitgliedsstaaten für die Zwecke der Verordnung Marktüberwachungsbehörden benennen müssen. Und dass diese gleichzeitig die zentrale Anlaufstelle für die Verordnung sind.
Die Behörden sind also einerseits dafür da, die Einhaltung der Verordnung zu überwachen. Das dient unserem Schutz. Denn das Ziel der Verordnung ist in erster Linie, Menschen vor den Risiken von KI-Systemen für ihre Grundrechte, ihre Grundfreiheiten und ihre Sicherheit zu bewahren.
Andererseits sind die Marktüberwachungsbehörden auch als Ansprechpartner gedacht. Das dient vor allem den Behörden und Unternehmen, für die Pflichten aus der KI-Verordnung gelten. Denn diese sind komplex, Best Practices müssen sich erst noch etablieren. Gleichzeitig ist das Sanktionsrisiko erheblich. In Extremfällen können Geldbußen von bis zu EUR 35 Mio. verhängt werden, Unternehmen können bis zu 7% ihres weltweiten Jahresumsatzes einbüßen. Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit, Thomas Fuchs, kritisiert:
„Durch die Verzögerung fehlt Unternehmen und Behörden nun ihr verbindlicher Ansprechpartner für Fragen zur KI-Verordnung. Dies ist auch ein Nachteil für den KI-Innovationsstandort Deutschland.“
Warum gibt es noch keine Marktüberwachungsbehörde?
Es gilt als gesetzt, dass die Bundesnetzagentur den Job als Marktüberwachungsbehörde bekommt. Das passiert aber erst, wenn das Gesetz zur Durchführung der KI-Verordnung in Kraft tritt. Teil davon ist nämlich das sog. KI-Marktüberwachungsgesetz („KIMÜG“), das die Bundesnetzagentur als zuständige Behörde benennt.
Einen Entwurf dieses Gesetzes gab es schon unter der letzten Bundesregierung, das Gesetz wurde aber nicht mehr verabschiedet. Mit dem Regierungswechsel sind nun neue Abstimmungen nötig. Dass sich das hinzieht, war absehbar. So hatte u.a. ein Sprecher des neu geschaffenen Bundesministerium für Digitalisierung und Staatsmodernisierung angekündigt, das Gesetzgebungsverfahren werde bis zum 2. August 2025 nicht abgeschlossen werden können.
Dass der Prozess sich insgesamt schon so lange hinzieht, liegt sicherlich auch daran, dass lange unklar war, wer Marktüberwachungsbehörde werden soll. Die Datenschutzbehörden hatten sich ebenfalls ausdrücklich auf diese Rolle beworben.
Der Gesetzgeber muss zügig handeln
Auch wenn die Durchführung der KI-Verordnung ein komplexes Thema ist: Das KIMÜG darf nicht mehr lange auf sich warten lassen. Sonst droht nicht nur ein Vertragsverletzungsverfahren durch die EU-Kommission. Vielmehr ist auch die bestehende Rechtsunsicherheit für Unternehmen und Behörden eine Zumutung. Hilfe bietet der bei der Bundesnetzagentur jüngst eingerichtete KI-Service Desk. Die Behörde steht augenscheinlich in den Startlöchern für ihre neuen Aufgaben. Es bleibt zu hoffen, dass sie diese nun auch bald in vollem Umfang wahrnehmen kann.
