Viele wollen sie, wenige haben sie: KI-Kompetenz. Wenn Unternehmen KI-Systeme einsetzen, müssen sie sich darauf einstellen, ihr Personal hierfür zu schulen. Die KI-Verordnung steckt dafür den Rahmen, aber enthält keine konkreten Anweisungen. Der Artikel stellt heraus, woran Unternehmen sich orientieren können und gibt erste Empfehlungen.
Der Inhalt im Überblick
Warum überhaupt KI-Kompetenz?
Dass Unternehmen die KI-Kompetenz ihres Personals sicherstellen müssen, ergibt sich aus Artikel 4 der KI-Verordnung. Dieser sagt:
„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen (…)“
Auch wenn sie keine Anbieter von KI-Systemen sind, sollten Unternehmen hier hellhörig werden. Denn: Zum Betreiber wird man schnell. Wenn eine natürliche oder juristische Person im Rahmen einer beruflichen Tätigkeit ein KI-System in eigener Verantwortung verwendet, ist sie Betreiber gemäß Art. 3 Nr. 4 KI-VO und unterfällt somit Artikel 4 KI-VO.
Was ist KI-Kompetenz?
Unternehmen sollten diese neue Kompetenz also auf der Agenda haben. Nur: Was ist überhaupt KI-Kompetenz? Artikel 3 Nr. 56 KI-VO liefert eine Begriffsdefinition. Hiernach bezeichnet KI-Kompetenz:
„(…) die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“
Wann hat man KI-Kompetenz?
Unternehmen können den vorgenannten Normen keine Checkliste dafür entnehmen, ab wann ihr Personal (hierauf soll sich dieser Beitrag beschränken) KI-Kompetenz hat. Fest steht, dass der sachkundige Einsatz von KI-Systemen ermöglicht werden und dass diese KI-Kompetenz in „ausreichendem Maß“ vorhanden sein soll. Dabei geht Art. 4 KI-VO zwar näher darauf ein, welche Umstände zu berücksichtigen sind. Was er aber nicht sagt: „ausreichend“ wofür? Für den sachkundigen Einsatz?
Ein Blick in Erwägungsgrund 20 der Verordnung hilft noch ein bisschen weiter. Dieser spricht u.a. davon, dass KI-Kompetenz existiert, um die angemessene Einhaltung und ordnungsgemäße Durchsetzung der Verordnung sicherzustellen und damit „fundierte Entscheidungen“ (EN: „informed decisions“) über KI-Systeme getroffen werden können. Was aber immer noch nicht klar wird ist: Was muss man dafür konkret tun?
Kompetenzinstrumente und Verhaltenskodizes
Derselbe Erwägungsgrund legt offen, wie die Kommission KI-Kompetenz voranbringen möchte. Und zwar wie folgt:
„Ein Europäisches Gremium für Künstliche Intelligenz (im Folgenden „KI-Gremium“) sollte die Kommission dabei unterstützen, KI-Kompetenzinstrumente (…) zu fördern. In Zusammenarbeit mit den einschlägigen Interessenträgern sollten die Kommission und die Mitgliedstaaten die Ausarbeitung freiwilliger Verhaltenskodizes erleichtern, um die KI-Kompetenz von Personen, die mit der Entwicklung, dem Betrieb und der Verwendung von KI befasst sind, zu fördern.“
Unternehmen können sich also darauf einstellen, dass es Hilfsmittel von Seiten der EU für die Umsetzung ihrer Pflichten aus Art. 4 KI-VO geben wird. An den Sitzungen des „KI-Gremiums“ nimmt u.a. das Büro für Künstliche Intelligenz teil. Im Idealfall werden diese Hilfsmittel ganz konkrete Anforderungen und Maßnahmen enthalten, die Compliance ermöglichen und erleichtern.
Unternehmen sollten jetzt schon handeln
Geduldiges Warten auf die oben beschriebenen Hilfsmittel empfiehlt sich nicht. Ein Blick in den Verordnungstext zeigt nämlich, dass Artikel 4 bereits ab dem 2. Februar 2025 gilt (das folgt aus Art. 113 Abs. 2 KI-VO). Das bedeutet nicht, dass das betreffende Personal zu diesem Zeitpunkt seine KI-Kompetenz schon erworben haben muss. Wohl aber, dass Unternehmen dann ihren Pflichten nachkommen und Maßnahmen gemäß Artikel 4 KI-VO ergreifen müssen. Unternehmen sollten vorausschauend planen und jetzt schon überlegen, welche Prozesse sie aufsetzen können.
Eine Übersicht sinnvoller Maßnahmen
In Ermangelung eines konkreten Maßnahmenkataloges müssen sich Unternehmen an den Kriterien orientieren, die ihnen die Verordnung bietet. Hierbei ist eine Kernforderung: der „sachkundige“ Einsatz von KI-Systemen im Bewusstsein ihrer Chancen, Risiken und Folgen (verursachte Schäden). Dieser wird ermöglicht durch KI-Kompetenz – das folgt aus der Begriffsdefinition in Art. 3 Nr. 56 KI-VO. Sinnvollerweise sollten Unternehmen hierfür u.a.:
- Eine Strategie zur Einführung und Nutzung von KI-Systemen haben (klären, um welche KI-Systeme es überhaupt geht).
- Eine Richtlinie für die unternehmensinterne Nutzung von KI-Systemen vorhalten.
- Schulungskonzepte entwickeln, die den Mitarbeitenden ein solides Verständnis der Funktionsweise, der ordnungsgemäßen Handhabung und der Nutzungsmöglichkeiten der entsprechenden KI-Systeme vermitteln.
- Dabei den jeweiligen Ausbildungs- und Kenntnisstand der Mitarbeitenden berücksichtigen.
- Die rasante Entwicklung der Technik im Auge behalten und Maßnahmen regelmäßig überprüfen.
KI-Kompetenz bedeutet auch Datenschutzkompetenz
Bei der Vermittlung von Kenntnissen und Fähigkeiten im Bereich KI gilt es, unterschiedliche Disziplinen zusammenzuführen. Fest steht dabei: Zu KI-Kompetenz gehört auch Datenschutzkompetenz. So gehört zum Grundlagenverständnis, den Zusammenhang zwischen Daten und KI-Systemen zu begreifen. Die Verarbeitung personenbezogener Daten durch KI-Systeme stellt die Praxis vor eine Vielzahl rechtlicher Probleme. Hierfür sollten Mitarbeitende sensibilisiert sein. Die KI-Verordnung nimmt auch an mehreren Stellen Bezug auf die DSGVO, vgl. u.a. Art. 10 Abs. 5 und Art. 27 Abs. 4 KI-VO. Damit ist Datenschutz auf dem Weg zu der so viel beschworenen KI-Kompetenz ein wichtiger Schritt.
