Die Etablierung von KI-Modellen wie z. B. ChatGPT oder Claude im Unternehmen ist eine komplexe Angelegenheit. Insbesondere bei KI mit allgemeinem Verwendungszweck können Unsicherheiten bei Datensicherheit und Datenschutzkonformität entstehen. Wichtig ist daher, sich frühzeitig klarzumachen, wie die KI genutzt werden soll, um den passenden Anbieter, das passende Modell sowie die passende Lizenz auszuwählen. Dieser Artikel weist auf einige Punkte hin, die dabei zu beachten sind. Er deckt nicht alle Szenarien ab, sondern liefert einen ersten Überblick.
Wie soll das KI-Modell im Unternehmen genutzt werden?
Bevor ein KI-Modell eingeführt wird, müssen die Rahmenbedingungen klar sein. Zentral ist dabei die Frage, welche Daten für welche Zwecke verarbeitet werden sollen. Auch die Art der Daten spielt eine Rolle, denn bei besonderen Kategorien wie z. B. Gesundheitsdaten steigen die Anforderungen an die Verarbeitung deutlich.
Folgende Fragen sind für die Auswahl hilfreich:
- Welche personenbezogenen Daten werden verarbeitet?
- Werden besondere Kategorien von Daten oder besonders sensible Daten verarbeitet?
- Welche Personen oder Abteilungen sollen mit dem Modell arbeiten?
- Wie viele Personen umfasst der Benutzerkreis und soll dieser noch ausgeweitet werden?
- In welchem Umfang werden personenbezogene Daten eingegeben und geschieht das regelmäßig oder nur gelegentlich?
- Soll die KI Zugriff auf interne Datenquellen wie Ordner oder Schnittstellen erhalten?
Anbieter von KI, Lizenzen und Datenverarbeitung im Blick behalten
Wenn die Rahmenbedingungen feststehen, muss geprüft werden, welcher Anbieter und welche Lizenz für den konkreten Anwendungsfall geeignet sind. Dabei spielen mehrere Faktoren eine Rolle. Grundvoraussetzung ist der Abschluss einer Business- oder Enterprise-Variante. Denn daran knüpft bei den meisten Anbietern unmittelbar die Frage an, ob ein Auftragsverarbeitungsvertrag (AVV) geschlossen werden kann. Nur so lässt sich das Modell zentral ausrollen und verhindern, dass sich eine unkontrollierte Parallelnutzung durch private Accounts im Unternehmen etabliert. Bei Business- und Enterprise-Lizenzen ist der Anbieter regelmäßig als Auftragsverarbeiter nach der DSGVO einzustufen, da personenbezogene Daten im Auftrag des Verantwortlichen verarbeitet werden. Nach Art. 28 DSGVO ist ein AVV zwingend erforderlich. Fehlt dieser, liegt ein Verstoß gegen die DSGVO vor.
Ebenso ist bei der gewählten Lizenz zu prüfen, ob der Anbieter eingegebene Daten zu Trainingszwecken nutzt. Einmal ins Modell eingeflossene Daten lassen sich aus dem trainierten Modell praktisch nicht mehr entfernen. Fehlt eine Rechtsgrundlage für diese Verarbeitung, liegt ebenfalls ein Verstoß gegen die DSGVO vor.
Ebenso wichtig sind die Optionen zum Ort der Datenverarbeitung. Optimal ist eine Lizenzvariante, die eine Speicherung und Verarbeitung personenbezogener Daten in der EU ermöglicht. Ist dies nicht möglich, sollte der Datentransfer zumindest in ein Land mit Angemessenheitsbeschluss erfolgen. Zusätzlich kann überlegt werden, ob das KI-Modell über einen Cloud-Anbieter in einer EU-Region betrieben werden kann, sodass AVV, Speicherung und Verarbeitung vollständig in einer EU-Region liegen. Sofern eine ausschließliche Verarbeitung in der EU nicht möglich ist oder kein Angemessenheitsbeschluss besteht, müssen gegebenenfalls Standardvertragsklauseln (SCCs) abgeschlossen und ein Transfer Impact Assessment (TIA) durchgeführt werden.
Was ist bei KI-Agenten besonders zu beachten?
Viele Modelle bieten nicht nur die klassische Chatfunktion an, sondern ermöglichen auch die Integration von KI-Agenten. Während es bei klassischen Chat-Modellen primär um die Dateneingabe geht, kommen bei KI-Agenten zusätzlich die Handlungsbefugnisse des Agenten hinzu. Neben dem internationalen Datentransfer rücken dadurch weitere Themen wie Berechtigungen und Zugriffskonzepte in den Fokus.
Besonders im Vordergrund steht dabei das Thema Berechtigungen, da der Agent eigenständig auf Systeme und personenbezogene Daten zugreift. Nach dem Grundsatz der Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO) darf er dabei nur die nötigen Rechte erhalten. Werden dem Agenten Ordner oder Datenquellen freigegeben, muss geprüft werden, welche Daten sich konkret darin befinden. Insbesondere ist zu prüfen, ob die Ordner personenbezogene oder besonders sensible Daten (Art. 9 DSGVO) enthalten und ob für deren Verarbeitung eine Rechtsgrundlage besteht.
Darüber hinaus muss verhindert werden, dass der Agent auf Daten aus fremden Zuständigkeitsbereichen zugreift, weil dies den Grundsatz der Zweckbindung aushebeln würde. Berechtigungen sind daher nach dem Need-to-know-Prinzip zu vergeben, sauber zu dokumentieren und in festen Intervallen zu überprüfen.
Einsatz generativer KI verantwortungsvoll planen
Die Nutzung von Modellen wie Gemini, ChatGPT und Claude bietet erhebliche Potenziale, verlangt aber ein durchdachtes Zusammenspiel aus Datenschutz, Lizenzwahl, Berechtigungen sowie organisatorischen und technischen Maßnahmen. Dieser Beitrag liefert eine grobe Orientierung dazu, was bei der Wahl des passenden Anbieters, Modells und der geeigneten Lizenz zu beachten ist. Die konkrete Ausgestaltung muss jedoch immer am jeweiligen Anwendungsfall ausgerichtet werden.
