Müssen Unternehmen ihre Mitarbeitenden in KI-Kompetenzen schulen? Eine Rechtsanwältin gibt Antworten

Schulungspflicht: Wenn KI im Einsatz ist

Verlag Dashöfer: Viele Mitarbeitende werden nicht offiziell ermutigt, KI zu nutzen, greifen aber vermutlich trotzdem darauf zurück. Hat der Arbeitgeber in diesem Fall eine Verpflichtung, seine Mitarbeitenden in der Nutzung von KI zu schulen?

Julia Dönch: Wenn ein Unternehmen KI-Systeme anbietet oder betreibt, besteht nach Art. 4 der KI-Verordnung (oft auch „AI Act“ genannt) der EU eine Pflicht zum Aufbau von KI-Kompetenz. Nach dieser Vorschrift ist es erforderlich, dass Unternehmen Maßnahmen ergreifen, mittels derer ihre Mitarbeiterinnen und Mitarbeiter, die für das Unternehmen mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind, ein ausreichendes Maß an KI-Kompetenz vermittelt bekommen. Zu diesen Maßnahmen gehören klassischerweise Schulungen.

Sofern also in einem Unternehmen weisungsgemäß KI-Tools zum Einsatz kommen, ist nach der KI-Verordnung grundsätzlich auch eine Schulung erforderlich. Diese Schulungspflicht umfasst alle KI-Systeme, die im Unternehmen genutzt werden dürfen. Dazu gehören somit sowohl „allgemeine“ KI-Produkte wie ChatGPT oder Microsoft Copilot als auch individuell für das Unternehmen entwickelte KI-Lösungen.

Wenn ein Unternehmen KI-Systeme anbietet oder betreibt, besteht nach Art. 4 der KI-Verordnung der EU eine Pflicht zum Aufbau von KI-Kompetenz.
– Julia Dönch

Unternehmen, die hinsichtlich der Nutzung von KI-Tools keine Vorgaben machen und somit die Nutzung weder vorschreiben noch ausschließen, sollten nicht darauf bauen, ihren Mitarbeitenden keine KI-Kompetenz vermitteln zu müssen. Zum einen beinhalten mittlerweile auch etliche Standard-Softwareprodukte KI-Tools. Schalten Unternehmen diese KI-Tools nicht ab, stellen sie ihren Mitarbeitenden KI-Tools zur Verfügung und müssen schulen – unabhängig davon, ob die Mitarbeitenden zur Nutzung dieser Tools ermutigt werden oder nicht. Zum anderen wird ein Unternehmen sich nicht dauerhaft auf den Standpunkt zurückziehen können, von der KI-Nutzung der Mitarbeitenden nichts zu wissen, sofern diese Nutzung nicht vollständig im Rahmen einer Arbeitsanweisung ausgeschlossen ist.

Unternehmen sollten nicht darauf bauen, dass ihre Mitarbeitenden ohne Schulung auskommen – denn selbst Standard-Softwareprodukte beinhalten zunehmend KI-Tools.
– Julia Dönch

Anbieter und Betreiber: Wer fällt unter die Regelungen?

Verlag Dashöfer: Im AI Act, der Anfang Februar in Kraft trat, heißt es: „Anbieter und Betreiber von KI-Systemen müssen ab Februar 2025 nachweisen, dass ihr Personal über ausreichende KI-Kompetenz verfügt“. Wann gelten Unternehmen als Anbieter oder Betreiber von KI-Systemen?

Julia Dönch: Auch diese Frage beantwortet die KI-Verordnung unmittelbar. In Art. 3 Nr. 3 der KI-Verordnung ist definiert, wer Anbieter ist, und Art. 3 Nr. 4 regelt, wer Betreiber ist. Etwas vereinfacht versteht man unter diesen beiden Gruppen Folgendes:

• Anbieter von KI-Systemen sind Unternehmen, wenn sie KI-Systeme entwickeln und in Verkehr bringen oder in Betrieb nehmen – etwa ein Unternehmen, das eine eigene KI-Software entwickelt und an Dritte lizenziert.
• Betreiber von KI-Systemen sind Unternehmen, wenn sie KI-Systeme in ihrem Betrieb einsetzen.

Sicherstellung der KI-Kompetenz: Was bedeutet „ausreichend“?

Verlag Dashöfer: Wie ist die Verpflichtung zur Sicherstellung der KI-Kompetenz in Unternehmen zu verstehen?

Julia Dönch: Die KI-Verordnung statuiert in Art. 4, dass ein „ausreichendes Maß an KI-Kompetenz“ vorhanden sein muss. Die Frage, was ausreichend ist, muss für die verschiedenen Mitarbeitendengruppen individuell beantwortet werden – dabei spielen technische Kenntnisse, Erfahrung, Ausbildung und der jeweilige Einsatzkontext der KI-Systeme eine Rolle.

Art. 3 Nr. 56 der Verordnung erläutert weiter, dass die Mitarbeitenden, die KI-Systeme einsetzen, diese sachkundig bedienen und sich der Chancen, Risiken und potenziellen Schäden bewusst sein sollen, die durch die Systeme entstehen können.

Die Mitarbeitenden, die in Unternehmen KI-Systeme einsetzen, sollen dies sachkundig tun und sich dabei der Chancen und Risiken bewusst sein.
– Julia Dönch

Auf den ersten Blick mag es befremdlich wirken, dass die Verordnung das Thema KI-Kompetenz so ausdrücklich regelt. Dies ist jedoch vor dem Hintergrund zu sehen, dass KI-Systeme noch relativ neu sind und künftig weitaus leistungsfähigere Systeme auf den Markt kommen werden. Damit die Menschen diese sicher beherrschen können, bedarf es spezifischer Fähigkeiten, die aktuell noch nicht zu den Standard-Fähigkeiten zählen. Eine kontinuierliche Weiterqualifizierung der Belegschaft ist also ein großer Vorteil für Unternehmen.

Kriterien für eine konforme KI-Schulung

Verlag Dashöfer: Welche Kriterien muss eine Schulung erfüllen, um den Vorgaben nach Artikel 4 der KI-Verordnung zu entsprechen?

Julia Dönch: Es gibt nicht die eine einheitliche KI-Kompetenz – es kommt jeweils auf die eingesetzten KI-Systeme und die zu befähigenden Mitarbeitenden an. Eine Schulung sollte aus meiner Sicht immer folgende Mindestinhalte abdecken:

• Technische Grundlagen der KI: Wie funktioniert maschinelles Lernen? Was sind KI-Modelle?
• Gesetzliche Rahmenbedingungen: KI-Verordnung, Urheberrecht, Datenschutz- und Geheimnisschutzrecht
• Risikomanagement: Wie identifiziere ich Probleme wie Fehler oder Diskriminierungen des KI-Tools?
• Praktische Anwendung: Umsetzung im jeweiligen Unternehmenskontext

Es gibt nicht die eine einheitliche KI-Kompetenz – sie muss immer die technischen Grundlagen, gesetzlichen Rahmenbedingungen, das Risikomanagement und die praktische Anwendung umfassen.
– Julia Dönch

Für Schulungen von KI-Entwicklern kommen zudem Aspekte wie technische Standards (Transparenz, Nachvollziehbarkeit, menschliche Kontrolle) hinzu.

Auswahl der richtigen Schulungsangebote

Verlag Dashöfer: Wie würden Sie bei der Auswahl einer KI-Schulung vorgehen, wenn Sie ein Unternehmen hätten?

Julia Dönch: Ich würde systematisch vorgehen. Starten würde ich dabei mit einer Analyse des Bedarfs: Nutzt mein Unternehmen Hochrisiko-KI oder allgemeine KI-Tools? Welche Mitarbeitenden brauchen spezifisches Wissen?

Dann geht es an die Auswahl der passenden Schulungsform: Online-Kurse für Grundlagen (z. B. für HR, Marketing, Management), Intensivschulungen für Entwickler und KI-Verantwortliche und zertifizierte Schulungen für Hochrisiko-KI-Nutzung.

Starten würde ich mit einer Analyse des Bedarfs: Nutzt mein Unternehmen Hochrisiko-KI oder allgemeine KI-Tools? Welche Mitarbeitenden brauchen spezifisches Wissen?
– Julia Dönch

Das Herzstück kommt als nächstes: Anbieter screenen: Gibt es Zertifikate, die nach der Schulung verliehen werden? Werden neben den fachlichen Themen auch ethische und regulatorische Aspekte behandelt? Ist die Schulung praxisnah oder nur theoretisch?

Schließlich müsste auch noch überlegt werden, wie die Nachweise für die erfolgten Schulungen dokumentiert werden können. Dies ist aber im Vergleich mit anderen Compliance-Themen nichts Neues. Viele Unternehmen können hier sicherlich auf bewährte Dokumentationsprozesse zurückgreifen.

Fazit

Mit klar strukturierten Schulungsstrategien und einem systematischen Vorgehen können Unternehmen sicherstellen, dass ihre Mitarbeitenden den Herausforderungen der KI gewachsen – und damit auch für zukünftige Entwicklungen bestens gerüstet sind.