Ab dem 2. Februar treten weitere Bestimmungen der europäischen KI-Verordnung in Kraft, die auch unter dem englischen Namen „AI Act“ (Artificial Intelligence Act) bekannt ist. Unternehmen sind jetzt dazu verpflichtet, Schulungspflichten einzuhalten.
Konkret heißt es im AI-Act dazu:
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.
Zwar existieren bislang weder ein nationales Durchführungsgesetz noch eine offizielle Aufsichtsbehörde, dennoch könnte eine unzureichende Qualifikation rechtliche Konsequenzen nach sich ziehen. Fehlen Mitarbeitern die erforderlichen KI-Kenntnisse, weil das Unternehmen beispielsweise keine entsprechenden Schulungsmaßnahmen sichergestellt hat, könnte dies als Verstoß gegen die allgemeine Sorgfaltspflicht gewertet werden – was im schlimmsten Fall zu Schadenersatzforderungen führen könnte.
Der AI Act: Worum geht es eigentlich?
Der AI Act (Artificial Intelligence Act) ist die erste umfassende gesetzliche Regelung der Europäischen Union zur Regulierung künstlicher Intelligenz. Ziel des Gesetzes und der dazugehörigen Regelungen ist es, den Einsatz von KI-Systemen und KI-Anwendungen in der EU sicher, transparent und ethisch vertretbar zu gestalten.
Der AI Act ist eine unmittelbar in Deutschland geltende Verordnung der Europäischen Union. Zu bestimmten Bestimmungen, etwa hinsichtlich des Verbots biometrischer Überwachung, können die Mitgliedsstaaten jedoch auch strengere Regelungen erlassen. Zudem sind die Staaten verpflichtet, eigene Durchführungsvorschriften festzulegen. Deutschland muss noch eine „Governance-Struktur“ schaffen, also festlegen, welche Behörden für die Überwachung der Vorschriften zuständig sind.
Wichtige Punkte des AI Act
- Pflichten für Unternehmen: Unternehmen müssen unter anderem sicherstellen, dass ihre KI-Systeme fair, sicher und erklärbar sind. Hochrisiko-KI unterliegt zusätzlichen Dokumentations- und Testanforderungen.
- Schutz der Grundrechte: Die Verordnung soll sicherstellen, dass KI-Systeme nicht diskriminierend sind; es darf also beispielsweise nicht die Vulnerabilität oder Schutzbedürftigkeit einer bestimmten Gruppe von Personen ausgenutzt werden. Außerdem müssen KI-Systeme den Datenschutz wahren.
- Strafen bei Verstößen: Unternehmen, die gegen den AI Act verstoßen, können mit hohen Geldstrafen belegt werden – ähnlich wie bei der DSGVO.
KI-Kategorisierung: Wie der AI Act KI-Systeme in Risikostufen einteilt
Der risikobasierte Ansatz der KI-Verordnung teilt Systeme in verschiedene Kategorien ein:
Systeme mit inakzeptablem Risiko, die deshalb verboten sind. Darunter fallen z. B. Social Scoring oder Emotionserkennung am Arbeitsplatz und in Schulen.
Hochrisiko-Systeme, die besonders starke Auswirkungen auf Grundrechte haben können. Dazu zählen unter anderem KI-Anwendungen im Bildungsbereich, im Personalmanagement, in der Strafverfolgung, an den Grenzen sowie beim Zugang zu Sozialleistungen.
Systeme mit besonderen Transparenzpflichten, da sie zur Manipulation genutzt werden könnten – etwa Chatbots oder KI, die künstliche Bilder und Videos erzeugt. Hier muss für User stets erkennbar sein, dass sie mit einer Maschine kommunizieren oder maschinell erstellte Inhalte sehen.
Systeme mit minimalem Risiko, für die keine speziellen Vorgaben gelten. Sie können sich jedoch freiwillig an Verhaltenskodizes orientieren.
Der AI Act wurde im August 2024 verabschiedet und wird schrittweise umgesetzt. Die seit dem 2. Februar 2025 in Kraft getretene Schulungspflicht verursacht dabei konkrete Handlungspflichten für Unternehmen.
KI-Kompetenz muss nachgewiesen werden: Wen betrifft die Schulungspflicht?
Die im AI Act erwähnte KI-Kompetenz wird definiert als „die Fähigkeiten, die Kenntnisse und das Verständnis“, die es möglich machen, „KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden bewusst zu werden“.
Die KI-Schulungspflicht, die die KI-Kompetenz sicherstellen soll, betrifft dabei sowohl Anbieter als auch Betreiber von KI-Systemen.
- Anbieter sind laut Artikel 3 Nr. 3 AI Act natürliche oder juristische Personen, Behörden, Einrichtungen oder sonstige Stellen, die ein KI-System entwickeln oder es unter ihrem eigenen Namen in Verkehr bringen.
- Betreiber hingegen sind gemäß Artikel 3 Nr. 4 AI Act natürliche oder juristische Personen, die ein KI-System eigenverantwortlich nutzen.
Der AI Act weist einen extrem breiten Anwendungsbereich auf; nahezu jedes Unternehmen und jede Behörde kann als Betreiber von KI-Systemen betrachtet werden. Dazu zählen:
- Unternehmen, die KI-Systeme entwickeln oder vertreiben
- Behörden, die KI-Systeme zur Steuerung von Prozessen einsetzen
- Einrichtungen, die KI-Software im Rahmen von Forschung oder Dienstleistungen nutzen
Kurz: Die KI-Schulungspflicht betrifft nahezu alle Unternehmen der EU.
Umsetzung der KI-Schulungspflicht in Unternehmen
Die schlechte Nachricht: konkrete Umsetzungsmaßnahmen gibt die KI-Verordnung (noch) nicht vor. Das bemängelt auch der Branchenverband Bitkom in einer aktuellen Pressemitteilung. Immerhin werde derzeit an Leitlinien gearbeitet, an denen sich Unternehmen zukünftig orientieren können.
Klar ist aber: Ein Selbststudium zur Sicherstellung der KI-Kompetenz reicht nicht aus. Das teilte eine Sprecherin der Bundesnetzagentur dem MDR auf Anfrage mit. Eine Möglichkeit seien aber strukturierte Schulungsangebote oder unternehmensinterne Weiterbildungsprogramme.
Lesetipp
Unsere Liste mit kostenlosen KI-Kursen findest du aber vielleicht trotzdem interessant, um dir ein Grundverständnis anzueignen: Kostenlose KI-Kurse: Diese gratis Online-Kurse lohnen sich
Wird die Einhaltung der KI–Schulungspflicht kontrolliert?
Ab dem 2. Februar 2025 müssen Unternehmen sichergestellt haben, dass die in ihrem Betrieb mit KI arbeitenden Personen über eine ausreichende Kompetenz verfügen. Für die Umsetzung der KI-Verordnung sind nationale Aufsichtsbehörden zuständig – in Deutschland wird das aller Voraussicht nach die Bundesnetzagentur sein. Die stellt klar: die Sicherstellung der KI-Kompetenz ist eine rechtliche Verpflichtung, die in der Eigenverantwortung und im Eigeninteresse der Unternehmen liegt.
Verstöße gegen die Pflicht zur KI-Kompetenz können schwerwiegende Folgen haben. Eine Missachtung der Sorgfaltspflicht kann Haftungsansprüche und Schadensersatzforderungen nach sich ziehen. Ähnlich wie bei anderen Regulierungen kann auch im Rahmen des AI Act eine persönliche Haftung des Geschäftsführers bestehen, falls er seinen gesetzlichen Verpflichtungen zur KI-Kompetenz nicht ordnungsgemäß nachkommt oder diese unzureichend innerhalb seines Unternehmens delegiert.
Unternehmen müssen belegen, dass sie:
- die KI-Schulungspflicht gemäß den gesetzlichen Vorgaben umsetzen,
- die Sorgfaltspflicht bezüglich der Wissensvermittlung und des Umgangs mit KI-Technologien gewährleisten und
- regelmäßige Updates sowie Anpassungen der Schulungsmaterialien und -methoden durchführen, um aktuelle Entwicklungen aus dem Bereich der künstlichen Intelligenz einzubeziehen.
KI-Weiterbildung als Chance für Unternehmen
Regulationen sorgen oftmals für Abwehrreaktionen bei Unternehmern. Allerdings bietet es sich an, die KI-Schulungspflicht als Chance zu begreifen:
- Unternehmen, die ihre Mitarbeiter im Bereich KI schulen, können innovative Technologien gezielt nutzen, um Prozesse effizienter zu gestalten, neue Geschäftsmodelle zu entwickeln und der Konkurrenz einen Schritt voraus zu sein.
- Geschulte Mitarbeiter können KI-Technologien besser verstehen, implementieren und optimieren, wodurch sich Arbeitsabläufe automatisieren und Ressourcen gezielt einsetzen lassen. Dies führt zu einer höheren Produktivität und Kosteneinsparungen.
- Durch Weiterbildungsmöglichkeiten fühlen sich Mitarbeiter wertgeschätzt und motiviert. Dies steigert die Arbeitszufriedenheit und trägt dazu bei, qualifizierte Fachkräfte langfristig an das Unternehmen zu binden.
- KI kann datengetriebene Entscheidungen optimieren. Unternehmen mit KI-kompetenten Teams sind besser in der Lage, relevante Daten zu analysieren, Muster zu erkennen und fundierte Geschäftsentscheidungen zu treffen.
- Ein fundiertes Verständnis von KI ermöglicht es Mitarbeitern, neue Anwendungsfälle zu entdecken und kreative Lösungen für bestehende Herausforderungen zu entwickeln.
KI-Kompetenz sicherstellen – 100 % geförderte Weiterbildung beim BZKI
Das Bildungszentrum für künstliche Intelligenz (BZKI) bildet Mitarbeiter zu IHK-zertifizierten KI-Managern aus – und das mit bis zu 100 Prozent staatlicher Förderung. Praxisnahe Inhalte, vollständig online und TÜV-zertifiziert – mach dich jetzt schlau:
Dieser Beitrag ist nach bestem Wissen und Gewissen sorgfältig zusammengestellt. Es wird kein Anspruch auf Vollständigkeit und Ausschließlichkeit der Inhalte gestellt. Die in diesem Beitrag zur Verfügung gestellten Informationen sind unverbindlich, ersetzen keine juristische Beratung und stellen keine Rechtsauskunft dar.
Thomas Sesli
Thomas Sesli ist Teil des acquisa-Teams. Seine umfassende Erfahrung aus vier Jahrzehnten in verschiedenen Management-Positionen und sein einschlägiges Fachwissen in den Bereichen Unternehmensberatung und Firmenkundenbetreuung lässt Thomas in unsere Artikel aus dem Themenbereich Business einfließen.
