KI-Kompetenz: Alle Infos zur EU AI Act Schulungspflicht

Der EU AI Act (auch genannt KI-Verordnung, KI-VO), trat bereits am 1. August 2024 in Kraft. Ab dem 2. Februar 2025 gelten die Bestimmungen zur KI-Kompetenz nach Artikel 4 KI-VO. Das bedeutet: Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass ihre Mitarbeiter und beauftragte Personen über ausreichende Kenntnisse im Umgang mit KI verfügen. Doch was genau heißt das und wie können sich Unternehmen in der EU und in der Schweiz darauf vorbereiten? In diesem Artikel beleuchten wir in Zusammenarbeit mit der Anwaltskanzlei Domenig & Partner die wichtigsten Aspekte der neuen KI-Kompetenzpflicht:

Was ist KI-Kompetenz und warum ist sie wichtig?

KI-Kompetenz umfasst das Wissen und die Fähigkeiten, um KI-Systeme effektiv, verantwortungsvoll und sicher zu entwickeln, einzusetzen sowie sich der Chancen und Risiken bewusst zu sein. Dazu gehören sowohl technische Kenntnisse als auch ein Verständnis der ethischen und rechtlichen Implikationen von KI.

Im EU AI Act ist die KI-Kompetenzpflicht in Artikel 4 wie folgt festgeschrieben:

“Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Weiterbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, berücksichtigt werden.”

Artikel 4: KI-Kompetenz | EU-Gesetz über künstliche Intelligenz – EU Artificial Intelligence Act

Diese Verpflichtung soll Risiken von KI minimieren und die Chancen von KI optimal nutzen.

Die Kompetenz ist nicht nur eine Frage der Compliance, sondern auch ein Wettbewerbsvorteil. Unternehmen mit KI-kompetenten Mitarbeitenden sind besser in der Lage, die Potenziale der KI zu nutzen und gleichzeitig die damit verbundenen Risiken zu minimieren.

Was bedeutet die KI-Kompetenz gemäß KI-Verordnung im Detail?

Der EU AI Act definiert “KI-Kompetenz” nicht genau im Gesetzestext, sondern liefert in Artikel 3 (56) weitere Hinweise zu deren Verständnis:

“KI-Kompetenz”: Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Anwendern und Betroffenen ermöglichen, KI-Systeme unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung in Kenntnis der Sachlage einzusetzen und sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu werden;”

In Kombination mit Artikel 4 der KI-Verordnung, der die Anbieter und Betreiber von KI-Systemen zur Sicherstellung ausreichender KI-Kompetenz verpflichtet, lassen sich daraus folgende generische Lernziele und mögliche Interpretationen ableiten. Dazu zählt insbesondere, KI-Systeme sachkundig einzusetzen sowie deren Potenziale zu kennen:

• Rechte und Pflichten: (“… unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten”…)

  Dies kann so ausgelegt werden, dass Akteure, die mit KI-Systemen arbeiten, ihre Rechte (z. B. in Bezug auf Datenschutz oder Transparenz) sowie ihre Pflichten (z. B. die Einhaltung rechtlicher Vorgaben oder ethische Verantwortung) kennen und berücksichtigen sollten.

• Sachkundiger Einsatz: (… “in Kenntnis der Sachlage einzusetzen”…):

  Dies lässt sich so interpretieren, dass der Einsatz von KI-Systemen auf einer fundierten Wissensbasis erfolgen sollte. Dazu könnte gehören, die Funktionsweise, Einschränkungen und möglichen Fehlerquellen von KI zu verstehen. Denkbar wäre auch, dass darunter die Fähigkeit fällt, die Ergebnisse kritisch zu hinterfragen und potenzielle Verzerrungen (Bias) zu identifizieren.
  

• Chancen- & Risikobewusstsein: (…über die Chancen und Risiken von KI und mögliche Schäden…bewusst zu werden;”)

  Dies kann darauf hinweisen, dass sowohl die potenziellen Vorteile (z. B. Effizienzsteigerung oder innovative Anwendungen) als auch die Risiken (z. B. Datenschutzprobleme oder Diskriminierung) reflektiert werden sollten. Möglich wäre, dass damit eine bewusste Auseinandersetzung mit den Auswirkungen des KI-Einsatzes gemeint ist, um Schäden zu minimieren und Chancen verantwortungsvoll zu nutzen.

Neben der Definition der KI-Verordnung gibt es weitere Perspektiven auf das Thema KI-Kompetenz. Die Stanford University beispielsweise hat ein umfassendes Verständnis von “AI Literacy” entwickelt, das über die rein rechtlichen Anforderungen hinausgeht.

Hier wird Kompetenz als die Fähigkeit verstanden, KI-Technologien nicht nur zu verstehen, sondern auch kritisch zu bewerten und aktiv mit ihnen zu interagieren. 

Vier Kernbereiche der AI Literacy nach der Stanford University:

• Technisches Verständnis: Um KI-Systeme effektiv nutzen und bewerten zu können, ist ein grundlegendes Verständnis ihrer Funktionsweise essenziell. Dies beinhaltet das Verständnis über die verschiedenen Arten von KI, Algorithmen, Datenverarbeitung und die Grenzen der Technologie.
• Kritisches Denken: KI-Systeme liefern nicht immer objektive oder fehlerfreie Ergebnisse.  Daher ist es wichtig, die von KI generierten Informationen kritisch zu hinterfragen, potenzielle Verzerrungen zu erkennen und die Ergebnisse im Kontext zu bewerten.
• Ethische Reflexion: Der Einsatz von KI wirft zahlreiche ethische Fragen auf, beispielsweise in Bezug auf Datenschutz, Diskriminierung und die Auswirkungen auf die Arbeitswelt. Es ist wichtig, diese ethischen Dimensionen zu erkennen, zu reflektieren und sorgfältige Entscheidungen im Umgang mit KI zu treffen.
• Kommunikation: Es ist wichtig, über KI und ihre Auswirkungen klar und verständlich zu kommunizieren – sowohl mit Experten als auch mit Laien. Dies ist entscheidend für die Zusammenarbeit in interdisziplinären Teams und für den gesellschaftlichen Dialog über KI.

Wie können Unternehmen die KI-Kompetenzpflicht umsetzen?

Für einen verantwortungsvollen Umgang mit KI-Systemen sollten Unternehmen frühzeitig um die Ausbildung und Schulung ihrer Mitarbeiter kümmern.

Hier sind einige konkrete Schritte, die Unternehmen ergreifen sollten:

1. Bestandsaufnahme: Welche KI-Systeme werden im Unternehmen eingesetzt? Welche Risikokategorien gemäß der Verordnung sind relevant?
2. Schulungsdesign: Entwicklung oder Einkauf von maßgeschneiderten Schulungen und Workshops zur Vermittlung der Kompetenz.
3. Governance-Strukturen: Benennung eines KI-Beauftragten, Etablierung von Prozessen zur Überwachung und Kontrolle von KI-Systemen.
4. Interne Richtlinien: Festlegung verbindlicher Vorgaben für die Nutzung, Überwachung und Bewertung von KI-Systemen sowie regelmäßige Überprüfung und Aktualisierung dieser Richtlinien.
5. Transparenz: Offene Kommunikation über die KI-Nutzung im Unternehmen.

Welche Schulungen und Weiterbildungen unterstützen die KI-Kompetenzen?

Die Art und der Umfang der notwendigen Schulungen hängen von der jeweiligen Zielgruppe und dem Einsatz von KI-Systemen ab. Sie sollten nach besten Kräften sicherstellen, dass die Kenntnisse und das Verständnis für KI möglichst viele Bereiche abdecken:

• Grundlagen: Alle Mitarbeitenden sollten ein Grundverständnis für KI erhalten. Dazu gehören die Funktionsweise von KI-Systemen, die Chancen und Risiken von KI sowie ethische und rechtliche Aspekte.
• Vertiefung: Für Mitarbeitende, die direkt mit KI-Systemen arbeiten, sind vertiefende Ausbildungen notwendig. Diese sollten branchenspezifisch und auf die jeweiligen Aufgabenbereiche zugeschnitten sein.
• Zertifizierung: Für Führungskräfte und Spezialisten kann eine Zertifizierung im Bereich KI sinnvoll sein.

Welche Risiken bestehen bei mangelnder KI-Kompetenz?

Mangelnde KI-Kompetenz birgt eine Reihe von Risiken für Unternehmen, die über die bloße Missachtung des EU AI Act hinausgehen. Hier sind einige der potenziellen Folgen:

• Fehlerhafte Anwendung und Fehlentscheidungen: Wenn Mitarbeiter nicht ausreichend mit KI-Systemen vertraut sind, steigt die Gefahr von Fehlern in der Anwendung, was zu falschen Ergebnissen, ineffizienten Prozessen und letztendlich zu finanziellen Verlusten führen kann. Besonders gravierend sind Fehlentscheidungen, die auf fehlerhaften KI-Ergebnissen basieren, beispielsweise bei der Kreditvergabe, der Personalauswahl oder in der medizinischen Diagnostik.
• Unzureichende Risikobewertung und -minimierung: Ohne ausreichendes Wissen über die Funktionsweise und die Grenzen von KI-Systemen können potenzielle Risiken und Schäden, die durch KI verursacht werden können, nicht adäquat erkannt und bewertet werden. Dies kann zu Sicherheitsrisiken, Datenschutzverletzungen und Haftungsproblemen führen.
• Verstöße gegen den EU AI Act und andere Gesetze: Obwohl zunächst keine direkten Strafen für mangelnde KI-Kompetenz drohen (Stand Januar 2025), kann die fehlerhafte Anwendung von KI-Systemen zu Verstößen gegen den EU AI Act oder andere Gesetze wie die DSGVO führen. Ab dem 2. August 2025 können bei Verstößen Bußgelder bis zu 35 Millionen Euro oder 7 % des globalen Jahresumsatzes verhängt werden.
• Reputationsverlust und Vertrauensverlust: Die Nutzung von KI ohne ausreichende Kompetenz kann das Vertrauen von Kunden, Geschäftspartnern und der Öffentlichkeit beschädigen. Dies kann zu Imageschäden, Kundenverlust und schwierigen rechtlichen Auseinandersetzungen führen.
• Haftungsrisiken: Arbeitgeber können für Schäden haftbar gemacht werden, die durch ihre Mitarbeiter im Zusammenhang mit der Nutzung von KI-Systemen verursacht werden, wenn sie ihre Schulungspflicht verletzt haben. Dies gilt insbesondere dann, wenn nachgewiesen werden kann, dass der Schaden durch eine angemessene Schulung hätte verhindert werden können.

Wird es Kontrollen geben?

Die Kontrolle der KI-Kompetenz ab dem 2. Februar 2025 ist noch nicht vollständig geregelt, aber folgende Aspekte sind bereits bekannt:

Zuständige Behörden

In jedem EU-Mitgliedstaat wird eine nationale Behörde für die Durchsetzung des AI Act zuständig sein. In Deutschland beispielsweise wird dies voraussichtlich die Bundesnetzagentur (BNetzA) übernehmen. Allerdings werden die Behörden ihre Arbeit erst zum 2. August 2025 vollständig aufnehmen, wenn das entsprechende Durchführungsgesetz in Kraft tritt. Während der Übergangsphase bis zur vollständigen Etablierung der Aufsichtsstruktur wird die KI-Kompetenzpflicht vorerst durch folgende Anforderungen definiert:

Sorgfaltspflicht

• Die Pflicht liegt in eigener Verantwortung der Unternehmen.
• Bei Schäden durch mangelnde KI-Kompetenz können Unternehmen haftbar gemacht werden.

Dokumentationspflichten

• Unternehmen müssen nachweisen können, dass sie Maßnahmen zur Sicherstellung der KI-Kompetenz ergriffen haben.
• Ein einfaches Selbststudium wird als nicht ausreichend angesehen.

Wann ist die KI-Kompetenz auf Schweizer Unternehmen anwendbar?

Obwohl die Schweiz nicht Mitglied der EU ist, hat der EU AI Act auch erhebliche Auswirkungen auf Schweizer Unternehmen. Das liegt an der extraterritorialen Wirkung der Verordnung.

Wann gilt der AI Act und somit die KI-Kompetenz für Schweizer Unternehmen?

• Betreiber (Inverkehrbringen oder Inbetriebnahme in der EU): Wenn ein Schweizer Unternehmen ein KI-System in der EU auf den Markt bringt (z. B. Verkauf, Vertrieb oder Bereitstellung von Cloud-KI-Diensten) oder das System in der EU betreibt (z. B. lokale Server-Infrastruktur).
• Nutzer (Nutzung der KI-Ergebnisse in der EU): Für Nutzer von KI-Systemen gelten bestimmte Pflichten, sobald die Ergebnisse (Outputs) dieser Systeme innerhalb der Europäischen Union verwendet werden. Dies betrifft beispielsweise Chatbots, die Anfragen von EU-Kund:innen beantworten, KI-gestützte Tools, die automatisierte Newsletter an EU-Zielgruppen versenden, oder Kreditprüfungen für EU-Kund:innen
• Bevollmächtigte von Nicht-EU-Anbietern
  Schweizer Unternehmen, die als Nicht-EU-Anbieter KI-Systeme in der EU in Verkehr bringen, müssen einen gesetzlichen Bevollmächtigten in der EU benennen. Dieser vertritt das Unternehmen gegenüber den EU-Behörden und gewährleistet die Compliance mit dem AI Act.

Weitere KI-Verordnungen ab dem 2. Februar 2025

Neben der KI-Kompetenzpflicht treten am 2. Februar 2025 weitere wichtige Bestimmungen des EU KI-VO in Kraft. Diese betreffen in erster Linie verbotene KI-Praktiken und KI-Systeme.

Das Inverkehrbringen, die Inbetriebnahme und die Nutzung von KI-Systeme, die ein inakzeptables Risiko für die Grundrechte und die Sicherheit der Menschen darstellen werden ab Februar verboten. Dazu gehören unter anderem:

• Manipulative KI-Systeme: Systeme, die das menschliche Verhalten manipulieren oder ausnutzen, um die Entscheidungsfreiheit zu beeinträchtigen.
• Soziale Bewertungssysteme: Systeme, die Menschen aufgrund ihres sozialen Verhaltens oder ihrer persönlichen Merkmale bewerten und diskriminieren.
• Biometrische Echtzeit-Fernidentifizierungssysteme: Systeme zur Gesichtserkennung im öffentlichen Raum, die ohne gerichtliche Anordnung eingesetzt werden.

Diese Verbote gelten ab dem 2. Februar 2025 und müssen von allen Unternehmen und Organisationen eingehalten werden, die KI-Systeme in der EU anbieten oder nutzen.

Fazit 

Ab 2. Februar 2025 fordert der EU AI Act KI-Kompetenz: Mitarbeiter müssen nachweislich fähig sein, KI-Systeme sicher und verantwortungsbewusst zu nutzen. Gleichzeitig verbietet die Verordnung bestimmte KI-Systeme, die Grundrechte gefährden, u.a. für manipulative Systeme oder biometrische Überwachung im öffentlichen Raum.

Unternehmen müssen daher aktiv werden und ihre Mitarbeiter entsprechend schulen. Hier bietet die digital-agentur.ai maßgeschneiderte Grundlagenschulungen an, um die notwendige KI-Kompetenz im Unternehmen aufzubauen und einen verantwortungsvollen Umgang mit KI zu fördern. Diese Schulungen decken die relevanten Aspekte des EU AI Acts ab und bereiten Mitarbeiter auf den sicheren und effektiven Umgang mit KI vor.

Bei rechtlichen Fragen zum EU AI Act und der KI-Kompetenzpflicht steht die Anwaltskanzlei Domenig & Partner beratend zur Seite. Sie unterstützt Unternehmen dabei, die komplexen Anforderungen der Verordnung zu verstehen und rechtssicher umzusetzen.