Ziel des AI Acts ist die Einführung von menschenzentrierter und vertrauenswürdiger Künstlicher Intelligenz. KI-Systeme sollen sicher, transparent und ethisch eingesetzt werden. Der AI Act unterscheidet dabei zwischen verschiedenen Risikostufen von KI-Systemen und legt für jede Stufe spezifische Anforderungen fest. Des Weiteren befasst er sich mit Aspekten der Transparenzpflicht sowie auch mit KI-Kompetenzen und Schulungen, die einen kompetenten Umgang mit KI-Systemen sicherstellen sollen.

Grundsätzlich verfolgt der AI Act einen Risiko-basierten Ansatz, das heißt „je höher das Risiko eines KI-Systems, desto umfassender die Anforderungen”. Der wesentliche Faktor ist dabei die so genannte Risikoklasse eines jeden KI-Systems, mit den vier Abstufungen (inakzeptables Risiko, hohes Risiko, mittleres Risiko, geringes Risiko).

Je nach Risikoklasse hat der AI Act Auswirkungen auf die Entwicklung und den Betrieb von KI-Systemen. Egal ob Unternehmen oder Bildungseinrichtung, wer KI-Systeme anbietet oder betreibt muss die Regelungen künftig berücksichtigen.¹

Übergreifend enthält der AI Act in Artikel 4 darüber hinaus auch eine allgemeine Anforderung an alle Anbieter und Betreiber von KI-Systemen zum Aufbau von KI-Kompetenz oder „AI Literacy“.

Dieser Beitrag adressiert folgende Fragen zu KI-Kompetenzen im AI Act:

• Warum ist KI-Kompetenz im AI Act wichtig?
• Was bedeutet KI-Kompetenz (engl. AI Literacy)?
• Wer soll „kompetent” sein?
• Was machen wir jetzt?

AI Act / KI-Verordnung, Artikel 4
KI-Kompetenz
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.

Warum ist KI-Kompetenz im AI Act wichtig?

Im Sinne des AI Acts soll in der EU ein menschenzentriertes KI-Ökosystem basierend auf Vertrauen und Exzellenz entstehen, in dem die unterschiedlichen Akteure entlang des Lebenszyklus von KI-Systemen zusammenarbeiten und Informationen austauschen.

Dazu zählen zum Beispiel, Anbieter und Nutzer von KI-Systemen, aber auch Personen, die durch den Einsatz von KI betroffen sind. Die verschiedenen Rollen haben durch die Regelungen des AI Acts spezifische Pflichten und Rechte, wodurch bestimmte Maßnahmen, Entscheidungen oder Informationsbedarfe entstehen, die insbesondere dann effektiv erfüllt werden können, wenn die jeweiligen Personen entsprechend kompetent sind.

Was bedeutet KI-Kompetenz (engl. AI Literacy)?

Im AI Act ist der Begriff “KI-Kompetenz” wie folgendermaßen definiert:

Liest man diese Definition im Kontext der Intention von Artikel 4, lassen sich daraus generische Lernziele ableiten. Eine “kompetente Person” ist in der Lage,

1. sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

2. KI-Systeme sachkundig einzusetzen.

3. fundierte Entscheidungen über KI-Systeme zu treffen.

Allgemein zusammengefasst lässt sich dies in Anlehnung an Laupichler et al. (2023) in drei Dimensionen einordnen:

1. Grundverständnis von KI
Ein Verständnis der grundlegenden Funktionsweisen von KI. Dieses Grundwissen zu KI ist notwendige Grundlage für den sachkundigen Einsatz und eine kritische Einordnung von KI-Systemen, um eine fundierte Entscheidung für und gegen ihre Anwendung und auch für ihre souveräne, praktische Anwendung zu treffen.

2. Kritische Einordnung von KI
Die kritische Einordnung von KI-Systemen und ihren Outputs inklusive Chancen, Risiken und möglicher Schäden. Im Kontext der Zielsetzungen der EU könnte dies auch eine Berücksichtigung ethischer Fragestellungen beinhalten – auch wenn dies in Artikel 4 nicht explizit erwähnt wird.

3. Praktische Anwendung von KI
Konkrete, praktische Anwendungskompetenzen im Einsatz von KI-Systemen. Diese sind abhängig vom jeweiligen Kontext und unterscheiden sich entsprechend auch je nach Anwendungsfall. Sachkundigkeit betrifft dabei sowohl das notwendige Grundverständnis der KI-Systeme als auch ihres jeweiligen anwendungsspezifischen Kontextes.
 

Wer soll „kompetent” sein?

Die Anforderungen zu KI-Kompetenz richten sich an verschiedene, zum Teil überlappende Gruppen: 

Im Kern (Art. 4):

1. Anbieter und Betreiber von KI-Systemen, und insbesondere „ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind”

Zusätzlich (Erwägungsgrund 20):

2. Betroffene Personen (...) um zu verstehen, wie sich mithilfe von KI getroffene Entscheidungen auf sie auswirken werden
3. Alle einschlägigen Akteure der KI-Wertschöpfungskette

Wichtig ist dabei: Die Anforderung zu KI-Kompetenz gilt für alle KI-Systeme, unabhängig von der Risikogruppe.

Im Folgenden werden die drei Zielgruppen genauer betrachtet.
 

1. Anbieter und Betreiber und deren Personal

Wer ist ein Anbieter oder Betreiber?

Anbieter sind Organisationen oder Personen, die KI-Systeme entwickeln oder entwickeln lassen, dabei den Verwendungszweck des KI-Systems festlegen oder KI-Systeme unter ihrem Namen in Verkehr bringen, ob gegen Bezahlung oder ohne.

AI Act / KI-Verordnung, Artikel 3 (3)
Anbieter
„Anbieter“ [ist] eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich;

Betreiber sind Organisationen oder Personen, die KI-Systeme in eigener Verantwortung nutzen, außer wenn es sich um eine persönliche, nicht berufliche Tätigkeit handelt.

AI Act / KI-Verordnung, Artikel 3 (4)
Betreiber
„Betreiber“ [ist] eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet;

Wer zählt zum Personal und Personen, die mit KI befasst sind?

Kompetenz entsteht auf der Ebene von Personen, die im Zusammenhang mit KI-Tätigkeiten ausüben oder Entscheidungen treffen. Daher bezieht sich Artikel 4 auf KI-Kompetenzen des „Personal(s) und andere(r) Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind”. Dies kann Unternehmen umfassen genauso wie Behörden oder – auch öffentliche - Bildungseinrichtungen.

Beispiele:

• Personal von Anbietern (Software-Entwickler:innen und Data Scientists; weitere technische Rollen des ML-Lebenszyklus; Projektmanager:innen, Product Owner, Geschäftsführung)
• Personal von Betreibern (Personen die für die Einführung von KI verantwortlich sind, z. B. Führungskräfte; Personen, die KI operativ für einen konkreten Use Case nutzen, z. B. Mitarbeitende in der Verwaltung, in der industriellen Anwendung oder Lehrende an Hochschulen oder Schulen)
• Personen, die mit dem KI-System befasst sind (z. B. IT-Abteilungen, die das KI-System hosten und warten; IT-Administrator:innen, die das KI-System mit anderen Systemen verbinden; Beschäftigte, die das KI-System beschaffen; Beschäftigte im Qualitätsmanagement, die interne Richtlinien zu KI erstellen und überwachen; Rechtsabteilung, die die Konformität zum AI Act und zu anderen Regularien verantwortet)

2. Betroffene Personen

Wer könnte eine betroffene Person sein?

Der AI Act fordert auch KI-Kompetenzen für sogenannte betroffene Personen, jedoch nicht über den Artikel 4 an sich, sondern im einleitenden Erwägungsgrund 20. Demnach sollen betroffene Personen die notwendigen Kompetenzen haben, um zu verstehen, wie sich mithilfe von KI getroffene Entscheidungen auf sie auswirken werden.

Der Begriff „betroffene Person” (engl. affected person) ist im AI Act nicht definiert. Nach dem Verständnis der Autoren handelt es sich im Sinne des AI Act dabei um natürliche Personen in der EU, die das KI-System nicht rein privat nutzen und durch die Nutzung von KI-Systemen betroffen sind. Das ist insbesondere der Fall, wenn die Ergebnisse von einem KI-System Entscheidungen oder Maßnahmen unterstützen oder gar autonom durchführen, die Menschen betreffen.

Mögliche Beispiele:

• Patient:innen: Bei der Nutzung von KI im Rahmen des Gesundheitssystems, z. B. im Krankenhaus oder bei Ärzt:innen zur Diagnose, sind Patient:innen ggf. betroffene Personen.
• Student:innen: Bei der Nutzung eines KI-Tools, das durch die Hochschule für das Studium zur Verfügung gestellt wird oder einer Lernumgebung, die z. B. KI-basiert Lernempfehlungen gibt, sind sie ggf. betroffene Personen.
• Schüler:innen: Bei der Nutzung von KI-Tools im Schulunterricht sind sie ggf. betroffene Personen.
• Kund:innen: Bei der Nutzung von KI im kommerziellen Sektor, z. B. im (Online-) Handel oder bei Dienstleistungen etwa im Finanzsektor, sind Kund:innen ggf. betroffene Personen.
• Bürger:innen: Bei der Nutzung von KI im öffentlichen Sektor, z. B. auf Ämtern oder in Kommunen, sind Bürgerinnen ggf. betroffene Personen.
• Mitarbeiter:innen: Bei der Nutzung von KI in Unternehmen, z. B. in der Produktion, Administration oder Logistik, sind Mitarbeitende ggf. betroffene Personen.

3. Akteure der KI-Wertschöpfungskette

Der Begriff der KI-Wertschöpfungskette ist im AI Act nicht definiert. Behelfsweise dient das “verwandte” Konzept des KI-Lebenszyklus, das zwar auch nicht im AI Act definiert ist, aber zu dem es ein zunehmend etabliertes Verständnis in der Praxis gibt (siehe dazu z. B. die Konzepte von appliedAI oder von der International Organization for Standardization).

appliedAI Institute for Europe gGmbh

Dieser iterative und komplexe Prozess (hier vereinfacht dargestellt) wird zunehmend von unterschiedlichen Akteuren umgesetzt, die sich auf bestimmte Aspekte spezialisieren. Dadurch wird ein einzelnes KI-System nicht mehr von einen oder wenigen Akteuren entwickelt und betrieben, sondern von einem “Collaboration Network”, das Informationen austauschen muss, damit jeder seinen Anforderungen aus dem AI Act nachkommen kann.

appliedAI Institute for Europe gGmbh

Zum Beispiel: Wenn ein Datenhändler die Trainingsdaten zur Verfügung stellt, übernimmt er ggfs. wichtige Aktivitäten, die für die Konformität mit Artikel 10 zu Data Governance relevant sind. In diesem Fall müsste der Datenhändler entsprechende Kompetenzen aufbauen.

Rollen in der KI-Wertschöpfungskette (Beispiele):

Was machen wir jetzt?

Timeline

Die Anforderungen zu KI-Kompetenz gelten laut Artikel 113 ab dem 2. Februar 2025.

Ab diesem Datum müssen KI-Anbieter und -Betreiber “nach besten Kräften” sicherstellen, dass die oben genannten Zielgruppen mit Blick auf die jeweiligen KI-Systeme “kompetent” sind. Die Missachtung dieser Anforderung ist insbesondere im Schadensfall problematisch, also wenn durch den Einsatz eines KI-Systems durch nicht-kompetente Personen ein Schaden entsteht.

Es gilt daher zu klären, wie ein ausreichendes Maß an KI-Kompetenz gestärkt und schrittweise bzw. anwendungsspezifisch vertieft werden kann.

Vorgehensweise

1. Grundverständnis von KI bei allen Mitarbeitenden stärken:

Es gibt sehr niedrigschwellige, teils auch kostenlose Möglichkeiten, Mitarbeitenden allgemeine Grundlagen von KI zu vermitteln. Dies kann über Materialsammlungen für unterschiedliche Bedarfe (Informationsmaterialien, Videos, Podcasts, Kurse) erfolgen und erfüllt ggf. erste Mindestanforderungen an KI-kompetente Mitarbeitende.

Auf dieser Grundlage sollte dann, besonders beim Einsatz von KI-Systemen in höheren Risikokategorien, schrittweise mit Partnern ein zielgruppenspezifisches Angebot aufgebaut werden.

2. Zielgruppenspezifisch KI-Kompetenzen stärken:

Insgesamt ist zu begrüßen, dass die neuen Anforderungen an KI-Systeme die Bedeutung von KI-Kompetenzen so deutlich betonen. Unternehmen, Bildungseinrichtungen und andere Akteure sollten dies als einen hilfreichen Anstoß dafür nutzen, übergreifend notwendige technologische Kompetenzen in der eigenen Organisation zu stärken und attraktive Bildungsangebote für ihre Mitarbeitenden zur Verfügung zu stellen.

Dabei gibt es zahlreiche passende Inhalte und gute Anbieter sowohl auf dem privatwirtschaftlichen Markt als auch im Non-Profit-Bereich. Organisationen sollten hier gezielt das zu ihren Kompetenzanforderungen passende Angebot suchen und schrittweise ausbauen.

Das appliedAI Institute for Europe und der KI-Campus setzen sich aktiv zur Stärkung von KI-Kompetenzen in Deutschland und Europa ein!

¹Hilfreiche Unterstützung bieten zum Beispiel der Umsetzungsleitfaden der Bitkom und die Compliance Journey des appliedAI Institute for Europe

Referenzen

KI-Servicestelle Österreich: https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/ki-kompetenz.de.html

https://www.rdv-online.com/shop/1349/merkblatt-ki-kompetenz

https://www.rdv-online.com/print/ausgabe-5-2024/konzepte-umsetzung-ki-kompetenz-unternehmen-zwischen-ki-vo-ds-gvo/

Spannende Kurse auf dem KI-Campus für deinen Einstieg in die Welt der KI

Einführung in die KI von appliedAI

KI für Alle 1: Einführung in die Künstliche Intelligenz von der Heinrich Heine Universität Düsseldorf

KI für Alle 2: Verstehen, Bewerten, Reflektieren von der Heinrich Heine Universität Düsseldorf

Schule macht KI von den Jungen Tüftlern und dem Fraunhofer IAIS

Dr. med. KI - Basics von der Charité Universitätsmedizin Berlin und dem Stifterverband

Prompt-Labor Hochschullehre 2.0 von der RWTH Aachen, dem KI-Campus und dem Hochschulforum Digitalisierung