KI-Kompetenz im Rahmen des AI Act: Wie Sie nützliche Schulungen entwickeln und dokumentieren

KI-Kompetenz bedeutet mehr, als einen Kurs abzuschließen

KI-Kompetenz ist die praktische Fähigkeit, ein KI-System zu verstehen und es im jeweiligen Arbeitskontext umsichtig zu nutzen. Für eine Organisation kann dazu gehören, zu wissen, welche Aufgabe an das System delegiert wird, wo seine Grenzen liegen, welche Informationen eingegeben werden dürfen, wie eine Antwort zu überprüfen ist und an wen man sich wendet, wenn etwas nicht stimmt. KI-Kompetenz bedeutet weder, Modelle technisch entwickeln zu können, noch führt sie für sich genommen zu einer Zertifizierung.

Artikel 4 der Verordnung der Europäischen Union über künstliche Intelligenz – bekannt als AI Act – ist der normative Ausgangspunkt für diese Verpflichtung. Die Europäische Kommission veröffentlicht spezifische Fragen und Antworten zu KI-Kompetenz und Artikel 4. Auch die spanische Agentur für die Aufsicht über künstliche Intelligenz (AESIA) bietet institutionelle Fragen und Antworten zu demselben Artikel an. Diese Quellen können bei der Einordnung helfen, ersetzen aber nicht die Prüfung des geltenden Rechtstextes, wenn festgestellt werden muss, welche Pflichten für eine konkrete Organisation gelten.

Es empfiehlt sich, drei Ebenen auseinanderzuhalten. Erstens: Was die Verordnung festlegt. Das ist anhand ihres offiziellen Textes und einschlägiger institutioneller Erläuterungen zu prüfen. Zweitens: Gestaltungsentscheidungen der jeweiligen Organisation, etwa die Schulung nach Funktionen aufzuteilen oder Übungen einzusetzen. Drittens: interne Nachweise, die zur Steuerung des Programms aufbewahrt werden. Eine gute Praxis auf der zweiten oder dritten Ebene darf nicht als ausdrückliche Anforderung der Verordnung dargestellt werden, wenn der geprüfte Rechtstext dies nicht sagt.

KI-Kompetenz darf außerdem nicht mit anderen Governance-Maßnahmen verwechselt werden. Die Schulung von Beschäftigten ersetzt weder technische Kontrollen noch Nutzungsregeln, gegebenenfalls erforderliche Aufsicht oder Risikobewertungen. Sie ist ein Bestandteil verantwortungsvoller Steuerung, aber keine Maßnahme, die allein die Sicherheit eines Systems oder die Fähigkeit aller Personen garantiert, sämtliche Fehler zu erkennen.

Zuerst Verpflichtung und Zeitplan abgrenzen

Bevor Sie einen Kurs entwickeln, müssen Sie feststellen, ob die Organisation und die betrachteten Personen in den Anwendungsbereich der Verordnung fallen. Die vorliegenden Quellen verweisen auf Anbieter und Betreiber von KI-Systemen, reichen aber nicht aus, um die regulatorische Rolle jeder Organisation zu bestimmen oder alle Grenzfälle zu klären. Dieselbe Organisation kann je nach System, Prozess und Beziehung zu Dritten unterschiedliche Rollen einnehmen. Leiten Sie die Einstufung daher nicht allein aus einer internen Bezeichnung wie „Nutzer“ oder „Kunde“ ab.

Die Prüfung sollte anhand der geltenden Fassung des AI Act und der einschlägigen institutionellen Leitlinien erfolgen. Prüfen Sie die genaue Vorschrift, an wen sie sich richtet, welche Beziehung zum System bestehen muss und welche Bedingungen genannt werden. Bestehen Zweifel an der Rolle einer Organisation, an der Art ihrer Tätigkeit oder an der zeitlichen Anwendung, dokumentieren Sie die Frage und lassen Sie sie durch qualifizierte Rechtsberatung klären. Dieser Leitfaden bestimmt weder die Rolle einer Organisation noch bietet er eine individuelle rechtliche Bewertung.

Der Zeitplan muss gesondert überprüft werden. Die verfügbaren Materialien bestätigen, dass die Seiten der Europäischen Kommission und von AESIA Artikel 4 behandeln; die bereitgestellten Auszüge bestätigen jedoch kein konkretes Anwendungsdatum. Aus Gründen der Sorgfalt sollte ein in einer Sekundärquelle wiederholtes Datum nicht als Schlussfolgerung ausgegeben werden, die durch diese Nachweise belegt ist. Prüfen Sie den Zeitplan im offiziellen Rechtstext und halten Sie fest, welche Fassung die Organisation wann herangezogen hat.

Unterscheiden Sie außerdem zwischen einer allgemeinen Pflicht, Maßnahmen zu ergreifen, und einer detaillierten Liste vorgeschriebener Inhalte oder Formate. Nach der vorliegenden Zusammenfassung weist AESIA darauf hin, dass es keine Einheitsgröße für KI-Kompetenz gibt und keine strengen Anforderungen auferlegt werden sollen. Das spricht für eine kontextbezogene Gestaltung, entbindet aber nicht von der Prüfung des genauen gesetzlichen Anwendungsbereichs und erlaubt nicht die Behauptung, jede beliebige Schulungsmaßnahme sei ausreichend.

Reale Aufgaben erfassen, bevor Sie Schulungen zuweisen

Ein einheitliches Programm für die gesamte Belegschaft kann die Entscheidungen außer Acht lassen, die für einzelne Tätigkeiten besonders wichtig sind. Erstellen Sie zunächst ein Verzeichnis der Systeme und Prozesse, in denen KI zum Einsatz kommt, und beschreiben Sie, was die einzelnen Personen dabei tun. Es geht nicht darum, Beschäftigte nach ihrem technischen Ansehen einzustufen, sondern festzustellen, welches Wissen sie für ihre Aufgaben benötigen.

Halten Sie für jede Nutzung den Zweck, die interagierenden Personen, die eingegebenen oder abgerufenen Daten, den Autonomiegrad des Systems und die möglichen Folgen eines fehlerhaften Ergebnisses fest. Berücksichtigen Sie sowohl von Dritten bezogene als auch intern entwickelte Systeme, sofern sie zu den zu prüfenden Einsatzbereichen gehören. Ist Funktionsweise oder Reichweite eines Werkzeugs nicht hinreichend bekannt, sollte diese Informationslücke als offene Frage festgehalten und nicht durch eine allgemeine Schulung verdeckt werden.

Die folgende Matrix ist ein internes Planungsinstrument, keine rechtliche Einstufung und keine Konformitätsbewertung. Ihre Spalten helfen dabei, relevante Inhalte und zusätzlichen Kontrollbedarf zu bestimmen. Die Bewertung der Auswirkungen muss an den jeweiligen Prozess angepasst werden und ersetzt keine möglicherweise erforderlichen formellen Bewertungen.

Module an konkreten Entscheidungen ausrichten

Sobald die Einsatzbereiche erfasst sind, sollten die Inhalte nach Fähigkeiten organisiert werden, die Beschäftigte in ihrer Arbeit zeigen können. Nicht jede Gruppe muss alle Aspekte gleich ausführlich behandeln. Wer ein Werkzeug zum Verfassen von Entwürfen nutzt, muss plausible Fehler erkennen und Informationen schützen. Wer Integrationen konfiguriert, benötigt möglicherweise technische Kontrollen und Änderungsverfahren. Eine Anpassung an Wissen, Erfahrung, Ausbildung und Nutzungskontext passt zum kontextbezogenen Ansatz, den AESIA laut vorliegender Zusammenfassung beschreibt. Um genau festzustellen, was der Rechtstext verlangt, muss die Organisation dennoch die offiziellen Quellen prüfen.

Das Modul zu Fähigkeiten und Grenzen sollte erläutern, welche Aufgabe das System erfüllt, was es nicht garantieren kann und welche Anzeichen besondere Vorsicht erfordern. Vermeiden Sie absolute Aussagen wie „Es liegt immer richtig“ oder „Es speichert niemals Daten“, wenn diese nicht durch geprüfte Anbieterinformationen und die tatsächlichen Konfigurationen belegt sind. Vermitteln Sie, dass eine gut formulierte Antwort nicht dasselbe ist wie eine überprüfte Antwort.

Die Überprüfung von Ergebnissen sollte im Verhältnis zu den möglichen Folgen stehen. Bei einem internen Entwurf mit geringen Auswirkungen kann eine oberflächliche Kontrolle genügen; sie ist ungeeignet, wenn eine Ausgabe eine sensible Entscheidung beeinflusst. Beschäftigte müssen wissen, welche Quellen zum Abgleich dienen, welche Teile zu prüfen sind und was zu tun ist, wenn sich eine Aussage nicht verifizieren lässt. Erfordert der Prozess eine menschliche Entscheidung, muss die prüfende Person genügend Zeit, Informationen und Befugnisse haben. Ein Häkchen ohne echte Möglichkeit, das Ergebnis infrage zu stellen, ist keine sinnvolle Praxis.

Der Umgang mit Informationen muss mit den internen Regeln und den für das jeweilige Werkzeug genehmigten Bedingungen verknüpft sein. Beschäftigte müssen wissen, welche Daten sie eingeben dürfen, welche ausgeschlossen werden müssen, wie sensible Informationen erkannt werden und an wen sie sich bei Unsicherheit wenden. Es darf nicht angenommen werden, dass alle Systeme dieselben Praktiken zur Aufbewahrung, Nutzung von Eingaben oder Datenschutzeinstellungen haben.

Schließlich sollte jede Person einen verständlichen Eskalationsweg kennen. Legen Sie fest, bei welchen Verhaltensweisen ein Prozess anzuhalten ist, wer benachrichtigt wird, welche Informationen aufzubewahren sind und welche Alternative während der Untersuchung genutzt wird. Eine Schulung verliert an Wert, wenn jemand ein Problem bemerkt, aber nicht weiß, wem es mitzuteilen ist, oder befürchtet, dass die Meldung eines Fehlers als persönliches Versagen gilt.

Mit Situationen aus dem Arbeitsalltag üben

Schulungen lassen sich leichter in die Praxis übertragen, wenn sie anhand vertrauter Entscheidungen geübt werden. Beispiele müssen keine realen Fälle mit personenbezogenen Daten nachbilden; sie können synthetische oder freigegebene Informationen verwenden. Sie sollten eine Aufgabe, eine fehlerhafte Ausgabe und eine Entscheidung enthalten, die Teilnehmende erklären müssen. So lässt sich feststellen, ob sie Anweisungen anwenden können – und nicht nur Begriffe wiedererkennen.

In einer ersten Übung kann eine Antwort mit einer zugelassenen Quelle abgeglichen werden. Eine andere Übung kann eine Eingabe enthalten, die Daten umfasst, die nicht an das verwendete Werkzeug weitergegeben werden dürfen. Die Teilnehmenden sollen dann die Aufgabe neu formulieren oder eine Alternative wählen. In einem dritten Szenario widerspricht eine Ausgabe dem internen Verfahren. Die richtige Reaktion besteht nicht immer darin, das Ergebnis zu korrigieren. Manchmal muss der Ablauf angehalten, eine Überprüfung angefordert oder das System für diese Aufgabe nicht verwendet werden.

Bewerten Sie, was die Person tut und wie sie ihr praktisches Vorgehen erläutert. Eine Teilnahmebestätigung, eine Zufriedenheitsumfrage oder ein Abschlusszertifikat können Verwaltungsinformationen liefern, zeigen für sich genommen aber nicht, ob jemand eine zweifelhafte Antwort erkennt. Als betriebliche Empfehlung können Sie eine kurze Liste beobachtbarer Verhaltensweisen verwenden: abgleichen, Daten schützen, Grenzen erkennen und eskalieren. Behandeln Sie Ergebnisse als Hinweise zur Verbesserung des Programms, nicht als allgemeingültigen Kompetenznachweis.

Das Programm dokumentieren, ohne Aufzeichnungen mit Compliance gleichzusetzen

Die vorliegenden Quellen erlauben keine Aussage darüber, welche Dokumentation Artikel 4 ausdrücklich verlangt oder ob die Verordnung ein bestimmtes Format, eine Teilnahmeliste oder einen bestimmten Test vorschreibt. Die nachfolgende Liste ist daher als Vorschlag für die interne Steuerung zu verstehen und nicht als gesetzliche Dokumentationspflicht. Prüfen Sie den offiziellen Text und die einschlägigen Leitlinien, bevor Sie eines dieser Elemente als Anforderung bezeichnen.

Eine angemessene Dokumentation kann dabei helfen festzustellen, wer welche Inhalte erhalten hat, für welchen Einsatzbereich sie entwickelt wurden, wann sie vermittelt wurden und welche Änderungen erforderlich sind. Bewahren Sie eine Fassung der Materialien auf und halten Sie fest, wer das Modul freigegeben hat, wann es aktualisiert wurde und welche Fragen offenbleiben. Werden Teilnahme oder Übungsergebnisse dokumentiert, beschränken Sie die Angaben auf das Erforderliche, kontrollieren Sie den Zugriff und beachten Sie die einschlägigen Datenschutz- und Aufbewahrungsregeln.

Die Dokumentation sollte dem Lernen und der Verbesserung dienen, nicht nur dem Anhäufen von Dateien. Zeigt ein Vorfall, dass mehrere Personen nicht wussten, wie sie eine Ausgabe prüfen sollen, aktualisieren Sie die Inhalte und prüfen Sie den Prozess, der das Problem weiterlaufen ließ. Verwenden Sie eine Teilnahmeliste nicht als automatischen Beleg dafür, dass eine Person die Grenzen des Systems verstanden hat, oder als Nachweis, dass die gesamte Organisation die Vorschriften einhält. Die Schulung überträgt die Verantwortung der Organisation nicht auf die Person, die ein Werkzeug nutzt.

Aktualisieren, wenn sich System oder Arbeit ändern

Ein Modul kann veraltet sein, obwohl sich der Markenname des Werkzeugs nicht ändert. Überprüfen Sie das Programm, wenn sich das System, sein Zweck, die Konfiguration, die verarbeiteten Daten, die Nutzergruppe oder die Rolle im Entscheidungsprozess ändert. Eine Überprüfung ist ebenfalls sinnvoll, wenn interne Anweisungen geändert werden, wiederholt Fehler auftreten oder Beschäftigte nicht wissen, wie sie einen Vorfall eskalieren sollen.

Es ist nicht nötig, bei jeder Änderung die gesamte Belegschaft erneut vollständig zu schulen. Stellen Sie fest, was sich geändert hat, welche Funktionen betroffen sind und welches Verhalten angepasst werden muss. Eine gezielte Anweisung für eine Gruppe, eine neue Übung oder eine Änderung des Verfahrens kann ausreichen. Verändert die Änderung die Nutzung oder ihre Folgen wesentlich, muss möglicherweise neu bewertet werden, ob die bisherigen Inhalte weiterhin angemessen sind.

Legen Sie praktische Hinweise fest, an denen sich offener Schulungsbedarf erkennen lässt: häufige Fragen zum Umgang mit Daten, ungeprüftes Kopieren von Ergebnissen, Verwechslung von Vorschlag und Entscheidung, Nutzung außerhalb des vorgesehenen Zwecks oder Schwierigkeiten, den Eskalationskanal zu finden. Diese Hinweise dienen der internen Verbesserung. Sie sind für sich genommen keine rechtlichen Kriterien und ersetzen keine gegebenenfalls erforderliche Risikobewertung.

Checkliste und Grenzen

Prüfen Sie vor der Einführung des Plans, ob Sie die tatsächlichen KI-Einsatzbereiche und die damit interagierenden Funktionen erfasst haben, ob Sie Anwendungsbereich und Zeitplan anhand des geltenden offiziellen Textes überprüft haben und ob jedes Modul beobachtbare Verhaltensweisen für eine konkrete Aufgabe vermittelt. Stellen Sie außerdem sicher, dass Beschäftigte die Grenzen der verwendeten Werkzeuge, die Regeln zum Umgang mit Informationen und einen klaren Weg kennen, einen zweifelhaften Fall anzuhalten und zu eskalieren.

Sorgen Sie dafür, dass eine Person für die Inhalte verantwortlich ist, die Materialien überprüft werden können und ein Verfahren zum Sammeln von Fragen besteht. Bewahren Sie angemessene interne Unterlagen auf und kennzeichnen Sie deutlich, dass sie von Nachweisen zu unterscheiden sind, die die Verordnung gegebenenfalls verlangt. Lässt sich eine Rechtsfrage anhand der verfügbaren institutionellen Quellen nicht klären, halten Sie sie als offen fest, statt sie mit einer Aussage aus einer Sekundärquelle zu beantworten.

Schulungen beheben keine unzureichenden technischen Kontrollen, machen eine ungeeignete Nutzung nicht angemessen und garantieren nicht, dass eine Person jede fehlerhafte Ausgabe erkennt. Sie legen auch nicht eigenständig die regulatorische Rolle der Organisation fest und ersetzen keine rechtliche Prüfung. Ihr Zweck ist es, die Fähigkeit von Menschen zu stärken, den konkreten Einsatz zu verstehen, umsichtig zu handeln und Hilfe einzuholen. Sinnvoll ist, diese Arbeit mit bestehenden Sicherheits- und Governance-Prozessen zu verbinden und offizielle Leitlinien erneut zu prüfen, wenn sich der regulatorische Rahmen ändert.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.