Zum Hauptinhalt springen

Modul 2 / 6

Risiken und Verbote im AI Act, einfach erklärt

Die KI-Verordnung der EU (AI Act) ordnet KI-Einsatz nach Risiko. Hier der Überblick in einfachen Worten.

12 Min.0 €4 Fragen im Selbsttest

Danach können Sie

  • unterscheiden, welche vier Risikostufen die KI-Verordnung vereinfacht kennt
  • erkennen, wann ein geplanter KI-Einsatz fachkundig geprüft werden sollte
  • erklären, was Art. 4 verlangt und was er nicht verlangt
  • beschreiben, wo Kennzeichnungspflichten nach Art. 50 eine Rolle spielen können
  • Vier Risikostufen nach Einsatzzweck
  • Verbotene Praktiken (Art. 5)
  • Hochrisiko-Einsatzfelder (Anhang III), Beispiel Personal
  • Kennzeichnung und Transparenz (Art. 50)
  • KI-Kompetenz (Art. 4)
  • Übergangsfristen und fachkundiger Rat
Das Modul als Grafik

Vier Risikostufen

  1. Verboten
  2. Hochrisiko
  3. Transparenzpflichten
  4. Geringes Risiko

Die Stufe hängt vom Einsatzzweck ab, nicht allein vom Tool.

Lernvideo · 2:31 Min

Dieses Modul als Lernvideo

Dieses Video hat keinen Ton. Die Untertitel sind eingeblendet.

Lernvideo, KI-unterstützt erstellt. Beispiel und Zahlen sind stilisiert.

Video als Text lesen
  1. Einstieg. Ein Tool, drei Einsatzzwecke. Gelten überall dieselben Regeln? Die KI-Verordnung der EU, der AI Act, ordnet KI-Einsatz nach Risiko. Hier der Überblick in einfachen Worten. Im Bild: ein KI-Tool verzweigt in drei Einsatzzwecke (E-Mails übersetzen, Chatbot auf der Website, Bewerbungen sortieren), jede Karte trägt eine Leiste mit unterschiedlich vielen Balken. Erstellt mit KI-Unterstützung.
  2. Ein Kurs, sechs kurze Module. Der kostenfreie Kurs besteht aus sechs kurzen Modulen und dauert rund eine Stunde. Ein Konto brauchen Sie nicht. Hier geht es um Modul 2. Im Bild: ein gezeichnetes Kursfenster mit den sechs Modulen und der Plakette „Kostenfrei, ohne Konto“, Modul 2 wird hervorgehoben.
  3. Punkt 1 und Punkt 2. Punkt eins: Vereinfacht lassen sich vier Stufen unterscheiden. Welche gilt, hängt vom Einsatzzweck ab, nicht allein vom Tool. Punkt zwei: Bestimmte Praktiken sind seit 2. Februar 2025 verboten. Zum Beispiel unterschwellige Manipulation, soziale Bewertung und Emotionserkennung am Arbeitsplatz. Es gibt Ausnahmen, und die Liste ist nicht vollständig. Im Bild: eine Pyramide mit den Stufen Verboten, Hochrisiko, Transparenz und Geringes Risiko, daneben drei verbotene Praktiken mit Verbotszeichen.
  4. Punkt 3 bis Punkt 5. Punkt drei: KI bei der Auswahl von Beschäftigten gilt als hochriskant. Bewerbungen automatisiert vorsortieren? Das klären Sie schon jetzt fachkundig. Punkt vier: Kennzeichnungspflichten, etwa für KI im Kontakt mit Menschen. Ob Sie betroffen sind, hängt vom Einzelfall ab. Punkt fünf: Art. 4 verlangt Maßnahmen zur KI-Kompetenz. Ein bestimmter Kurs ist nicht vorgeschrieben, und ein Kurs ist kein Nachweis. Im Bild: drei Karten, „Hochrisiko-Einsatzfelder“ mit Bewerbungsbögen und Trichter, „Kennzeichnung und Transparenz (Art. 50)“ mit KI-Etiketten an Chatblase und Dokument, „KI-Kompetenz (Art. 4)“ mit den Bausteinen Kurs, Interne Regeln und Dokumentation.
  5. Beispiel aus der Praxis. Ein Beispiel: Ein Betrieb möchte ein Tool testen, das aus Videobewerbungen Stimmungen der Bewerbenden ableitet. Bevor jemand das Tool einführt, prüft das Team, ob dieser Einsatz unter Art. 5 oder Anhang III fällt. Und es holt fachkundigen Rat ein. Im Bild: drei Stationen, Tool-Idee, Prüfung und Fachkundiger Rat, darunter wandert eine Marke „Tool“, am Ende steht „Erst prüfen, dann einführen“. Illustratives Beispiel, Ablauf stilisiert.
  6. Übung. Jetzt sind Sie dran. Nennen Sie drei KI-Anwendungen aus Ihrem Unternehmen und ordnen Sie sie einer Risikostufe zu. Markieren Sie, wo Sie fachkundigen Rat brauchen. Im Bild: ein Notizblock mit der Aufgabe und drei Zeilen zum Ausfüllen, daneben eine Stoppuhr.
  7. Selbsttest. Zum Selbsttest: Welche Aussage zu Art. 4 der KI-Verordnung stimmt? Art. 4 verlangt Maßnahmen zur Förderung der KI-Kompetenz. Ein bestimmter Kurs ist nicht vorgeschrieben. Welche Maßnahmen angemessen sind, hängt vom Einzelfall ab. Im Bild: die Frage mit drei Antworten A, B und C, Antwort B ist richtig.
  8. Abschluss. Das war Modul 2 des Kurses KI-Kompetenz für Teams. Allgemeine Information, keine Rechtsberatung und kein Zertifikat. Der Kurs ist kostenfrei und ohne Konto. Erstellt mit KI-Unterstützung.

Inhalt

  1. Vier Risikostufen

    Vereinfacht lassen sich vier Stufen unterscheiden: verbotene Praktiken, Hochrisiko-Systeme, Systeme mit Transparenzpflichten und Systeme mit geringem Risiko. Welche Stufe gilt, hängt vom Einsatzzweck ab, nicht allein vom Tool.

  2. Verbotene Praktiken (Art. 5)

    Seit 2. Februar 2025 sind bestimmte Praktiken verboten, zum Beispiel KI, die Menschen unterschwellig manipuliert, soziale Bewertung von Personen unter bestimmten Voraussetzungen und Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, mit Ausnahmen für medizinische und Sicherheitszwecke. Das ist keine vollständige Liste.

  3. Hochrisiko-Einsatzfelder

    Bestimmte Einsatzfelder gelten als hochriskant, etwa KI bei der Auswahl und Bewertung von Beschäftigten (Anhang III). Dafür gelten zusätzliche Pflichten, zu deren Anwendungszeitpunkten es Übergangsfristen gibt. Wer Bewerbungen automatisiert vorsortieren lassen will, klärt das schon jetzt fachkundig.

  4. Kennzeichnung und Transparenz (Art. 50)

    Je nach Einsatz gelten Kennzeichnungspflichten, zum Beispiel für KI-Systeme, die mit Menschen interagieren, und für bestimmte KI-erzeugte Inhalte. Ob und wie Sie betroffen sind, hängt vom Einzelfall ab.

  5. KI-Kompetenz (Art. 4)

    Anbieter und Betreiber von KI-Systemen müssen Maßnahmen zur Förderung der KI-Kompetenz ihres Personals und beauftragter Personen ergreifen. Ein bestimmtes Niveau an KI-Kompetenz einer einzelnen Person müssen sie nicht garantieren (Fassung nach Verordnung (EU) 2026/1744). Ein bestimmtes Zertifikat oder ein bestimmter Kurs ist nicht vorgeschrieben. Ein Kurs wie dieser ist eine mögliche Maßnahme, kein Nachweis.

Beispiel aus der Praxis

Ein Betrieb möchte ein Tool testen, das aus Videobewerbungen Stimmungen der Bewerbenden ableitet. Bevor jemand das Tool einführt, prüft das Team, ob dieser Einsatz unter Art. 5 oder Anhang III fällt, und holt fachkundigen Rat ein. Illustratives Beispiel, Ablauf stilisiert.

Tun und Lassen

Das hilft

  • Vor jedem neuen KI-Einsatz den Zweck beschreiben und der passenden Risikostufe zuordnen.
  • Bei Einsatz in Personalfragen, Bewertung von Menschen oder Emotionserkennung vorab fachkundigen Rat einholen.
  • Prüfen, ob KI-Systeme mit Kundschaft interagieren oder KI-erzeugte Inhalte veröffentlicht werden, und die Kennzeichnung klären.
  • Maßnahmen zur KI-Kompetenz planen und dokumentieren, etwa Schulung und interne Regeln.

Das besser nicht

  • Ein Tool einführen, nur weil es günstig oder bei anderen verbreitet ist, ohne den Einsatzzweck zu prüfen.
  • Bewerbungen oder Leistungsdaten automatisiert bewerten lassen, ohne die Einordnung geklärt zu haben.
  • Aus einer Teilnahmebestätigung schließen, die Pflichten aus Art. 4 seien damit erfüllt.
  • Die Liste der verbotenen Praktiken in diesem Modul für vollständig halten.

Szenarien aus dem Arbeitsalltag

1

Eine Personalerin möchte ein Tool testen, das eingehende Bewerbungen automatisch nach Eignung sortiert. Der Anbieter wirbt mit Zeitersparnis, zur Rechtslage sagt er nichts.

Was tun Sie?

2

Das Marketing möchte auf der Website einen Chatbot einsetzen, der Anfragen von Besuchenden beantwortet. Ein Kollege meint, die Besucher müssten nicht erfahren, dass sie mit einer KI schreiben.

Was tun Sie?

3

Ein Handwerksbetrieb mit Büro nutzt eine KI für Angebotstexte. Die Geschäftsführung hat einen Online-Kurs für alle gebucht und fragt, ob damit alles erledigt ist.

Was tun Sie?

Übung

Nennen Sie drei KI-Anwendungen aus Ihrem Unternehmen, ordnen Sie sie einer Risikostufe zu und markieren Sie, wo Sie fachkundigen Rat brauchen.

Arbeitsblatt für Ihr Team

Arbeitsblatt: KI-Anwendungen einordnen

Tragen Sie je KI-Anwendung eine Zeile ein und besprechen Sie die Einordnung im Team. Wo Sie unsicher sind, markieren Sie die Zeile für fachkundigen Rat.

  1. 1. KI-Anwendung (Tool und Zweck)

  2. 2. Betrifft der Einsatz Menschen (Bewerbende, Beschäftigte, Kundschaft)?

  3. 3. Mögliche Risikostufe (verboten, hochriskant, Transparenz, gering) und Begründung

  4. 4. Interagiert das System mit Menschen oder entstehen veröffentlichte KI-Inhalte (Art. 50)?

  5. 5. Fachkundiger Rat nötig (ja oder nein, wer, bis wann)?

  6. 6. Maßnahmen zur KI-Kompetenz dazu (Schulung, Regel, Dokumentation)

Selbsttest

1 / 4Welche Aussage zu Art. 4 der KI-Verordnung stimmt?
2 / 4Wovon hängt die Risikostufe eines KI-Einsatzes nach der KI-Verordnung hauptsächlich ab?
3 / 4Welches Beispiel gehört zu den verbotenen Praktiken nach Art. 5?
4 / 4Was gilt für Anbieter und Betreiber von KI-Systemen nach Art. 4 in der Fassung nach Verordnung (EU) 2026/1744?
Bitte beantworten Sie alle Fragen.

Das Wichtigste in drei Sätzen

  1. Die KI-Verordnung ordnet KI-Einsatz nach Risiko, und welche Stufe gilt, hängt vom Einsatzzweck ab und nicht allein vom Tool.
  2. Manche Praktiken sind verboten, manche Einsatzfelder wie die Auswahl von Beschäftigten gelten als hochriskant und bestimmte Einsätze brauchen eine Kennzeichnung.
  3. Art. 4 verlangt Maßnahmen zur KI-Kompetenz, aber kein bestimmtes Zertifikat, und keine Maßnahme ersetzt die Prüfung des Einzelfalls.

Im Team besprechen (15 Minuten)

  • Welche KI-Anwendungen nutzen oder planen wir, und bei welchen davon geht es um Menschen, etwa Bewerbende, Beschäftigte oder Kundschaft?
  • Wo sprechen wir bereits mit KI-Systemen oder veröffentlichen KI-erzeugte Inhalte, und wissen die Betroffenen davon?
  • Welche Maßnahmen zur KI-Kompetenz haben wir bisher, was fehlt, und wer dokumentiert das?

Schlüsselbegriffe

Alle Begriffe im Glossar →

Gelerntes im Team anwenden

Mit den Werkzeugen des Kurses übertragen Sie dieses Modul auf Ihr Team: KI-Regeln, Datenampel und Werkzeug-Inventar. Fachbegriffe finden Sie im Glossar.

Der Selbsttest ist noch offen. Das Modul zählt erst nach bestandenem Test als abgeschlossen.

Quellen und Weiterlesen

Mehr dazu im Ratgeber (nur auf Deutsch)

Dieser Kurs wurde mit KI-Unterstützung erstellt. Er ist allgemeine Information, keine Rechts-, Steuer- oder Datenschutzberatung im Einzelfall.

Kurs für Teams. Ohne Konto nutzbar. Allgemeine Information, keine Rechtsberatung, kein Zertifikat. Die übrige Plattform ist ein Prototyp.