Zum Hauptinhalt springen

Modul 5 / 6

KI-Ergebnisse prüfen

Ein KI-Ergebnis ist ein Entwurf. Die Prüfung gehört zur Arbeit.

10 Min.0 €4 Fragen im Selbsttest

Danach können Sie

  • erklären, warum ein KI-Ergebnis immer ein Entwurf bleibt
  • Zahlen, Quellen und Rechtsaussagen in einem KI-Text gezielt prüfen
  • entscheiden, wann eine zweite Person freigeben sollte
  • einschätzen, ob für einen Text oder Chatbot eine Kennzeichnung nötig sein kann
  • Primärquellen statt zweiter KI-Antwort
  • Zahlen nachrechnen
  • Erfundene Quellen erkennen
  • Ton, Einseitigkeit und Verzerrungen
  • Freigabe nach Vier-Augen-Prinzip
  • Kennzeichnung nach Art. 50 KI-Verordnung
Das Modul als Grafik
  1. Schritt 1Fakten gegen Primärquellen prüfen
  2. Schritt 2Zahlen nachrechnen, Quellen öffnen
  3. Schritt 3Auf Verzerrungen und Ton achten
  4. Schritt 4Verantwortung bleibt beim Menschen
  5. Schritt 5Kennzeichnung prüfen
Lernvideo · 2:29 Min

Dieses Modul als Lernvideo

Dieses Video hat keinen Ton. Die Untertitel sind eingeblendet.

Lernvideo, KI-unterstützt erstellt. Beispiel und Zahlen sind stilisiert.

Video als Text lesen
  1. Einstieg. Der Text sieht fertig aus. Ist er auch geprüft? Ein KI-Ergebnis ist ein Entwurf. Die Prüfung gehört zur Arbeit. Im Bild: ein gezeichnetes Dokument mit dem Stempel „Entwurf“, drei Stellen sind markiert: Zahlen, Quellen, Behauptungen. Erstellt mit KI-Unterstützung.
  2. Ein Kurs, sechs kurze Module. Der kostenfreie Kurs besteht aus sechs kurzen Modulen und dauert rund eine Stunde. Ein Konto brauchen Sie nicht. Hier geht es um Modul 5. Im Bild: ein gezeichnetes Kursfenster mit den sechs Modulen und der Plakette „Kostenfrei, ohne Konto“, Modul 5 wird hervorgehoben.
  3. Punkt 1 und Punkt 2. Punkt eins: Gesetze, Zahlen und Aussagen mit Außenwirkung prüfen Sie in der Originalquelle. Nicht in einer weiteren KI-Antwort. Punkt zwei: Rechnen Sie Zahlen nach. Öffnen Sie genannte Links und prüfen Sie, ob es sie gibt und ob sie das Gesagte stützen. Im Bild: zwei Karten, „Fakten gegen Primärquellen prüfen“ mit einem Originaldokument und „Zahlen nachrechnen, Quellen öffnen“ mit Taschenrechner und geöffneter Quelle.
  4. Punkt 3 bis Punkt 5. Punkt drei: Prüfen Sie, ob ein Text einseitig ist oder im Ton nicht zu Ihrem Unternehmen passt. Punkt vier: Die Verantwortung bleibt beim Menschen. Wer ein KI-Ergebnis verwendet, trägt dafür in der Regel die Verantwortung. Punkt fünf: Prüfen Sie, ob im konkreten Fall eine Kennzeichnung nötig ist. Im Bild: drei Karten, „Auf Verzerrungen und Ton achten“ mit einem Regler, „Verantwortung bleibt beim Menschen“ mit zwei Personen und einem Dokument, „Kennzeichnung prüfen“ mit einem Etikett.
  5. Beispiel aus der Praxis. Ein Newsletter-Entwurf nennt eine genaue Prozentzahl, aber keine Quelle. Das Team findet keinen Beleg. Die Zahl wird gestrichen und der Satz neu geschrieben. Eine zweite Person gibt den Text frei. Im Bild: ein gezeichneter Newsletter-Entwurf, die Zahl „XX %“ wird durchgestrichen, daneben drei Schritte. Illustratives Beispiel. Ablauf stilisiert.
  6. Übung. Jetzt sind Sie dran. Nehmen Sie einen KI-Text und markieren Sie jede Zahl und jede Behauptung. Suchen Sie für zwei davon die Primärquelle. Im Bild: ein Notizblock mit der Aufgabe und ein gezeichneter KI-Text, drei Stellen sind markiert, zwei tragen das Etikett „Primärquelle“.
  7. Selbsttest. Zum Selbsttest: Ein Newsletter-Entwurf stammt von einer KI. Fakten und Zahlen prüfen, und eine Person gibt den Text frei. Im Bild: die Frage „Was geschieht vor dem Versand?“ mit drei Antworten A, B und C, Antwort B ist richtig: „Prüfung und Freigabe durch einen Menschen sind der Kern der Sorgfalt.“
  8. Abschluss. Das war Modul 5 des Kurses KI-Kompetenz für Teams. Allgemeine Information, keine Rechtsberatung und kein Zertifikat. Der Kurs ist kostenfrei und ohne Konto. Erstellt mit KI-Unterstützung.

Inhalt

  1. Fakten gegen Primärquellen prüfen

    Gesetze, Zahlen und Aussagen mit Außenwirkung prüfen Sie in der Originalquelle, nicht in einer weiteren KI-Antwort.

  2. Zahlen nachrechnen, Quellen öffnen

    Rechnen Sie Zahlen nach. Öffnen Sie genannte Links und Quellen und prüfen Sie, ob es sie gibt und ob sie das Gesagte stützen.

  3. Auf Verzerrungen und Ton achten

    Prüfen Sie, ob ein Text einseitig ist, Gruppen abwertet oder einen Ton trifft, der nicht zu Ihrem Unternehmen passt.

  4. Verantwortung bleibt beim Menschen

    Wer ein KI-Ergebnis verwendet, trägt dafür in der Regel die Verantwortung. Bei Texten mit Außenwirkung hilft eine Freigabe durch eine zweite Person.

  5. Kennzeichnung prüfen

    Prüfen Sie, ob für den konkreten Fall eine Kennzeichnung nötig ist, etwa bei Chatbots gegenüber Kundschaft, bei Deepfakes oder bei veröffentlichten Texten zu Themen von öffentlichem Interesse.

Beispiel aus der Praxis

Ein Newsletter-Entwurf nennt eine genaue Prozentzahl, aber keine Quelle. Das Team findet keinen Beleg. Die Zahl wird gestrichen, der Satz neu geschrieben, und eine zweite Person gibt den Text frei. Illustratives Beispiel, Ablauf stilisiert.

Tun und Lassen

Das hilft

  • Markieren Sie jede Zahl, jedes Zitat und jede Rechtsaussage, bevor Sie einen Text weitergeben.
  • Öffnen Sie genannte Links und Quellen selbst und lesen Sie die Stelle, die das Gesagte stützen soll.
  • Rechnen Sie Prozentwerte, Summen und Preise mit dem Taschenrechner oder in der Tabelle nach.
  • Lassen Sie Texte mit Außenwirkung von einer zweiten Person freigeben und halten Sie die Freigabe fest.

Das besser nicht

  • Übernehmen Sie keine Zahl ohne Beleg, auch wenn sie genau und plausibel wirkt.
  • Lassen Sie eine KI ihre eigene Antwort nicht als einzige Prüfung bestätigen.
  • Verlassen Sie sich bei Gesetzen und Fristen nicht auf den Stand, den ein Tool wiedergibt.
  • Versenden oder veröffentlichen Sie nichts unter Zeitdruck, nur weil der Entwurf fertig aussieht.

Szenarien aus dem Arbeitsalltag

1

Im Vertrieb erstellt eine KI ein Angebotsschreiben. Darin steht, das Produkt spare Kunden "im Schnitt 32 Prozent Energiekosten". Eine Quelle nennt der Text nicht.

Was tun Sie?

2

In der Buchhaltung fasst eine KI eine Reisekostenabrechnung zusammen. Die Summe im Text weicht um 140 Euro von der Tabelle ab. Der Text ist sonst gut lesbar.

Was tun Sie?

3

Das Marketing lässt einen Blogartikel zu einer neuen Pflicht für Betriebe schreiben. Er nennt ein Gesetz mit Paragrafen und eine Frist. Der Text soll am selben Nachmittag online gehen.

Was tun Sie?

Übung

Nehmen Sie einen KI-Text und markieren Sie jede Zahl und jede Behauptung. Suchen Sie für zwei davon die Primärquelle.

Arbeitsblatt für Ihr Team

Prüfprotokoll für eine KI-Antwort

Füllen Sie das Protokoll für jeden KI-Text mit Außenwirkung aus und legen Sie es zum Dokument ab. Ohne ausgefüllte Freigabezeile geht der Text nicht raus.

  1. 1. Text und Zweck (zum Beispiel Angebot, Newsletter, Kundenmail), Datum, verwendetes Tool

  2. 2. Quelle gefunden: Welche Behauptungen haben wir in der Originalquelle bestätigt? Link oder Fundstelle je Aussage

  3. 3. Zahlen nachgerechnet: Welche Werte, wer hat gerechnet, Ergebnis stimmt (ja/nein)

  4. 4. Rechtsstand geprüft: Gesetz oder Regel, Fundstelle, Stand der Quelle, offene Fragen für Fachleute

  5. 5. Ton und Verzerrung: Passt der Text zu unserem Unternehmen, ist er einseitig oder abwertend

  6. 6. Kennzeichnung: Muss auf KI-Nutzung hingewiesen werden (Chatbot, Bild, Video, Text), Entscheidung und Begründung

  7. 7. Vier-Augen-Freigabe: Name der prüfenden Person, Datum, Freigabe ja/nein, Änderungen

Selbsttest

1 / 4Ein Newsletter-Entwurf stammt von einer KI. Was geschieht vor dem Versand?
2 / 4Ein KI-Text nennt eine Studie mit Link. Was tun Sie zuerst?
3 / 4Wer trägt die Verantwortung, wenn ein Kundenschreiben mit KI-Hilfe einen Fehler enthält?
4 / 4Ein Chatbot beantwortet Fragen Ihrer Kundschaft auf der Website. Was sollten Sie prüfen?
Bitte beantworten Sie alle Fragen.

Das Wichtigste in drei Sätzen

  1. Ein KI-Text klingt oft sicher, auch wenn er falsche Zahlen, erfundene Quellen oder veraltete Rechtsstände enthält.
  2. Prüfen Sie jede Zahl und jede Behauptung mit Außenwirkung in der Originalquelle und lassen Sie wichtige Texte von einer zweiten Person freigeben.
  3. Wer das Ergebnis verwendet, trägt dafür in der Regel die Verantwortung, und je nach Fall kann eine Kennzeichnung nötig sein.

Im Team besprechen (15 Minuten)

  • Welchen KI-Text haben wir zuletzt ungeprüft weitergegeben, und was hätte schiefgehen können?
  • Welche Texte bei uns brauchen eine zweite Person zur Freigabe, und wer übernimmt das konkret?
  • Welche Primärquellen nutzen wir in unserer Branche, und wo liegen sie?

Schlüsselbegriffe

Alle Begriffe im Glossar →

Gelerntes im Team anwenden

Mit den Werkzeugen des Kurses übertragen Sie dieses Modul auf Ihr Team: KI-Regeln, Datenampel und Werkzeug-Inventar. Fachbegriffe finden Sie im Glossar.

Der Selbsttest ist noch offen. Das Modul zählt erst nach bestandenem Test als abgeschlossen.

Quellen und Weiterlesen

Mehr dazu im Ratgeber (nur auf Deutsch)

Dieser Kurs wurde mit KI-Unterstützung erstellt. Er ist allgemeine Information, keine Rechts-, Steuer- oder Datenschutzberatung im Einzelfall.

Kurs für Teams. Ohne Konto nutzbar. Allgemeine Information, keine Rechtsberatung, kein Zertifikat. Die übrige Plattform ist ein Prototyp.