Zum Hauptinhalt springen

Modul 1 / 6

Was KI ist und wie sie Fehler macht

Wer KI im Alltag nutzt, sollte wissen, wie solche Systeme arbeiten und warum sie sich irren können.

10 Min.0 €4 Fragen im Selbsttest

Danach können Sie

  • erklären, warum ein Sprachmodell überzeugend klingen und trotzdem falsch liegen kann
  • erkennen, bei welchen Angaben eine KI-Antwort geprüft werden muss
  • prüfen, welche Informationen Sie in eine Eingabe schreiben und welche nicht
  • festlegen, wer im Team ein KI-Ergebnis freigibt, bevor es nach außen geht
  • Wie Sprachmodelle Texte berechnen
  • Halluzinationen: erfundene Fakten und Quellen
  • Verzerrungen in Trainingsdaten
  • Wissensstand und Kontext der Eingabe
  • Prüfen gegen Primärquellen
  • Menschliche Freigabe vor Außenwirkung
Das Modul als Grafik
Ihre Frage
Muster aus Texten
Antwort
Mensch prüft
  • Muster statt Wissen
  • Erfundene Inhalte (Halluzinationen)
  • Verzerrungen
  • Wissensstand und Kontext
Lernvideo · 2:15 Min

Dieses Modul als Lernvideo

Dieses Video hat keinen Ton. Die Untertitel sind eingeblendet.

Lernvideo, KI-unterstützt erstellt. Beispiel und Zahlen sind stilisiert.

Video als Text lesen
  1. Einstieg. Ihr Team nutzt KI. Wissen alle, wo sie sich irrt? Dieses Modul zeigt, wie KI arbeitet und warum sie Fehler macht. Im Bild: vier gleich überzeugend wirkende KI-Antworten, eine Lupe markiert eine davon mit einem Fragezeichen. Erstellt mit KI-Unterstützung.
  2. Ein Kurs, sechs kurze Module. Der kostenfreie Kurs besteht aus sechs kurzen Modulen und dauert rund eine Stunde. Ein Konto brauchen Sie nicht. Hier geht es um Modul 1. Im Bild: ein gezeichnetes Kursfenster mit den sechs Modulen und der Plakette „Kostenfrei, ohne Konto“, Modul 1 wird hervorgehoben.
  3. Punkt 1 und Punkt 2. Punkt eins: Sprachmodelle rechnen wahrscheinliche Wortfolgen aus Mustern. Sie schlagen nicht in einer Faktendatenbank nach. Punkt zwei: Sie können Quellen oder Aktenzeichen erfinden. Ein sicherer Ton sagt nichts darüber, ob es stimmt. Im Bild: zwei Karten, „Muster statt Wissen“ und „Erfundene Inhalte (Halluzinationen)“.
  4. Punkt 3 und Punkt 4. Punkt drei: Trainingsdaten spiegeln bestehende Ungleichgewichte. Ergebnisse können deshalb einseitig sein. Punkt vier: Ohne aktuelle Quellen kennt ein System neuere Entwicklungen nicht. Und die Antwort hängt davon ab, wie Sie fragen. Im Bild: zwei Karten, „Verzerrungen“ mit einer Waage und „Wissensstand und Kontext“ mit einer Zeitleiste und Wissensgrenze.
  5. Beispiel aus der Praxis. Ein Beispiel: Eine Mitarbeiterin lässt sich von einer KI drei Quellen für einen Marktbericht nennen. Beim Nachschlagen zeigt sich, dass ein Titel nicht existiert. Sie streicht ihn und belegt die Aussage mit einer Quelle, die sie selbst geöffnet hat. Im Bild: ein gezeichneter KI-Chat mit drei Quellen, zwei sind gefunden, eine existiert nicht und wird gestrichen. Illustratives Beispiel. Person und Zahlen stilisiert.
  6. Übung. Jetzt sind Sie dran. Fünf Minuten, schriftlich: Wofür will Ihr Team KI nutzen? Notieren Sie zwei Dinge, die dabei schiefgehen könnten. Im Bild: ein Notizblock mit der Aufgabe und eine Stoppuhr mit „5 Min.“.
  7. Selbsttest. Zum Selbsttest: Ein KI-Assistent nennt Ihnen ein Gerichtsurteil mit Aktenzeichen. Das Urteil in einer offiziellen Quelle suchen und erst dann verwenden. Im Bild: die Frage mit drei Antworten A, B und C, Antwort B ist richtig: „Angaben mit Außenwirkung werden gegen eine Primärquelle geprüft.“
  8. Abschluss. Das war Modul 1 des Kurses KI-Kompetenz für Teams. Allgemeine Information, keine Rechtsberatung und kein Zertifikat. Der Kurs ist kostenfrei und ohne Konto. Erstellt mit KI-Unterstützung.

Inhalt

  1. Muster statt Wissen

    Sprachmodelle erzeugen Texte, indem sie wahrscheinliche Wortfolgen aus Mustern in großen Textmengen berechnen. Sie schlagen nicht in einer Faktendatenbank nach und verstehen Inhalte nicht wie ein Mensch.

  2. Erfundene Inhalte (Halluzinationen)

    Ein System kann Fakten, Zahlen, Quellen oder Aktenzeichen erfinden und trotzdem überzeugend formulieren. Ein sicherer Ton sagt nichts darüber, ob der Inhalt stimmt.

  3. Verzerrungen

    Trainingsdaten spiegeln bestehende Ungleichgewichte. Ergebnisse können deshalb einseitig sein oder bestimmte Gruppen benachteiligen.

  4. Wissensstand und Kontext

    Ohne Zugriff auf aktuelle Quellen kennen Systeme neuere Entwicklungen nicht. Antworten hängen außerdem davon ab, wie Sie fragen und welchen Kontext Sie mitgeben.

Beispiel aus der Praxis

Eine Mitarbeiterin bittet eine KI um drei Quellen für einen Marktbericht. Die KI nennt drei Titel mit Autor und Jahr. Beim Nachschlagen zeigt sich: Einer der Titel existiert nicht. Die Mitarbeiterin streicht ihn und belegt die Aussage mit einer Quelle, die sie selbst geöffnet hat. Illustratives Beispiel, Person und Ablauf stilisiert.

Tun und Lassen

Das hilft

  • Zahlen, Namen, Zitate und Quellen gegen eine Primärquelle prüfen, bevor sie nach außen gehen.
  • Der KI Kontext mitgeben: Zielgruppe, Zweck, Rahmen und was nicht vorkommen soll.
  • Bei wichtigen Texten eine zweite Person gegenlesen lassen.
  • Aufschreiben, wofür die KI im Team genutzt wird und wer das Ergebnis freigibt.

Das besser nicht

  • Eine Angabe übernehmen, nur weil sie genau oder selbstsicher formuliert ist.
  • Dieselbe Frage mehrfach stellen und die häufigste Antwort als Prüfung werten.
  • Kundendaten, Verträge oder Zugangsdaten ohne geklärte Regel in ein KI-Tool eingeben.
  • Ein KI-Ergebnis ungelesen weiterleiten, veröffentlichen oder in ein Angebot kopieren.

Szenarien aus dem Arbeitsalltag

1

Im Vertrieb lässt ein Mitarbeiter von der KI ein Angebotsschreiben entwerfen. Im Entwurf steht, der Betrieb sei nach einer bestimmten Norm zertifiziert. Er weiß nicht sicher, ob das stimmt.

Was tun Sie?

2

In der Buchhaltung bittet eine Kollegin die KI, eine Rechnungsposition mit dem Steuersatz einzuordnen. Die KI nennt einen Satz und eine Gesetzesstelle. Die Kollegin ist unsicher, ob die Stelle passt.

Was tun Sie?

3

Im Kundenservice schlägt die KI Antworten auf Reklamationen vor. Ein Kollege bemerkt, dass die Vorschläge bei Kundinnen mit bestimmten Namen oder Dialekten schroffer ausfallen.

Was tun Sie?

Übung

Fünf Minuten, schriftlich: Wofür will Ihr Team KI nutzen? Notieren Sie zwei Dinge, die dabei schiefgehen könnten.

Arbeitsblatt für Ihr Team

Arbeitsblatt: KI-Einsatz und Prüfung im Team

Füllen Sie das Blatt gemeinsam im Team aus, eine Zeile pro KI-Anwendung. Hängen Sie es dort auf, wo Sie die Tools nutzen.

  1. 1. Wofür nutzen wir KI (Aufgabe und Tool)?

  2. 2. Welche Angaben im Ergebnis sind kritisch (Zahlen, Namen, Quellen, Rechtliches)?

  3. 3. Wo prüfen wir diese Angaben (Primärquelle)?

  4. 4. Welche Informationen dürfen nicht in die Eingabe?

  5. 5. Wer gibt das Ergebnis frei, bevor es nach außen geht?

  6. 6. Was machen wir, wenn ein Fehler auffällt?

Selbsttest

1 / 4Ein KI-Assistent nennt Ihnen ein Gerichtsurteil mit Aktenzeichen. Was ist der sinnvolle nächste Schritt?
2 / 4Wie entsteht der Text eines Sprachmodells in der Regel?
3 / 4Was bedeutet der Begriff Halluzination bei KI?
4 / 4Ein Team will KI-Texte für den Newsletter nutzen. Was ist eine sinnvolle Regel?
Bitte beantworten Sie alle Fragen.

Das Wichtigste in drei Sätzen

  1. Ein Sprachmodell berechnet wahrscheinliche Texte aus Mustern und schlägt nichts in einer Faktendatenbank nach.
  2. Es kann Fakten, Zahlen und Quellen erfinden und dabei sicher klingen, deshalb gehören Angaben mit Außenwirkung geprüft.
  3. Die Verantwortung für ein Ergebnis bleibt bei der Person, die es verwendet, nicht bei der KI.

Im Team besprechen (15 Minuten)

  • Wo in unserem Arbeitsalltag haben wir schon KI-Antworten übernommen, ohne sie zu prüfen, und was wäre schiefgegangen, wenn sie falsch gewesen wären?
  • Welche Angaben in unseren Texten sind so wichtig, dass sie immer gegen eine Primärquelle geprüft werden müssen?
  • Wer gibt bei uns KI-Ergebnisse frei, bevor sie zu Kundschaft, Behörden oder Bewerbenden gehen, und ist das allen klar?

Schlüsselbegriffe

Alle Begriffe im Glossar →

Gelerntes im Team anwenden

Mit den Werkzeugen des Kurses übertragen Sie dieses Modul auf Ihr Team: KI-Regeln, Datenampel und Werkzeug-Inventar. Fachbegriffe finden Sie im Glossar.

Der Selbsttest ist noch offen. Das Modul zählt erst nach bestandenem Test als abgeschlossen.

Quellen und Weiterlesen

Dieser Kurs wurde mit KI-Unterstützung erstellt. Er ist allgemeine Information, keine Rechts-, Steuer- oder Datenschutzberatung im Einzelfall.

Kurs für Teams. Ohne Konto nutzbar. Allgemeine Information, keine Rechtsberatung, kein Zertifikat. Die übrige Plattform ist ein Prototyp.