Phase 4 – Modul 3: Fehler, Halluzinationen und Verzerrungen erkennen

Lernen Sie, warum KI-Systeme überzeugend klingende Fehler erzeugen und wie Aussagen systematisch überprüft werden.

Verstehen

Ein Sprachmodell ist darauf optimiert, eine passende Antwort zu erzeugen, besitzt jedoch keinen eingebauten Wahrheitsdetektor. Wenn zuverlässige Informationen fehlen, kann das Modell trotzdem eine sprachlich überzeugende Antwort formulieren (Halluzination). Eine selbstbewusste Formulierung ist deshalb kein Qualitätsnachweis.

Inhalte:

Halluzinationen (erfundene Fakten und Quellen)
Veraltete Informationen
Bias und Verzerrungen aus Trainingsdaten
Scheinpräzision und übertriebene Selbstsicherheit
Methoden zur Quellenprüfung

Lernziel: Die Lernenden können problematische KI-Antworten erkennen, überprüfbare Behauptungen herausarbeiten und Aussagen mithilfe geeigneter externer Quellen kontrollieren.

Ausprobieren

Untersuchen Sie KI-generierte Antworten auf ihre Belastbarkeit.

Praxis:

Prüfen Sie KI-Antworten in mehreren Schritten:

Welche konkreten Behauptungen enthält die Antwort?
Welche Quellen werden genannt? Existieren diese Quellen?
Unterstützen die Quellen die Behauptung?
Welche Primärquelle wäre geeigneter zur Überprüfung?
Was bleibt unsicher?

Nachweisen

Wenden Sie eine systematische Prüfroutine auf eine KI-Antwort an.

Modulabschluss:

Markieren Sie mögliche Halluzinationen in einer Antwort.
Überprüfen Sie mindestens eine zentrale Aussage mit einer externen Quelle.
Erkennen Sie eine ungeeignete oder erfundene Quelle.
Ordnen Sie das Ergebnis als bestätigt, widerlegt oder weiterhin unsicher ein.