Eine KI-Halluzination liegt vor, wenn ein Sprachmodell eine Ausgabe generiert, die sachlich falsch ist, aber sprachlich korrekt und überzeugend klingt. Die KI erfindet dabei Fakten, Quellen oder Zusammenhänge, ohne dies zu kennzeichnen.
Sprachmodelle wie GPT-5.5 oder Claude speichern kein Wissen im klassischen Sinn. Sie wurden mit Milliarden von Texten trainiert und haben dabei gelernt, welche Wörter mit welcher Wahrscheinlichkeit aufeinander folgen. Ihre Ausgaben basieren auf statistischer Vorhersage.
Das bedeutet: Ein Sprachmodell kann eine Antwort generieren, die sprachlich tadellos ist, inhaltlich aber frei erfunden. Es erfindet Studien, die nicht existieren. Es nennt Autor:innen, die nie publiziert haben. Es liefert Zahlen ohne Quellengrundlage. Und es tut das im selben Ton wie bei korrekten Antworten.
Eine hilfreiche Analogie: Jemand spricht eine Sprache perfekt, hat aber nie die Welt außerhalb von Texten erlebt. Er kann flüssig beschreiben, wie ein Sonnenuntergang aussieht, weil er tausende Beschreibungen davon gelesen hat. Ob seine Beschreibung stimmt, kann er selbst nicht beurteilen.
Halluzinationen sind kein seltener Fehler. Sie treten regelmäßig auf, besonders bei Fragen, die Fachwissen, aktuelle Daten oder präzise Quellenangaben erfordern. In Bereichen wie Recht, Medizin oder Finanzen kann eine ungeprüfte KI-Ausgabe reale Schäden verursachen.
Faktenprüfung: Jede KI-Ausgabe, die Zahlen, Namen, Studien oder rechtliche Aussagen enthält, muss gegengeprüft werden.
Quellenbasiertes Arbeiten: Wenn die KI Zugriff auf konkrete Dokumente bekommt und angewiesen wird, nur auf dieser Basis zu antworten, sinkt die Halluzinationsrate erheblich.
Rückfragen stellen: „Woher stammt diese Information?“ oder „Bist du dir sicher?“ führt in vielen Fällen dazu, dass das Modell seine Ausgabe korrigiert.
RAG-Systeme nutzen: Retrieval Augmented Generation (RAG) verbindet das Sprachmodell mit einer eigenen Datenquelle und reduziert Halluzinationen strukturell.
Halluzination ist kein Lügen. Lügen setzt Absicht voraus. Ein Sprachmodell hat weder Absicht noch Bewusstsein. Es generiert die wahrscheinlichste Wortfolge. Wenn diese Wortfolge inhaltlich falsch ist, ist das eine Halluzination.
🔗 Verwandte Begriffe:
Large Language Model (LLM), Prompt, RAG, Bias
➡ Du willst KI in deinem Arbeitsalltag einsetzen? In meinen „KI at Work“ Kursen zeige ich dir Schritt für Schritt, wie das geht. Ohne Vorwissen.
Änderungshistorie: