Warum KI halluziniert und wie du es erkennst

Was eine Halluzination bei KI eigentlich ist

Wenn ein Sprachmodell wie ChatGPT, Claude oder Gemini etwas erfindet, aber so klingt, als wäre es eine gesicherte Tatsache, nennt man das eine Halluzination. Der Begriff kommt aus der KI-Forschung und meint nicht Wahnvorstellungen im menschlichen Sinn, sondern schlicht: Das Modell produziert eine Aussage, die falsch, erfunden oder durch nichts belegt ist – und präsentiert sie trotzdem mit der gleichen Selbstsicherheit wie eine korrekte Antwort.

Ein paar Klassiker, die in der Praxis wirklich vorkommen:

• Ein erfundenes Zitat, das einer echten Person zugeschrieben wird
• Eine Quellenangabe oder ein Gesetzesartikel, die schlicht nicht existieren
• Eine Funktion in einer Programmierbibliothek, die es nie gab (in der Softwareentwicklung als “Package-Halluzination” bekannt)
• Ein Lebenslauf-Detail über eine reale Firma oder Person, das plausibel klingt, aber frei erfunden ist
• Eine falsche Jahreszahl oder ein falsches Datum, obwohl das Modell überzeugt wirkt

Das Tückische daran: Sprachlich unterscheidet sich eine Halluzination in nichts von einer korrekten Antwort. Gleicher Ton, gleiche Flüssigkeit, gleiche Selbstsicherheit. Genau das macht Halluzinationen gefährlich – du merkst es nicht am Stil, sondern nur, wenn du den Inhalt gegenprüfst.

Warum LLMs überhaupt Dinge erfinden

Um zu verstehen, warum das passiert, hilft ein Blick darauf, wie ein grosses Sprachmodell (LLM) grundsätzlich funktioniert – mehr dazu im Grundlagenartikel Wie ein LLM funktioniert. Kurz zusammengefasst: Ein LLM sagt nicht “Fakten” ab, sondern berechnet bei jedem Schritt statistisch das wahrscheinlichste nächste Wort (Token), basierend auf Mustern aus riesigen Textmengen. Es gibt keine eingebaute Datenbank mit “geprüften Wahrheiten”, die das Modell abfragt – es gibt nur gelernte Wahrscheinlichkeiten.

Daraus ergeben sich mehrere konkrete Ursachen:

1. Statistische Vervollständigung statt Faktenabruf. Wenn ein Modell nach einem Detail gefragt wird, das es nie in dieser Form gesehen hat (ein seltenes Zitat, eine genaue Quellenangabe, ein Nischen-Datum), füllt es die Lücke mit dem statistisch plausibelsten Muster. Das Ergebnis liest sich wie ein echtes Zitat, weil es sprachlich einem echten Zitat entspricht – es ist nur inhaltlich falsch.

2. Training belohnt selbstbewusstes Raten. Eine vielbeachtete Analyse von OpenAI-Forschenden (Kalai, Nachum, Vempala, Zhang, September 2025) bringt es auf den Punkt: Die Benchmarks und Bewertungsverfahren, mit denen Modelle trainiert und verglichen werden, behandeln eine sichere falsche Antwort und ein ehrliches “ich weiss es nicht” gleich schlecht – nämlich als Null Punkte. Ein Modell, das rät, hat statistisch bessere Chancen auf Punkte als eines, das zugibt, unsicher zu sein. Über Millionen Trainingsbeispiele hinweg lernt das Modell also: Raten lohnt sich, Unsicherheit zugeben nicht. (Stand: 2026-07, Quelle unten unter “Weiterlernen”.)

3. Fehlendes Wissen über die eigenen Wissensgrenzen. Ein LLM “weiss” nicht im menschlichen Sinn, was es weiss und was nicht. Es gibt keinen internen Schalter, der bei Unsicherheit zuverlässig auf “ich bin mir nicht sicher” umschaltet – dieses Verhalten muss erst mühsam antrainiert werden, und funktioniert bis heute nur unvollständig.

4. Veraltete oder lückenhafte Trainingsdaten. Jedes Modell hat einen Wissensstichtag. Fragst du nach Ereignissen danach, ohne dass das Modell Websuche oder aktuelle Dokumente einbezieht, entsteht oft eine plausibel klingende, aber erfundene Antwort statt eines ehrlichen “das weiss ich nicht, das liegt nach meinem Stand”.

5. Lange, komplexe Ketten von Schlussfolgerungen. Je mehr Zwischenschritte eine Antwort braucht (mehrstufige Berechnungen, verschachtelte Zitate, komplexe Regelwerke wie Steuerrecht), desto mehr Gelegenheiten gibt es für kleine Abweichungen, die sich zu einer grösseren Falschaussage aufschaukeln.

Typische Halluzinationsmuster

Halluzinationen tauchen nicht zufällig überall gleich häufig auf. Ein paar Muster, die in der Praxis besonders oft vorkommen:

Besonders tückisch: Je spezifischer und nischiger eine Anfrage ist (ein obskures Gesetz, eine kleine Bibliotheksfunktion, eine wenig bekannte Person), desto höher die Halluzinationsgefahr – genau in diesen Fällen hat das Modell am wenigsten Trainingsdaten zur Verfügung, wirkt aber genauso überzeugend wie bei einer gut abgedeckten Frage.

Wie du eine Halluzination erkennst

Es gibt keine 100%-sichere Methode, aber ein paar verlässliche Signale und Vorgehensweisen.

Warnsignale im Text selbst

• Zu präzise, unbelegte Details. Exakte Prozentzahlen, Seitenzahlen oder Daten ohne nachvollziehbare Quelle sind ein Alarmzeichen.
• Quellen, die du nicht sofort findest. Wenn ein Zitat, ein Artikel oder eine Studie genannt wird, die du mit einer kurzen Suche nicht findest, ist Vorsicht geboten.
• Widersprüche innerhalb der gleichen Antwort. Wenn sich das Modell selbst widerspricht, ist mindestens eine Aussage falsch.
• Verdächtig glatte Antworten auf Nischenfragen. Bei sehr spezifischen, wenig dokumentierten Themen (kleine Firmen, seltene Softwarefunktionen, lokale Vorschriften) ist die Wahrscheinlichkeit einer Erfindung höher als bei Allgemeinwissen.
• Code, der “zu gut passt”. Eine Funktion oder ein Parameter, den du in der offiziellen Dokumentation nicht findest.

Aktiv testen

Frage 1: "Nenn mir die genaue Quelle für diese Aussage, inklusive Link."
Frage 2 (später, neuer Chat): Dieselbe Frage nochmal stellen und Antworten vergleichen.
Frage 3: "Was spricht gegen diese Aussage? Wo bist du dir nicht sicher?"

Wenn ein Modell bei Frage 1 keine echte, überprüfbare Quelle liefern kann, bei Frage 2 eine andere Antwort gibt, oder bei Frage 3 plötzlich Unsicherheiten einräumt, die es vorher verschwiegen hat, ist das ein starkes Indiz für eine Halluzination.

Gegenmassnahmen: Wie du das Risiko senkst

1. Quellen verlangen und selbst prüfen

Bitte das Modell konsequent um Links, Titel oder Fundstellen – und öffne diese wirklich. Eine Quellenangabe, die das Modell nicht mit einem echten Link belegen kann, zählt nicht. Mehr dazu im Vertiefungsartikel Faktencheck bei KI-Output.

2. RAG nutzen, wo verfügbar

RAG (Retrieval-Augmented Generation) bedeutet: Statt sich nur auf antrainiertes Wissen zu verlassen, durchsucht das System zuerst eine echte Wissensbasis (Dokumente, Datenbank, Webindex) und gibt dem Modell die relevanten Fundstellen als Kontext mit. Das Modell “erfindet” dann weniger, weil es konkrete Textbausteine zum Zitieren hat, statt aus dem Gedächtnis zu raten. Werkzeuge mit eingebauter Websuche (ChatGPT mit Websuche, Perplexity, Copilot mit Web-Grounding) funktionieren nach diesem Prinzip und liefern deshalb tendenziell verlässlichere, belegbare Antworten als ein reines Offline-Modell. Mehr zur Technik dahinter: RAG – Firmenwissen nutzbar machen.

3. Aufgabe eingrenzen statt offen fragen

Je enger und kontextreicher deine Anfrage, desto weniger Raum zum Erfinden. Gib dem Modell den relevanten Text direkt mit (“Fasse diesen Absatz zusammen” statt “Was steht in Studie X”), statt dich auf sein Gedächtnis zu verlassen.

4. Bei kritischen Themen: unabhängig verifizieren

Bei medizinischen, rechtlichen, finanziellen oder sicherheitsrelevanten Themen reicht “klingt plausibel” nie aus. Zieh eine zweite, unabhängige Quelle heran – im Zweifel eine Fachperson.

5. Mehrere Modelle oder Durchläufe vergleichen

Wenn dieselbe Frage bei ChatGPT, Claude und Gemini (oder bei zwei Durchläufen desselben Modells) unterschiedliche “Fakten” liefert, ist mindestens eine Antwort falsch – ein einfacher, wirksamer Warnmechanismus für wichtige Entscheidungen.

Entscheidungshilfe: Wie stark muss ich eine KI-Antwort prüfen?

Ist die Aussage folgenlos (Small Talk, Ideen sammeln)?
  → Ja: Prüfung meist nicht nötig
  → Nein: weiter

Betrifft sie Fakten, Zahlen, Quellen, Code oder Recht?
  → Nein: kurze Plausibilitätsprüfung reicht
  → Ja: weiter

Hat das Werkzeug Websuche/RAG mit echten Quellenlinks genutzt?
  → Ja, Links geprüft und stimmen: verwendbar
  → Nein oder Links nicht auffindbar: unabhängig verifizieren, bevor du handelst

Wann du KI grundsätzlich nicht blind vertrauen darfst

Es gibt Situationen, in denen du KI-Antworten nie ungeprüft übernehmen solltest – unabhängig davon, wie überzeugend sie klingen:

• Rechtliche Fragen (Verträge, Kündigungsfristen, Steuerfragen): Gesetzestexte und Fristen ändern sich, und Fehler haben reale Konsequenzen.
• Medizinische Fragen: Diagnosen, Medikamentendosierungen, Wechselwirkungen gehören in die Hand von Fachpersonen.
• Konkrete Zahlen und Statistiken, die du weiterverwenden willst (Berichte, Präsentationen, Entscheidungsgrundlagen).
• Zitate und Quellenangaben in akademischen oder journalistischen Texten – hier ist eine erfundene Quelle nicht nur peinlich, sondern kann zu Plagiatsvorwürfen oder Reputationsschäden führen.
• Sicherheitskritischer Code (Authentifizierung, Verschlüsselung, Zahlungsabwicklung): Eine halluzinierte, unsichere Funktion kann eine echte Schwachstelle einbauen.
• Aktuelle Ereignisse nach dem Wissensstichtag des Modells, wenn keine Websuche aktiv ist.

Kurz zusammengefasst

• Halluzinationen entstehen, weil LLMs Text statistisch vervollständigen, nicht Fakten aus einer Datenbank abrufen.
• Training und Benchmarks belohnen selbstbewusstes Raten stärker als ehrliches “ich weiss es nicht”.
• Warnsignale: zu präzise unbelegte Details, nicht auffindbare Quellen, Widersprüche, verdächtig glatte Antworten bei Nischenthemen.
• Gegenmittel: Quellen verlangen und selbst öffnen, RAG/Websuche nutzen, Aufgaben eng eingrenzen, bei kritischen Themen unabhängig verifizieren.
• Bei Recht, Medizin, Zahlen, Zitaten und Sicherheitscode gilt: nie blind übernehmen.

Weiterlernen

• OpenAI: Why Language Models Hallucinate (Originalpaper, Sept. 2025)
• arXiv: Why Language Models Hallucinate – Kalai, Nachum, Vempala, Zhang
• Fraunhofer IESE: Halluzinationen von generativer KI und LLMs
• Bundestag (WD): Bias und Halluzinationen von KI-Systemen (PDF)
• Google Cloud: Was sind KI-Halluzinationen?
• IBM: What are AI hallucinations?

Videos

YouTube