Was ist KI-Halluzination? Warum Chatbots Dinge erfinden (2026)

Stellen Sie einem Chatbot eine Frage, und fast immer kommt eine Antwort: flüssig, selbstbewusst und manchmal völlig falsch. Diese selbstbewusste Falschheit hat einen Namen: KI-Halluzination. Sie ist der Hauptgrund, warum Sie keiner KI-Antwort einfach trauen sollten. Hier erfahren Sie, was sie ist und warum sie passiert.

Die kurze Antwort

Eine KI-Halluzination ist, wenn ein Modell etwas Falsches als wahr ausgibt. Es lügt nicht mit Absicht. Das Modell hat überhaupt kein Gefühl für Wahrheit. Es erzeugt die plausibelste Fortsetzung Ihrer Eingabe. Und wenn die plausibelste Antwort zufällig falsch ist, bekommen Sie eine Halluzination: eine erfundene Quelle, eine erdachte Statistik, eine Funktion, die es nicht gibt.

Warum KI-Modelle halluzinieren

Die Ursache steckt in der Funktionsweise dieser Modelle. Ein großes Sprachmodell ist darauf trainiert, das nächste Wort vorherzusagen. Es setzt Text auf die statistisch wahrscheinlichste Weise fort. Es schlägt nichts nach. Es hat keine interne Datenbank mit geprüften Fakten. Wenn es eine Antwort also nicht wirklich "weiß", hält es nicht inne. Es füllt die Lücke mit Wörtern, die zum Muster passen. Diese Wörter können nach Fachwissen klingen und trotzdem erfunden sein.

Wie Halluzinationen aussehen

Sobald Sie das Muster kennen, sehen Sie es überall:

• Erfundene Quellen - Bücher, Aufsätze oder URLs, die echt wirken, aber nicht existieren.
• Erdachte Fakten und Zahlen - selbstbewusste Statistiken ohne Quelle.
• Falscher Code - Funktionen oder Methoden, die nie Teil der API waren.
• Erfundene Zitate - Aussagen, die echten Menschen zugeschrieben werden, die sie nie gesagt haben.

Das Verräterische ist: Alles klingt richtig. Flüssigkeit ist nicht Genauigkeit.

Wie Sie Halluzinationen verringern

Ganz beseitigen lassen sich Halluzinationen heute nicht, aber Sie können sie deutlich senken. Der größte Hebel ist die Verankerung des Modells in echten Quellen. Verfahren wie Retrieval-Augmented Generation liefern dem Modell echte Dokumente als Grundlage, statt sich auf das Gedächtnis zu verlassen. Außerdem: Bitten Sie das Modell, seine Quellen zu nennen, fassen Sie Ihre Fragen eng, und nutzen Sie es für unkritische Aufgaben. Vor allem: Prüfen Sie alles Wichtige gegen eine Primärquelle, bevor Sie danach handeln.

Der Mechanismus: warum Halluzination eingebaut ist

Es hilft, genau zu sehen, wo die Falschheit entsteht. Bei jedem Schritt erzeugt das Modell eine Wahrscheinlichkeitsverteilung über die möglichen nächsten Wörter (die „Tokens“) und wählt daraus aus. Mehrere Eigenschaften dieses Prozesses machen Halluzination unvermeidlich statt zufällig:

• Keine interne Wahrheitsprüfung. Das Modell optimiert die plausible Fortsetzung, nicht den korrekten Fakt. Es gibt kein eigenes Modul, das fragt „ist das wahr?“ - nur „ist das wahrscheinlicher Text?“
• Es enthält sich fast nie. Die Stichprobe gibt immer etwas zurück. Bei einer Wissenslücke antwortet das Modell nicht standardmäßig „ich weiß es nicht“; es liefert die plausibelste Füllung. Der selbstbewusste Ton ist gleich wahrscheinlich, ob die zugrunde liegende Aussage richtig oder falsch ist.
• Kompression und Lücken. Das Training presst eine riesige Menge Text in feste Gewichte. Seltene Fakten, exakte Zahlen, Namen und Quellen sind genau die Details, die am leichtesten verwischt oder verwechselt werden - konkrete Angaben (eine Seitenzahl, ein DOI, eine API-Methode) sind also die riskantesten Ausgaben.
• Wissensgrenze und Mehrdeutigkeit. Alles nach der Trainingsgrenze des Modells oder jede unterbestimmte Frage drängt es zum Raten. Die Vermutung wird im selben flüssigen, selbstbewussten Ton geliefert wie ein geprüfter Fakt.
• Feinabstimmung kann Selbstsicherheit verstärken. Modelle, die auf Hilfsbereitschaft und klare Aussagen feinjustiert sind, können noch sicherer klingen, was eine falsche Antwort schwerer erkennbar macht.

Kurz: Das Modell vervollständigt flüssig Muster, es ruft keine Fakten ab - „flüssig und falsch“ ist also ein normaler Ausgabemodus, keine Störung.

Praktische Wege, Halluzinationen zu verringern

Beseitigen lassen sich Halluzinationen nicht, aber ein paar Gewohnheiten senken sie deutlich. Ungefähr nach Wirkung geordnet:

1. Das Modell in echten Quellen verankern (RAG). Retrieval-Augmented Generation holt relevante Dokumente und gibt sie in die Eingabe, sodass das Modell aus dem gelieferten Text antwortet statt aus dem Gedächtnis. Die Verankerung ist der größte Hebel.
2. Quellen verlangen - und dann prüfen. Fordern Sie Belege oder Zitate und öffnen Sie sie wirklich. Halluzinierte Quellen wirken plausibel, führen aber ins Leere; den Link zu prüfen, reicht oft, um den Fehler zu fassen.
3. Für faktische Arbeit die Temperatur senken. Eine niedrigere Sampling-Temperatur lässt das Modell die wahrscheinlichsten Tokens bevorzugen statt kreativer - nützlich, wenn Sie Genauigkeit statt Vielfalt wollen. (Für Brainstorming, wo Erfindung das Ziel ist, ruhig höher.)
4. Dem Modell einen Ausweg lassen. Sagen Sie ihm ausdrücklich, dass „ich weiß es nicht“ oder „die Quelle sagt es nicht“ eine akzeptable Antwort ist. Ohne Erlaubnis zum Verzicht neigt es zum Erfinden.
5. Den Rahmen eingrenzen und konkret sein. Enge, klar definierte Fragen lassen weniger Raum zum Raten als breite, offene. Geben Sie Kontext, Definitionen und das genaue gewünschte Format mit.
6. Gegenprüfen und selbst verifizieren lassen. Lassen Sie das Modell seine Annahmen auflisten, oder stellen Sie die Frage erneut und vergleichen Sie die Antworten - Widersprüche zwischen Durchläufen sind ein starkes Warnsignal.
7. Bei allem mit hohem Einsatz einen Menschen einbinden. Bei rechtlichen, medizinischen, finanziellen oder sicherheitsrelevanten Aussagen behandeln Sie die KI-Ausgabe als Entwurf, den Sie gegen eine Primärquelle prüfen - nie als letztes Wort.

Kein einzelner Trick genügt. Das verlässliche Muster ist Verankerung plus Verifizierung: Füttern Sie das Modell mit echten Daten und prüfen Sie die Aussagen, auf die es ankommt, bevor Sie danach handeln.

Das Fazit

Eine KI-Halluzination ist die selbstbewusste Ausgabe falscher Informationen. Sie ist eine direkte Folge der Funktionsweise von Sprachmodellen: Sie sagen plausiblen Text vorher, nicht Wahrheit. Damit ist sie ein Merkmal des Verfahrens, kein Fehler, den man einfach beheben kann. Verankerung und gute Gewohnheiten verringern sie, doch die dauerhafte Regel ist einfach: Behandeln Sie KI als schnellen, fehlbaren Assistenten, und prüfen Sie die Aussagen, auf die es ankommt.

Verwandte Leitfäden: Was ist ein neuronales Netzwerk? Der Motor hinter moderner KI (2026).