Stellen Sie einem Chatbot eine Frage, und fast immer kommt eine Antwort: flüssig, selbstbewusst und manchmal völlig falsch. Diese selbstbewusste Falschheit hat einen Namen: KI-Halluzination. Sie ist der Hauptgrund, warum Sie keiner KI-Antwort einfach trauen sollten. Hier erfahren Sie, was sie ist und warum sie passiert.
Die kurze Antwort
Eine KI-Halluzination ist, wenn ein Modell etwas Falsches als wahr ausgibt. Es lügt nicht mit Absicht. Das Modell hat überhaupt kein Gefühl für Wahrheit. Es erzeugt die plausibelste Fortsetzung Ihrer Eingabe. Und wenn die plausibelste Antwort zufällig falsch ist, bekommen Sie eine Halluzination: eine erfundene Quelle, eine erdachte Statistik, eine Funktion, die es nicht gibt.
Warum KI-Modelle halluzinieren
Die Ursache steckt in der Funktionsweise dieser Modelle. Ein großes Sprachmodell ist darauf trainiert, das nächste Wort vorherzusagen. Es setzt Text auf die statistisch wahrscheinlichste Weise fort. Es schlägt nichts nach. Es hat keine interne Datenbank mit geprüften Fakten. Wenn es eine Antwort also nicht wirklich "weiß", hält es nicht inne. Es füllt die Lücke mit Wörtern, die zum Muster passen. Diese Wörter können nach Fachwissen klingen und trotzdem erfunden sein.
Wie Halluzinationen aussehen
Sobald Sie das Muster kennen, sehen Sie es ĂĽberall:
- Erfundene Quellen — Bücher, Aufsätze oder URLs, die echt wirken, aber nicht existieren.
- Erdachte Fakten und Zahlen — selbstbewusste Statistiken ohne Quelle.
- Falscher Code — Funktionen oder Methoden, die nie Teil der API waren.
- Erfundene Zitate — Aussagen, die echten Menschen zugeschrieben werden, die sie nie gesagt haben.
Das Verräterische ist: Alles klingt richtig. Flüssigkeit ist nicht Genauigkeit.
Wie Sie Halluzinationen verringern
Ganz beseitigen lassen sich Halluzinationen heute nicht, aber Sie können sie deutlich senken. Der größte Hebel ist die Verankerung des Modells in echten Quellen. Verfahren wie Retrieval-Augmented Generation liefern dem Modell echte Dokumente als Grundlage, statt sich auf das Gedächtnis zu verlassen. Außerdem: Bitten Sie das Modell, seine Quellen zu nennen, fassen Sie Ihre Fragen eng, und nutzen Sie es für unkritische Aufgaben. Vor allem: Prüfen Sie alles Wichtige gegen eine Primärquelle, bevor Sie danach handeln.
Das Fazit
Eine KI-Halluzination ist die selbstbewusste Ausgabe falscher Informationen. Sie ist eine direkte Folge der Funktionsweise von Sprachmodellen: Sie sagen plausiblen Text vorher, nicht Wahrheit. Damit ist sie ein Merkmal des Verfahrens, kein Fehler, den man einfach beheben kann. Verankerung und gute Gewohnheiten verringern sie, doch die dauerhafte Regel ist einfach: Behandeln Sie KI als schnellen, fehlbaren Assistenten, und prĂĽfen Sie die Aussagen, auf die es ankommt.
