Halluzination
Abkürzungen / Synonyme: Hallucination
Kurzdefinition
Das Erzeugen von inhaltlich falschen, aber grammatikalisch plausibel klingenden Antworten durch ein Sprachmodell.
Ausführliche Erklärung
Eine Halluzination liegt vor, wenn ein Sprachmodell Inhalte erzeugt, die zwar flüssig und überzeugend klingen, aber sachlich falsch oder frei erfunden sind. Ursache ist, dass LLMs auf Wahrscheinlichkeit des nächsten Tokens optimiert sind, nicht auf Wahrheit. Halluzinationen sind das grösste Hindernis für den produktiven Einsatz – wirksame Gegenmittel sind Grounding durch RAG, Quellenangaben (Citations) und ein No-Answer-Gate, das ehrliches «Ich weiss es nicht» erzwingt.
Beispiel
Gefragt nach einer Studie nennt ein LLM Autoren, Titel und Jahr einer Publikation, die es so nie gegeben hat – eine klassische Halluzination.
Im ausführlichen Fachartikel erklären wir Halluzination mit Architektur, Praxisbeispielen und Best Practices im Detail: