KI-Halluzination: warum Sprachmodelle Dinge erfinden und was hilft
Die KI nennt dir eine Studie, ein Urteil, eine Telefonnummer. Alles klingt richtig. Nichts davon existiert. Das ist kein Bug, der bald weg ist, sondern eine Eigenschaft von Sprachmodellen. Man kann sie aber in den Griff bekommen.
150 € pro Stunde, pauschal für alles. Für Unternehmen, zzgl. USt.
Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine falsche oder erfundene Aussage, die ein KI-Modell mit derselben Sicherheit ausgibt wie eine richtige. Der Begriff hat sich vor allem für Sprachmodelle durchgesetzt. Die Forschung unterscheidet grob zwei Arten: Aussagen, die dem mitgegebenen Material widersprechen, und Aussagen, die sich an keiner Quelle überprüfen lassen, also frei ergänzt sind.
Das Tückische ist die Form. Eine erfundene Quelle hat Autor, Jahr und Titel. Eine erfundene Zahl hat zwei Nachkommastellen. Menschen vertrauen Texten, die gut formuliert sind, und genau darin sind Sprachmodelle stark.
Warum halluzinieren Sprachmodelle?
Ein LLM erzeugt Text, indem es Stück für Stück einen wahrscheinlichen nächsten Wortteil (Token) vorhersagt. Wissen ist dabei nicht als Liste von Fakten gespeichert, sondern als Muster. Für Dinge, die in den Trainingsdaten selten vorkamen, etwa das Gründungsjahr eines kleinen Unternehmens, gibt es kein stabiles Muster, aber trotzdem eine wahrscheinliche Antwort.
Forschende von OpenAI und Georgia Tech haben 2025 einen zweiten Grund beschrieben: Training und gängige Tests belohnen Raten. Wer bei einer Prüfung „weiß ich nicht“ schreibt, bekommt null Punkte, wer rät, manchmal Punkte. Modelle lernen deshalb eher zu raten, als Unsicherheit zuzugeben. Die Autoren schlagen vor, Bewertungen so zu ändern, dass ehrliche Unsicherheit nicht bestraft wird.
Fünf Fehlerbilder und ihre Gegenmittel
Nicht jede Halluzination ist gleich. Wer das Muster erkennt, weiß, wo er prüfen muss.
| Fehlerbild | Beispiel (erfunden) | Gegenmittel |
|---|---|---|
| Erfundene Quelle | Studie mit Autor, Jahr, Titel, die es nicht gibt | jeden Link öffnen, Quelle im Original suchen |
| Erfundenes Detail | falsches Gründungsjahr, falsche Adresse, falscher Preis | Fakten mitgeben statt erfragen, Material im Prompt |
| Rechenfehler | Summe stimmt nicht, Prozentwert falsch | Rechnen lassen per Tabelle oder Skript, nicht im Fließtext |
| Veraltetes Wissen | Gesetz in alter Fassung, Produkt, das es nicht mehr gibt | Stand-Datum nennen, Primärquelle mitgeben oder suchen lassen |
| Widerspruch zum Material | Zusammenfassung behauptet, was im Dokument nicht steht | Antwort nur aus dem Dokument, mit Zitatstelle |
Prompt-Bausteine gegen Halluzinationen
QUELLE BINDEN
Beantworte die Frage nur mit dem Material unten.
Steht die Antwort nicht im Material, schreib: "Nicht im Material."
UNSICHERHEIT ERLAUBEN
Wenn du dir bei einer Angabe nicht sicher bist, markiere sie mit
[UNSICHER] statt zu raten.
BELEGE ERZWINGEN
Nenne zu jeder Zahl und jeder Behauptung die Stelle im Material
(Abschnitt oder Seite).
NICHTS ERGÄNZEN
Erfinde keine Namen, Daten, Quellen, Preise oder Zitate.
STAND NENNEN
Gib an, auf welchen Stand (Datum) sich deine Aussagen beziehen.
MATERIAL:
[DOKUMENT EINFÜGEN]Prüfprotokoll: KI-Ergebnisse vor der Nutzung absichern
Sechs Schritte, die in jede KI-Richtlinie gehören. Je wichtiger das Ergebnis, desto gründlicher der Schritt.
Einstufen
Geht das Ergebnis nach außen, in eine Entscheidung oder nur in einen Entwurf? Danach richtet sich, wie viel geprüft wird.
Zahlen und Namen markieren
Jede Zahl, jedes Datum, jeder Name, jede Quelle wird hervorgehoben. Das ist die Prüfliste.
Gegen das Original prüfen
Primärquelle öffnen: Gesetzestext, Herstellerseite, eigenes Dokument. Nicht eine zweite KI fragen.
Rechnungen nachrechnen
In einer Tabelle oder einem Skript. Sprachmodelle rechnen im Fließtext unzuverlässig.
Lücken offen benennen
Was sich nicht prüfen lässt, fliegt raus oder wird als Einschätzung gekennzeichnet.
Freigabe dokumentieren
Wer hat wann geprüft? Das hilft bei Rückfragen und ist bei Texten mit öffentlichem Interesse auch für die Kennzeichnungspflicht wichtig.
Kann man Halluzinationen ganz verhindern?
Nein, nur deutlich seltener machen. Die wirksamsten Hebel sind Quellenbindung, also Antworten nur aus geprüftem Material, und Abläufe, in denen ein Mensch vor der Veröffentlichung prüft. In Chatbots für Kundschaft kommt dazu: klare Grenzen, was der Bot beantworten darf, und die Übergabe an einen Menschen, wenn er unsicher ist.
Für dein Unternehmen gibt es noch eine zweite Seite: KI-Assistenten erzählen auch über dich, und zwar manchmal Falsches. Alte Adressen, eingestellte Produkte, falsche Preise. Wie du prüfst, was KI-Antworten über deine Firma sagen, und wie du falsche Angaben korrigierst, steht unter KI-SEO.
Wann du uns nicht brauchst
Für Entwürfe und Ideen reicht das Prüfprotokoll oben, umgesetzt von Menschen, die den Stoff kennen. Wir helfen, wenn KI-Antworten automatisch an Kundschaft gehen, wenn Firmenwissen mit Quellenangabe angebunden werden soll oder wenn ein Team lernen will, KI-Ergebnisse schnell und sicher zu prüfen.
Häufige Fragen zu KI-Halluzinationen
Was versteht man unter KI-Halluzinationen?
Ausgaben eines KI-Modells, die plausibel klingen, aber falsch oder erfunden sind, etwa nicht existierende Quellen, falsche Zahlen oder ausgedachte Zitate. Sie treten vor allem bei Sprachmodellen auf, weil diese wahrscheinliche Texte erzeugen und kein Faktenregister haben.
Wie oft halluziniert ChatGPT?
Das hängt stark von Aufgabe, Modell und Prompt ab und lässt sich nicht in einer Zahl sagen. Bei allgemein bekannten Fakten sind Fehler seltener, bei Details zu kleinen Firmen, Personen, Gesetzesänderungen oder Quellenangaben deutlich häufiger. Deshalb gilt: Je wichtiger die Angabe, desto sicherer die Prüfung am Original.
Wie verhindere ich KI-Halluzinationen?
Ganz verhindern lassen sie sich nicht. Weniger werden sie, wenn du Material mitgibst und die Antwort daran bindest, Unsicherheit ausdrücklich erlaubst, Belegstellen verlangst und Rechnungen außerhalb des Fließtexts machst. Für alles, was nach außen geht, prüft ein Mensch Zahlen und Quellen am Original.
Hilft RAG gegen Halluzinationen?
Ja, deutlich. Bei Retrieval-Augmented Generation sucht das System vor der Antwort passende Dokumente und gibt sie dem Modell mit. Die Antwort kann dann auf konkrete Stellen verweisen. Fehler bleiben möglich, etwa wenn die falschen Dokumente gefunden werden, sind aber leichter zu erkennen.
Wer haftet für Fehler aus KI-Antworten?
In der Regel derjenige, der das Ergebnis verwendet oder veröffentlicht, nicht das Werkzeug. Wer KI-Texte an Kundschaft schickt oder veröffentlicht, sollte sie daher prüfen wie jeden anderen Text. Für Chatbots gilt zusätzlich die Hinweispflicht nach Art. 50 der KI-Verordnung. Orientierung, keine Rechtsberatung.
Quellen
- Kalai, Nachum, Vempala, Zhang: Why Language Models Hallucinate, arXiv 2509.04664, 04.09.2025, abgerufen am 14.11.2026.
- Ji u. a.: Survey of Hallucination in Natural Language Generation, arXiv 2202.03629, ACM Computing Surveys 2023, abgerufen am 14.11.2026.
- Lewis u. a.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, arXiv 2005.11401, 2020, abgerufen am 14.11.2026.