> KI-Halluzinationen erklärt: warum Sprachmodelle Fakten erfinden, fünf Fehlerbilder mit Gegenmittel, Prompt-Bausteine und ein Prüfprotokoll für Unternehmen. # KI-Halluzination: warum Sprachmodelle Dinge erfinden und was hilft Von [Alexander Scharff](https://mediabrandcast.com/team/alexander-scharff/) · 14. November 2026 Die KI nennt dir eine Studie, ein Urteil, eine Telefonnummer. Alles klingt richtig. Nichts davon existiert. Das ist kein Bug, der bald weg ist, sondern eine Eigenschaft von Sprachmodellen. Man kann sie aber in den Griff bekommen. [KI-Ergebnisse absichern](https://mediabrandcast.com/kontakt/?anliegen=beratung) 150 € pro Stunde, pauschal für alles. Für Unternehmen, zzgl. USt. - [Zum Prüfprotokoll](https://mediabrandcast.com/wissen/ki/halluzination/#pruefprotokoll) Kurz gesagt Eine KI-Halluzination ist eine Ausgabe eines KI-Modells, die plausibel klingt, aber sachlich falsch oder frei erfunden ist, zum Beispiel ein Zitat, eine Quelle oder eine Zahl. Sie entsteht, weil Sprachmodelle wahrscheinliche Texte erzeugen, nicht geprüfte Fakten, und weil Training und Bewertung Raten oft belohnen. Gegenmittel sind Quellenbindung (RAG), klare Prompts, die Unsicherheit erlauben, und menschliche Prüfung. mediabrandcast zeigt dafür Prompt-Bausteine und ein Prüfprotokoll. ## Was ist eine KI-Halluzination? Eine KI-Halluzination ist eine falsche oder erfundene Aussage, die ein KI-Modell mit derselben Sicherheit ausgibt wie eine richtige. Der Begriff hat sich vor allem für Sprachmodelle durchgesetzt. Die Forschung unterscheidet grob zwei Arten: Aussagen, die dem mitgegebenen Material widersprechen, und Aussagen, die sich an keiner Quelle überprüfen lassen, also frei ergänzt sind. Das Tückische ist die Form. Eine erfundene Quelle hat Autor, Jahr und Titel. Eine erfundene Zahl hat zwei Nachkommastellen. Menschen vertrauen Texten, die gut formuliert sind, und genau darin sind Sprachmodelle stark. ## Warum halluzinieren Sprachmodelle? Ein [LLM](https://mediabrandcast.com/wissen/ki/llm/) erzeugt Text, indem es Stück für Stück einen wahrscheinlichen nächsten Wortteil (Token) vorhersagt. Wissen ist dabei nicht als Liste von Fakten gespeichert, sondern als Muster. Für Dinge, die in den Trainingsdaten selten vorkamen, etwa das Gründungsjahr eines kleinen Unternehmens, gibt es kein stabiles Muster, aber trotzdem eine wahrscheinliche Antwort. Forschende von OpenAI und Georgia Tech haben 2025 einen zweiten Grund beschrieben: Training und gängige Tests belohnen Raten. Wer bei einer Prüfung „weiß ich nicht“ schreibt, bekommt null Punkte, wer rät, manchmal Punkte. Modelle lernen deshalb eher zu raten, als Unsicherheit zuzugeben. Die Autoren schlagen vor, Bewertungen so zu ändern, dass ehrliche Unsicherheit nicht bestraft wird. ## Fünf Fehlerbilder und ihre Gegenmittel Nicht jede Halluzination ist gleich. Wer das Muster erkennt, weiß, wo er prüfen muss. Einordnung von mediabrandcast aus der Praxis, Stand 14.11.2026 | Fehlerbild | Beispiel (erfunden) | Gegenmittel | |---|---|---| | Erfundene Quelle | Studie mit Autor, Jahr, Titel, die es nicht gibt | jeden Link öffnen, Quelle im Original suchen | | Erfundenes Detail | falsches Gründungsjahr, falsche Adresse, falscher Preis | Fakten mitgeben statt erfragen, Material im Prompt | | Rechenfehler | Summe stimmt nicht, Prozentwert falsch | Rechnen lassen per Tabelle oder Skript, nicht im Fließtext | | Veraltetes Wissen | Gesetz in alter Fassung, Produkt, das es nicht mehr gibt | Stand-Datum nennen, Primärquelle mitgeben oder suchen lassen | | Widerspruch zum Material | Zusammenfassung behauptet, was im Dokument nicht steht | Antwort nur aus dem Dokument, mit Zitatstelle | ## Prompt-Bausteine gegen Halluzinationen ``` QUELLE BINDEN Beantworte die Frage nur mit dem Material unten. Steht die Antwort nicht im Material, schreib: "Nicht im Material." UNSICHERHEIT ERLAUBEN Wenn du dir bei einer Angabe nicht sicher bist, markiere sie mit [UNSICHER] statt zu raten. BELEGE ERZWINGEN Nenne zu jeder Zahl und jeder Behauptung die Stelle im Material (Abschnitt oder Seite). NICHTS ERGÄNZEN Erfinde keine Namen, Daten, Quellen, Preise oder Zitate. STAND NENNEN Gib an, auf welchen Stand (Datum) sich deine Aussagen beziehen. MATERIAL: [DOKUMENT EINFÜGEN] ``` Diese Bausteine senken das Risiko, sie beseitigen es nicht. Die Prüfung bleibt. Fakten - Halluzinationen entstehen statistisch schon im Vortraining und halten sich, weil Bewertungen Raten belohnen. Quelle: [Kalai, Nachum, Vempala, Zhang: Why Language Models Hallucinate, arXiv 2509.04664, 04.09.2025](https://arxiv.org/abs/2509.04664) - Überblick zu Arten und Ursachen von Halluzinationen in der Textgenerierung. Quelle: [Ji u. a., Survey of Hallucination in Natural Language Generation, ACM Computing Surveys 2023](https://arxiv.org/abs/2202.03629) - Retrieval-Augmented Generation verbindet Sprachmodell und Dokumentsuche, Antworten stützen sich auf gefundene Texte. Quelle: [Lewis u. a., arXiv 2005.11401, 2020](https://arxiv.org/abs/2005.11401) ## Prüfprotokoll: KI-Ergebnisse vor der Nutzung absichern Sechs Schritte, die in jede KI-Richtlinie gehören. Je wichtiger das Ergebnis, desto gründlicher der Schritt. ### Einstufen Geht das Ergebnis nach außen, in eine Entscheidung oder nur in einen Entwurf? Danach richtet sich, wie viel geprüft wird. ### Zahlen und Namen markieren Jede Zahl, jedes Datum, jeder Name, jede Quelle wird hervorgehoben. Das ist die Prüfliste. ### Gegen das Original prüfen Primärquelle öffnen: Gesetzestext, Herstellerseite, eigenes Dokument. Nicht eine zweite KI fragen. ### Rechnungen nachrechnen In einer Tabelle oder einem Skript. Sprachmodelle rechnen im Fließtext unzuverlässig. ### Lücken offen benennen Was sich nicht prüfen lässt, fliegt raus oder wird als Einschätzung gekennzeichnet. ### Freigabe dokumentieren Wer hat wann geprüft? Das hilft bei Rückfragen und ist bei Texten mit öffentlichem Interesse auch für die Kennzeichnungspflicht wichtig. ## Kann man Halluzinationen ganz verhindern? Nein, nur deutlich seltener machen. Die wirksamsten Hebel sind Quellenbindung, also Antworten nur aus geprüftem Material, und Abläufe, in denen ein Mensch vor der Veröffentlichung prüft. In Chatbots für Kundschaft kommt dazu: klare Grenzen, was der Bot beantworten darf, und die Übergabe an einen Menschen, wenn er unsicher ist. Für dein Unternehmen gibt es noch eine zweite Seite: KI-Assistenten erzählen auch über dich, und zwar manchmal Falsches. Alte Adressen, eingestellte Produkte, falsche Preise. Wie du prüfst, was KI-Antworten über deine Firma sagen, und wie du falsche Angaben korrigierst, steht unter [KI-SEO](https://mediabrandcast.com/leistungen/seo-geo/ki-seo/). ## Wann du uns nicht brauchst Für Entwürfe und Ideen reicht das Prüfprotokoll oben, umgesetzt von Menschen, die den Stoff kennen. Wir helfen, wenn KI-Antworten automatisch an Kundschaft gehen, wenn Firmenwissen mit Quellenangabe angebunden werden soll oder wenn ein Team lernen will, KI-Ergebnisse schnell und sicher zu prüfen. ## Häufige Fragen zu KI-Halluzinationen ### Was versteht man unter KI-Halluzinationen? Ausgaben eines KI-Modells, die plausibel klingen, aber falsch oder erfunden sind, etwa nicht existierende Quellen, falsche Zahlen oder ausgedachte Zitate. Sie treten vor allem bei Sprachmodellen auf, weil diese wahrscheinliche Texte erzeugen und kein Faktenregister haben. ### Wie oft halluziniert ChatGPT? Das hängt stark von Aufgabe, Modell und Prompt ab und lässt sich nicht in einer Zahl sagen. Bei allgemein bekannten Fakten sind Fehler seltener, bei Details zu kleinen Firmen, Personen, Gesetzesänderungen oder Quellenangaben deutlich häufiger. Deshalb gilt: Je wichtiger die Angabe, desto sicherer die Prüfung am Original. ### Wie verhindere ich KI-Halluzinationen? Ganz verhindern lassen sie sich nicht. Weniger werden sie, wenn du Material mitgibst und die Antwort daran bindest, Unsicherheit ausdrücklich erlaubst, Belegstellen verlangst und Rechnungen außerhalb des Fließtexts machst. Für alles, was nach außen geht, prüft ein Mensch Zahlen und Quellen am Original. ### Hilft RAG gegen Halluzinationen? Ja, deutlich. Bei Retrieval-Augmented Generation sucht das System vor der Antwort passende Dokumente und gibt sie dem Modell mit. Die Antwort kann dann auf konkrete Stellen verweisen. Fehler bleiben möglich, etwa wenn die falschen Dokumente gefunden werden, sind aber leichter zu erkennen. ### Wer haftet für Fehler aus KI-Antworten? In der Regel derjenige, der das Ergebnis verwendet oder veröffentlicht, nicht das Werkzeug. Wer KI-Texte an Kundschaft schickt oder veröffentlicht, sollte sie daher prüfen wie jeden anderen Text. Für Chatbots gilt zusätzlich die Hinweispflicht nach Art. 50 der KI-Verordnung. Orientierung, keine Rechtsberatung. ## Quellen 1. [Kalai, Nachum, Vempala, Zhang: Why Language Models Hallucinate](https://arxiv.org/abs/2509.04664), arXiv 2509.04664, 04.09.2025, abgerufen am 14.11.2026. 2. [Ji u. a.: Survey of Hallucination in Natural Language Generation](https://arxiv.org/abs/2202.03629), arXiv 2202.03629, ACM Computing Surveys 2023, abgerufen am 14.11.2026. 3. [Lewis u. a.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks](https://arxiv.org/abs/2005.11401), arXiv 2005.11401, 2020, abgerufen am 14.11.2026. Geschrieben von [Alexander Scharff](https://mediabrandcast.com/team/alexander-scharff/) Mitgründer von Juice 9, Marketing, IT und KI Marketing-Master (KI-Studie, Note 1,0), IT-Ausbildung, KI-Manager. Baut Websites, Software und KI-Automatisierungen, die im Live-Betrieb laufen. Veröffentlicht am 14. November 2026 [Alexander Scharff auf LinkedIn](https://www.linkedin.com/in/alexander-scharff-de/) [KI sicher einsetzen](https://mediabrandcast.com/kontakt/?anliegen=beratung) 150 € pro Stunde, pauschal für alles. Für Unternehmen, zzgl. USt. - [KI-Beratung](https://mediabrandcast.com/ki-beratung/)