---
title: "KI-Halluzinationen: Warum KI Fakten erfindet und wie du dich schützt"
description: "KI-Halluzinationen erklärt: warum Sprachmodelle Fakten erfinden, was Studien über Vertrauen, Suche und Selbstsicherheit zeigen und wie du Antworten prüfst."
author: "Felix Schmitz"
author_url: https://felixshmtz.de/ueber-mich/
published: 2026-10-14
category: "KI & Automation"
canonical: https://felixshmtz.de/artikel/ki-halluzinationen/
language: de
---

# KI-Halluzinationen: Warum KI Fakten erfindet und wie du dich schützt

Von Felix Schmitz, Digital Growth Hacker aus Köln: Gründer und Geschäftsführer der quik UG, Gründer von ai-website.com, baut den KI-Workspace quik OS.

## Kurz gesagt

- KI-Halluzinationen sind Aussagen eines Sprachmodells, die überzeugend klingen, aber falsch oder nicht belegbar sind.
- In zwei Experimenten mit 1.004 und 241 Teilnehmenden senkten erfundene Angaben in KI-Reiseplänen die wahrgenommene Genauigkeit und darüber das Vertrauen.
- Eine Studie zu regionalem Wissen fand mit Websuche die höchste Genauigkeit, während zusätzliches Nachdenken des Modells die Genauigkeit von 93 % auf 84 % senkte.
- Selbstsicherheit ist kein verlässliches Warnsignal, denn auch gut kalibrierte Modelle liefern bei selten belegten Fakten selbstsichere Fehler.
- Für kleine Teams hilft eine einfache Regel: Je größer die Folgen eines Fehlers, desto fester gehört ein Mensch mit Quelle in den Ablauf.

KI-Halluzinationen sind Aussagen eines Sprachmodells, die flüssig und überzeugend klingen, aber falsch oder nicht belegbar sind: erfundene Quellen, Zahlen, Zitate oder Funktionen. Sie entstehen, weil ein Modell wahrscheinliche Formulierungen berechnet und keine geprüften Fakten nachschlägt. Ganz verhindern lassen sie sich nach heutigem Stand nicht, du kannst ihr Risiko aber mit eigenen Quellen, Suche und festen Prüfregeln deutlich senken.

Mich beschäftigt das Thema, weil ich jeden Tag mit KI arbeite und meine Datenherkunft ernst nehme. In der Business Intelligence bei Snipes habe ich gelernt, dass eine Zahl ohne nachvollziehbare Quelle wertlos ist, egal wie sauber sie im Bericht aussieht. Bei Sprachmodellen ist das Problem schärfer. Die Antwort sieht immer sauber aus.

Für diesen Artikel habe ich vier Studien ausgewählt. Eine stammt aus einer begutachteten Fachzeitschrift, drei sind Konferenzbeiträge aus der Informatik. Sie beantworten drei Fragen, die für dich praktisch sind: Was Halluzinationen mit dem Vertrauen deiner Kunden machen, ob Websuche hilft und warum du dich auf die Selbstsicherheit eines Modells nicht verlassen kannst.

## Was KI-Halluzinationen sind und warum sie entstehen

Ein Sprachmodell hat keine Faktendatenbank im Hintergrund. Es hat aus riesigen Textmengen gelernt, welche Wörter in welchem Zusammenhang wahrscheinlich aufeinander folgen. Fragst du nach etwas, das in diesen Texten oft und eindeutig vorkam, ist die wahrscheinliche Antwort meist auch die richtige. Fragst du nach etwas Seltenem, rät das Modell eine plausible Antwort zusammen.

Typische Formen, die mir im Alltag begegnen:

- **Erfundene Quellen:** Studien, Bücher oder Links, die es nicht gibt, oft mit echt klingenden Autorennamen.
- **Falsche Zahlen:** Marktgrößen, Prozentwerte oder Jahreszahlen, die stimmig wirken und nirgends belegt sind.
- **Erfundene Funktionen:** Eine Software kann laut KI etwas, das sie nicht kann. Beim Programmieren sind das Befehle, die nicht existieren.
- **Verdrehte Details:** Die Person stimmt, das Zitat nicht. Das Gesetz stimmt, der Paragraf nicht.

Die Studie, auf die ich gleich näher eingehe, sagt es ziemlich direkt: Halluzinationen aus generativer KI zu beseitigen, ist derzeit unmöglich. Für mich folgt daraus eine klare Arbeitshaltung. Ich plane sie ein, so wie ich Tippfehler in einem ersten Entwurf einplane.

Für das Erfinden gibt es noch einen zweiten Grund. Sprachmodelle sind darauf ausgelegt, hilfreich zu antworten. Eine Lücke im Wissen führt deshalb selten zu einem ehrlichen „Das weiß ich nicht“. Häufiger kommt eine Antwort, die so aussieht, wie eine richtige Antwort aussehen würde. Je spezieller deine Frage ist, etwa zu einer lokalen Förderung, einem kleinen Softwareanbieter oder einer bestimmten Gerichtsentscheidung, desto größer wird dieser Spielraum fürs Raten.

## Was Halluzinationen mit dem Vertrauen machen

Rejón-Guardia, Molinillo und Anaya-Sánchez (2026) haben im Journal of Consumer Behaviour zwei Experimente mit Reiseplänen veröffentlicht, die ChatGPT erstellt hat. Im ersten Experiment mit 1.004 Teilnehmenden enthielten manche Pläne Halluzinationen, andere nicht. Das Ergebnis lässt sich als Kette lesen. Halluzinationen senkten die wahrgenommene Genauigkeit. Wer einen Plan für genauer hielt, fand ihn nützlicher, nützlichere Pläne galten als vertrauenswürdiger, und das Vertrauen sagte stark voraus, ob jemand dem Plan folgen wollte.

Ein Detail finde ich wichtig. Einen direkten Effekt der Halluzinationen auf die Absicht, dem Plan zu folgen, fanden die Autoren nicht. Der Schaden lief über diese Kette. Fehler wirken also leise, über den Eindruck von Genauigkeit und Vertrauen.

Im zweiten Experiment mit 241 Teilnehmenden ging es um die Folgen. Positive Ausgänge führten zu einer höheren Bereitschaft, der Empfehlung zu folgen, als negative. Wenn eine Halluzination sichtbar zu einer negativen Folge führte, sank die Bereitschaft noch weiter.

Die Studie kommt aus dem Tourismus. Ich halte sie trotzdem für gut übertragbar, sobald du KI in Kontakt mit Kunden bringst, etwa in einem Chatbot auf deiner Website. Ein erfundenes Detail kostet dich zweimal: einmal durch den Fehler selbst und noch einmal durch das, was der Kunde danach über die Genauigkeit all deiner anderen Angaben denkt. Wann ein Chatbot im Kundenservice trotzdem hilft, beschreibe ich im Artikel über [Chatbots im Kundenservice](https://felixshmtz.de/artikel/chatbots-im-kundenservice/). Wie Kunden KI insgesamt annehmen, steht im Artikel über [KI-Akzeptanz](https://felixshmtz.de/artikel/ki-akzeptanz/).

## Hilft Websuche gegen KI-Halluzinationen

Die naheliegende Gegenmaßnahme ist, dem Modell echte Quellen zu geben. Gimazov und Gilmullin (2026) haben das auf der Konferenz UBMK an einem schwierigen Fall getestet: Fakten über die Republik Tatarstan, auf Tatarisch. Das ist genau die Art von Wissen, zu der es wenig Trainingsdaten gibt. Sie ließen das Modell DeepSeek in fünf Betriebsarten jeweils 100 Fakten erzeugen und haben alle 500 Aussagen von Hand auf Richtigkeit geprüft.

Der Suchmodus erreichte die höchste Genauigkeit. Überraschend fand ich den zweiten Befund. Kam zur Suche noch der Denkmodus dazu, sank die Genauigkeit von 93 % auf 84 %. Der Denkmodus allein war nicht besser als die Grundeinstellung.

![Balkendiagramm zu KI-Halluzinationen: Mit Websuche erreichte ein Sprachmodell 93 % richtige Fakten, mit Websuche plus Denkmodus nur 84 %, laut einer Studie zu regionalem Wissen](https://felixshmtz.de/grafiken/ki-halluzinationen/ki-halluzinationen-suche-und-denkmodus.webp)

*Genauigkeit mit Suche und mit Suche plus Denkmodus: Mehr Technik heißt nicht automatisch mehr Richtigkeit, die Kombination aus Suche und Nachdenken schnitt schlechter ab als die Suche allein.*

Die Autoren sprechen von einem falschen Gefühl von Stimmigkeit. Das Modell argumentiert schlüssiger und liegt trotzdem öfter daneben. Am fehleranfälligsten waren Geografie und Wirtschaft, also genau die Bereiche mit Zahlen, Orten und Namen.

Die Studie prüft ein Modell, eine Sprache und eine Region. Für deutsche Alltagsfragen wird die Fehlerquote anders aussehen. Ich nehme zwei Dinge mit. Erstens: Quellen helfen, und du solltest sie nutzen, wenn es um Fakten geht. Wie das technisch funktioniert, wenn du einem Modell dein eigenes Wissen gibst, steht im Artikel über [Retrieval Augmented Generation](https://felixshmtz.de/artikel/retrieval-augmented-generation/). Zweitens: Eine lange, gut begründete Antwort ist kein Beleg für eine richtige Antwort.

## Warum Selbstsicherheit kein Warnsignal ist

Viele Menschen verlassen sich auf ein Bauchgefühl: Wenn die KI unsicher klingt, prüfe ich nach. Jiang, Pan, Yu und Lin (2026) gehen in ihrem Konferenzbeitrag auf der ICHCI genau dieser Annahme nach. Bestehende Erkennungsverfahren gehen oft davon aus, dass geringe Selbstsicherheit auf ein hohes Halluzinationsrisiko hinweist. Die Autoren verweisen auf theoretische Ergebnisse, nach denen selbst gut kalibrierte Sprachmodelle bei selten belegten Fakten selbstsichere Fehler machen müssen.

Ihr eigenes Verfahren misst deshalb etwas anderes: wie stabil die Selbstsicherheit bleibt, wenn man die Frage leicht verändert. Die technischen Details sind für deinen Alltag nebensächlich. Der Grundgedanke lässt sich aber übertragen. Stell dieselbe Faktenfrage zweimal in leicht anderer Formulierung, am besten in einem neuen Chat. Bekommst du unterschiedliche Antworten, war mindestens eine geraten. Bekommst du zweimal dieselbe, ist das noch kein Beweis, aber ein besseres Zeichen als jeder selbstsichere Tonfall.

Eine zweite einfache Probe: Bitte die KI, zu ihrer Aussage die genaue Quelle mit Titel und Fundstelle zu nennen, und öffne diese Quelle dann selbst. Erfundene Quellen fallen so in Sekunden auf. Wichtig ist der zweite Teil. Eine genannte Quelle, die du nicht geöffnet hast, ist nur eine weitere Behauptung.

Für mich ist das die wichtigste Erkenntnis des Artikels. Der Ton einer Antwort sagt nichts über ihre Richtigkeit. Die KI klingt bei einem erfundenen Paragrafen genauso ruhig wie beim Einmaleins. Wie leicht wir uns trotzdem auf die Maschine verlassen, beschreibe ich im Artikel über [Automation Bias](https://felixshmtz.de/artikel/automation-bias/).

> Die KI klingt bei einem erfundenen Fakt genauso sicher wie bei einem echten. Wie gründlich du prüfst, entscheiden deshalb die Folgen eines Fehlers.

## Wo du prüfen musst und wo nicht

Nicht jede KI-Antwort braucht dieselbe Prüfung. Eine Ideensammlung für LinkedIn-Posts darf Unsinn enthalten, du sortierst ihn ohnehin aus. Ein Preis in einem Angebot darf das nicht. Ich ordne Aufgaben deshalb nach zwei Fragen: Wie schlimm wäre ein Fehler, und wie leicht lässt er sich prüfen.

![Grafik als Matrix zu KI-Halluzinationen nach Folgen eines Fehlers und Aufwand der Prüfung: freigeben, Stichproben, immer prüfen sowie selbst machen oder Quelle zwingend](https://felixshmtz.de/grafiken/ki-halluzinationen/ki-halluzinationen-pruefmatrix.webp)

*Wie gründlich du KI-Antworten prüfen solltest: Je größer die Folgen eines Fehlers, desto fester gehört ein Mensch mit Quelle in den Ablauf, egal wie sicher die KI klingt.*

Das Feld unten rechts ist für mich das gefährlichste, weil es so harmlos aussieht. Ein Preis, ein Datum, ein Name in einer Kundenmail. Die Prüfung dauert zehn Sekunden, und genau deshalb wird sie übersprungen.

Ein Beispiel, wie das im Alltag aussieht. Angenommen, eine Physiotherapeutin lässt sich von der KI einen Ratgeberartikel für ihre Website schreiben. Die Übungen und die allgemeinen Erklärungen landen links unten: Sie kennt das Fach und sieht beim Lesen sofort, ob etwas nicht stimmt. Eine Studie, die die KI als Beleg anführt, landet dagegen oben rechts. Sie muss die Quelle selbst finden und lesen, oder den Satz streichen. Der Satz „Die Kasse übernimmt die Kosten“ gehört unten rechts. Er ist mit einem Anruf geprüft und richtet ohne Prüfung echten Schaden an.

Bei meinen eigenen Artikeln gehe ich ähnlich vor. Jede Studie, die ich hier nenne, stammt aus einer Recherche in einer Fachdatenbank, und jede Zahl steht so im Abstract der Studie. Was dort nicht steht, nenne ich nicht, auch wenn eine KI mir eine passende Zahl anbieten würde.

## Menschen im Ablauf: was eine Fallstudie aus dem Kundenservice zeigt

Die vierte Studie ist eine qualitative Fallstudie. Widiatmika und Kollegen (2026) haben auf der Konferenz ICVEE einen Anbieter von Visa-Dienstleistungen untersucht, der generative KI im Kundenservice einsetzt. Die Daten stammen aus Beobachtungen, Interviews und Dokumenten. Das Ergebnis: Die Kombination aus KI und menschlichem Eingreifen verbesserte Effizienz, Einheitlichkeit der Antworten und Kundenzufriedenheit. Der Mensch im Ablauf spielte laut den Autoren eine zentrale Rolle dabei, Fehlinformationen gering zu halten und einfühlsam auf den Einzelfall einzugehen.

Zahlen nennt das Abstract nicht, und es ist ein einzelnes Unternehmen. Ich führe die Studie trotzdem an, weil der Aufbau für kleine Teams so gut passt. Die KI schreibt den Entwurf, ein Mensch gibt frei. Gerade bei Visa-Fragen, wo eine falsche Auskunft echte Folgen hat, ist das die Logik aus dem rechten unteren Feld der Matrix.

Aus den vier Studien und meiner eigenen Arbeit ergibt sich eine Prüfroutine, die ich für Fakten nutze:

1. **Quelle mitgeben oder Suche einschalten.** Wenn es um Fakten geht, arbeitet die KI mit Material, das ich kenne.
2. **Belege verlangen.** Zu jeder Zahl und jedem Zitat soll die Antwort sagen, woher sie stammt.
3. **Zweimal fragen.** Wichtige Fakten stelle ich in anderer Formulierung erneut. Weichen die Antworten ab, prüfe ich selbst.
4. **Nach Folgen prüfen.** Was in Angebote, Verträge oder Kundenmails geht, prüfe ich immer, unabhängig davon, wie sicher die Antwort klingt.
5. **Freigabe durch einen Menschen.** Was an Kunden geht, liest vorher jemand, der die Fakten kennt.

Wenn du KI-Agenten selbstständig arbeiten lässt, gehören diese Regeln fest ins System. Wie das aussehen kann, beschreibe ich im Artikel über [KI-Agenten](https://felixshmtz.de/artikel/ki-agenten/). Wie du schon im Prompt eine prüfbare Antwort anforderst, steht im Artikel über [Prompt Engineering](https://felixshmtz.de/artikel/prompt-engineering/).

## Fazit

KI-Halluzinationen gehören zur Technik, wie sie heute funktioniert. Die Studien zeigen, dass sie über die wahrgenommene Genauigkeit das Vertrauen senken, dass Quellen deutlich helfen, zusätzliches Nachdenken aber nicht automatisch, und dass Selbstsicherheit kein Warnsignal ist. Was hilft, ist eine Prüfroutine, die sich nach den Folgen eines Fehlers richtet.

Mein Vorschlag für heute: Schreib die fünf Aufgaben auf, für die du KI am häufigsten nutzt, und ordne jede in die Matrix ein. Für alles im Feld „Immer prüfen“ legst du ab sofort eine feste Prüfung fest. Was ich selbst über verlässliche KI-Abläufe lerne, teile ich regelmäßig in den [Unternehmer Thoughts](https://felixshmtz.de/unternehmer-thoughts/).

## Häufige Fragen

### Was sind KI-Halluzinationen?

KI-Halluzinationen sind Antworten eines Sprachmodells, die flüssig und plausibel klingen, inhaltlich aber falsch oder frei erfunden sind. Typisch sind erfundene Quellen, Zahlen, Zitate, Gesetze oder Produktfunktionen. Das Modell markiert solche Stellen in der Regel nicht als unsicher.

### Warum halluziniert KI?

Sprachmodelle erzeugen Text, indem sie wahrscheinliche Fortsetzungen berechnen, sie schlagen keine Fakten in einer geprüften Datenbank nach. Bei Themen, zu denen es wenig Trainingsdaten gibt, liegt die wahrscheinliche Antwort oft daneben. Laut einer Studie von Jiang und Kollegen (2026) treten dabei auch Fehler auf, die mit hoher Selbstsicherheit vorgetragen werden.

### Wie kann man KI-Halluzinationen vermeiden?

Ganz vermeiden lassen sie sich nach heutigem Stand nicht. Du senkst das Risiko, wenn du der KI eigene Quellen mitgibst, eine Websuche nutzt, nach Belegen fragst und Fakten mit großen Folgen selbst gegenprüfst. Bei Kundenkommunikation hilft eine Freigabe durch einen Menschen.

### Hilft eine Websuche gegen Halluzinationen?

Sie hilft oft deutlich. In einer Studie zu Fakten über Tatarstan erreichte der Suchmodus eines Sprachmodells die höchste Genauigkeit. Die Kombination aus Suche und zusätzlichem Denkmodus war dort aber schlechter als die Suche allein, mehr Technik bedeutet also nicht automatisch mehr Richtigkeit.

## Quellen

- [Rejón-Guardia, Molinillo, Anaya-Sánchez (2026): AI Hallucinations in Tourism: How Errors Impact Consumer Trust and Recommendation Acceptance. Journal of Consumer Behaviour](https://doi.org/10.1002/cb.70105)
- [Gimazov, Gilmullin (2026): Factuality versus Hallucination: A Comparative Study of Retrieval and Reasoning Modes in LLMs on Tatar Cultural Knowledge. International Conference on Computer Science and Engineering (UBMK)](https://doi.org/10.1109/UBMK71847.2026.11745112)
- [Jiang, Pan, Yu et al. (2026): CR-score: Detecting LLM Hallucinations via Confidence Robustness. International Conference on Intelligent Computing and Human-Computer Interaction (ICHCI)](https://doi.org/10.1109/ICHCI71425.2026.11739800)
- [Widiatmika, Sugiartawan, Udayana et al. (2026): Analysis of the Role of Generative AI in Enhancing Human-In-The-Loop-Based Customer Service Communication. International Conference on Vocational Education and Electrical Engineering (ICVEE)](https://doi.org/10.1109/ICVEE71133.2026.11766570)

Quelle: https://felixshmtz.de/artikel/ki-halluzinationen/
