GrisaKI Logo
Kundenlogin
GrisaKI Logo

WissenKI-Halluzination

KI-Halluzination: Bedeutung, Beispiele und wie Sie sie im Betrieb vermeiden

Eine KI-Halluzination ist eine Antwort eines KI-Sprachmodells, die überzeugend klingt, aber sachlich falsch oder frei erfunden ist. Sie entsteht, weil ein Sprachmodell den wahrscheinlichsten Text bildet und nicht selbst prüft, ob eine Aussage stimmt. Ganz verhindern lässt sie sich nicht, aber im Betrieb deutlich seltener machen.

Sandro Griesing · Gründer GrisaKI · aktualisiert · 8 Min. Lesezeit

Das Wichtigste in 30 Sekunden

  • Was: Die KI nennt Fakten, Fristen, Preise oder Abläufe, die es nicht gibt, und klingt dabei sicher.
  • Warum: Ein Sprachmodell rechnet mit Wahrscheinlichkeiten, kennt Ihr Firmenwissen nicht von selbst und wurde eher zum Raten als zum Zugeben von Unsicherheit erzogen.
  • Gegenmittel: Wissen mit Quelle, feste Regeln, Nachfragen statt Raten, Werkzeuge statt Schätzen und Prüfläufe nach jeder Änderung.
  • Grenze: Diese Mittel senken das Risiko, sie beseitigen es nicht. Wichtige Angaben brauchen eine Kontrolle.

Kurzantwort: Was ist eine KI-Halluzination?

Von einer Halluzination (englisch: hallucination) spricht man, wenn ein KI-Sprachmodell (LLM) etwas behauptet, das weder in seinen Daten noch in der Wirklichkeit eine Grundlage hat. Das kann eine erfundene Quelle sein, ein falscher Preis oder eine Zusage, die niemand gegeben hat.

Das Tückische: Die falsche Antwort klingt genauso flüssig und sicher wie eine richtige. Forscher von OpenAI beschreiben es so, dass Sprachmodelle bei Unsicherheit raten und dabei plausible, aber falsche Aussagen erzeugen, statt die Unsicherheit zuzugeben.

Drei Beispiele aus dem Betrieb

Die folgenden Fälle stammen aus Testanrufen und automatischen Prüfläufen unserer Telefon-KI im Oktober 2026. Alle drei sind behoben. Sie zeigen, wie Halluzinationen im Alltag aussehen: selten spektakulär, meist eine kleine, freundlich gemeinte Erfindung.

1. Die erfundene Rückruf-Frist

Ein Anrufer fragte, wann er mit einem Rückruf rechnen kann. Die Assistenz antwortete „in der Regel ein bis zwei Werktage“. Diese Frist hatte das Unternehmen nie festgelegt. Das Modell wählte einfach eine Antwort, die in vielen Firmen üblich ist. Heute sagt die Assistenz: „Das kann ich Ihnen nicht genau sagen, das Team meldet sich so bald wie möglich.“ Eine Frist nennt sie nur, wenn das Unternehmen sie vorgibt.

2. Die geschätzte Entfernung und damit der falsche Preis

Ein Betrieb berechnet Lieferpreise nach Entfernungsstufen. Auf die Frage nach einem Lieferort ordnete die Assistenz den Ort der günstigeren Stufe zu. Nachgemessen lag er einige Kilometer weiter, also in einer anderen Preisstufe. Das Modell hatte geschätzt. Seitdem rechnet ein Werkzeug die Straßenentfernung aus der Adresse aus, und die Assistenz darf die Stufe nicht mehr selbst wählen.

3. Die erfundene Anweisung an einen Lieferanten

Ein Lieferant meldete sich, weil er vor dem Firmengelände stand. Die Assistenz riet: „Klingeln Sie am Tor, die Kollegen im Haus helfen Ihnen.“ Davon stand nichts im hinterlegten Wissen, und das Anliegen wurde nicht aufgenommen. Jetzt gilt eine feste Regel: keine Abläufe erfinden (wo klingeln, wo abladen, wer hilft), sondern Name, Firma, Rückrufnummer und Anliegen aufnehmen.

Ursachen: Warum KI halluziniert

  • Wahrscheinlichkeit statt Wissen: Ein Sprachmodell setzt Wort für Wort den wahrscheinlichsten nächsten Text zusammen. Es hat keine eingebaute Prüfung, ob eine Aussage wahr ist. Die OpenAI-Forscher zeigen, dass solche Fehler schon aus normalem statistischem Druck entstehen, wenn das Modell wahr und falsch nicht sicher unterscheiden kann.
  • Fehlender Kontext: Ihr Firmenwissen, Ihre Preise und Ihre Abläufe stehen nicht im Modell. Fehlt diese Information im Gespräch, füllt das Modell die Lücke mit Allgemeinwissen, etwa mit der Frist, die anderswo üblich ist.
  • Druck zu antworten: Laut derselben Studie belohnen Training und gängige Bewertungsverfahren das Raten mehr als ein ehrliches „Weiß ich nicht“. Modelle verhalten sich dadurch wie Prüflinge, die lieber irgendetwas ankreuzen als eine Lücke zu lassen.

Dazu kommt beim Telefon eine eigene Fehlerquelle: Die Spracherkennung versteht ein Wort falsch, und das Modell arbeitet mit dem falschen Wort korrekt weiter. Das ist streng genommen ein Hörfehler, wirkt für den Anrufer aber genauso.

Gegenmittel im Betrieb

Halluzinationen lassen sich nicht abschalten, aber gezielt reduzieren. Fünf Mittel haben sich bewährt, und sie decken sich mit den Empfehlungen der Modell-Anbieter:

  • Wissen mit Quelle (RAG): Die KI sucht vor der Antwort in Ihren Unterlagen und antwortet auf dieser Grundlage. Das Verfahren heißt Retrieval-Augmented Generation. Seine Erfinder zeigten, dass Antworten damit sachlich genauer werden, und die Quelle lässt sich nachprüfen. Technisch steckt dahinter meist eine Vektordatenbank mit Embeddings.
  • Feste Regeln und Leitplanken: Klare Verbote in der Systemanweisung, etwa „keine Fristen nennen“ oder „nur Informationen aus den bereitgestellten Unterlagen verwenden“. Wie man solche Regeln formuliert, erklärt der Eintrag Prompt Engineering.
  • Nachfragen statt Raten: Die KI bekommt ausdrücklich die Erlaubnis, „Das weiß ich nicht“ zu sagen oder nachzufragen. Anthropic nennt das als einfachstes Mittel gegen falsche Angaben.
  • Werkzeuge statt Schätzen: Was sich berechnen oder nachschlagen lässt, rechnet ein Programm: Entfernungen, Preise, Termine, Verfügbarkeiten. Google empfiehlt für Rechenaufgaben ebenfalls Werkzeuge statt freier Antworten.
  • Automatische Prüfläufe: Typische Gespräche werden nachgestellt und bewertet, vor dem Start, nach jeder Änderung und regelmäßig. OpenAI und Anthropic raten beide, Prompts mit festen Testfällen zu messen.

Was trotzdem passieren kann

Auch mit allen Gegenmitteln bleibt ein Rest. Anthropic schreibt dazu ausdrücklich, dass diese Techniken Halluzinationen deutlich verringern, aber nicht vollständig beseitigen. Aus unserer Arbeit kennen wir vier Gründe:

  • Streuung: Dasselbe Modell antwortet auf dieselbe Frage nicht immer gleich. Die Rückruf-Frist trat in Prüfläufen nicht jedes Mal auf. Ein einzelner grüner Test beweist deshalb wenig.
  • Neue Lücken: Jede Regel schließt einen bekannten Fall. Ein Anrufer mit einem ungewöhnlichen Anliegen kann eine Lücke finden, die noch niemand bedacht hat.
  • Veraltetes Wissen: Steht eine alte Preisliste im Wissen, antwortet die KI korrekt aus falschen Unterlagen. Das ist keine Halluzination, aber für den Kunden genauso ärgerlich.
  • Prüfungen irren mit: Auch die automatische Bewertung nutzt ein Sprachmodell. Sie hat Fehler schon übersehen, etwa den Hinweis an den Lieferanten.

Faustregel: Lassen Sie die KI dort frei formulieren, wo ein Fehler wenig kostet. Wo es um Geld, Fristen, Zusagen oder Rechte geht, gehören feste Regeln, Werkzeuge und eine menschliche Kontrolle dazu.

Was das für Ihr Unternehmen heißt

Ob Telefon-KI, Web- und WhatsApp-Chat oder KI im E-Mail-Postfach: Die Frage ist nicht, ob die KI irgendwann etwas Falsches sagt, sondern wie oft und mit welchen Folgen. Fragen Sie jeden Anbieter, auch uns:

  • Woher kommt das Wissen, und kann ich sehen, aus welcher Quelle eine Antwort stammt?
  • Welche Angaben rechnet ein Werkzeug aus, und welche formuliert das Modell selbst?
  • Was sagt die KI, wenn sie etwas nicht weiß?
  • Wird nach jeder Änderung an Wissen oder Regeln automatisch geprüft?
  • Antwortet die KI im Postfach selbst, oder legt sie Entwürfe zur Freigabe an?

Bei GrisaKI schlagen Telefon und Chat während des Gesprächs im hinterlegten Wissen und im Produktkatalog nach, Entfernungen rechnet der Server. Die Firmenwissensdatenbank liegt in Deutschland und nennt zu Antworten die Fundstelle im Dokument. Unsere Telefon-KI durchläuft nach jeder Änderung und wöchentlich einen automatischen Prüflauf.

Verwandte Begriffe

Häufige Fragen

Was ist eine KI-Halluzination?

Eine KI-Halluzination ist eine Antwort eines KI-Sprachmodells, die überzeugend klingt, aber sachlich falsch oder frei erfunden ist. Typische Beispiele sind erfundene Quellen, falsche Preise, Fristen oder Abläufe, die es im Unternehmen nicht gibt.

Warum halluziniert KI?

Ein Sprachmodell bildet den wahrscheinlichsten Text und prüft nicht selbst, ob eine Aussage stimmt. Fehlt das nötige Wissen, füllt es die Lücke mit Allgemeinwissen. Außerdem belohnen Training und Bewertung der Modelle eher das Raten als ein ehrliches Zugeben von Unsicherheit.

Wie kann man KI-Halluzinationen vermeiden oder reduzieren?

Ganz vermeiden lassen sie sich nicht, aber deutlich reduzieren: mit Wissen aus eigenen Unterlagen samt Quelle, festen Regeln in der Systemanweisung, der Erlaubnis nachzufragen oder „weiß ich nicht“ zu sagen, Werkzeugen für Berechnungen und automatischen Prüfläufen nach jeder Änderung.

Halluziniert eine KI mit Firmenwissen nicht mehr?

Doch, aber seltener. Eine KI, die vor der Antwort in Ihren Unterlagen sucht, antwortet genauer und nennt eine nachprüfbare Quelle. Sie kann die Unterlagen trotzdem falsch zusammenfassen oder eine Lücke mit Vermutungen füllen. Und ist das Wissen veraltet, ist auch die Antwort veraltet.

Wie erkenne ich eine KI-Halluzination?

Achten Sie auf genaue Zahlen, Fristen, Namen und Quellen, die Sie nicht selbst hinterlegt haben. Fragen Sie nach der Quelle und prüfen Sie sie. Stellen Sie dieselbe Frage mehrmals: Weichen die Antworten voneinander ab, ist das ein Warnzeichen.

Über den Autor

Sandro Griesing

Gründer von GrisaKI und Geschäftsführer der new face Media GmbH in Sangerhausen

Sandro Griesing hat über zehn Jahre Agenturerfahrung. Mit GrisaKI richtet er KI-Assistenten für Telefon, Chat, E-Mail und interne Abläufe in mittelständischen Unternehmen ein, vor allem in Mitteldeutschland.

Mehr über GrisaKI

Quellen

  1. Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang (OpenAI, Georgia Tech): Why Language Models Hallucinate, arXiv:2509.04664, 4. September 2025: arxiv.org, abgerufen am 16.10.2026
  2. Patrick Lewis u. a.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, arXiv:2005.11401, NeurIPS 2020: arxiv.org, abgerufen am 16.10.2026
  3. Anthropic: Reduce hallucinations (Claude-Dokumentation): platform.claude.com, abgerufen am 16.10.2026
  4. Anthropic: Prompt engineering overview (Claude-Dokumentation): platform.claude.com, abgerufen am 16.10.2026
  5. Google: Prompt design strategies (Gemini-API-Dokumentation): ai.google.dev, abgerufen am 16.10.2026
  6. OpenAI: Prompt engineering (API-Dokumentation): developers.openai.com, abgerufen am 16.10.2026

Stand der Angaben: 16.10.2026. Die Beispiele stammen aus Testanrufen und Prüfläufen der GrisaKI-Telefon-KI im Oktober 2026 und sind ohne Kundennamen wiedergegeben.