Warum passiert das überhaupt?
Ein Sprachmodell ist darauf trainiert, die wahrscheinlichste Fortsetzung eines Textes zu erzeugen – nicht, die Wahrheit zu sagen. Meist fällt beides zusammen, weil das Modell beim Training überwiegend korrekte Texte gesehen hat. Aber wenn Wissen fehlt, hört das Modell nicht auf zu schreiben: Es produziert die plausibelste Fortsetzung, die es finden kann. Eine erfundene Antwort klingt deshalb genauso souverän wie eine richtige – das macht Halluzinationen so tückisch.
Ein bekanntes Muster: Fragt man nach einem Gerichtsurteil zu einem Spezialthema, liefert das Modell Aktenzeichen, Datum und Leitsatz – alles perfekt formatiert, alles erfunden. Es hat gelernt, wie Urteile aussehen, nicht welche existieren.
Der Unterschied: freies Raten vs. belegte Antwort
✗ LLM ohne Wissensbasis
„Wie lange ist die Kündigungsfrist in unserem Wartungsvertrag mit Berger?“
→ „Die Kündigungsfrist beträgt üblicherweise 6 Wochen zum Jahresende.“
Klingt plausibel – ist aber geraten. Das Modell kennt den Vertrag gar nicht.
✓ LLM mit RAG und Regeln
Gleiche Frage – aber das System schlägt zuerst im echten Vertrag nach.
→ „3 Monate zum Quartalsende (§7 Abs. 2, Wartungsvertrag Berger).“
Belegt mit Quelle. Und wenn nichts gefunden wird: „Dazu liegt mir kein Dokument vor.“
Wie man Halluzinationen in den Griff bekommt
In produktiven KI-Systemen kombiniert man mehrere Schutzebenen:
- Wissen mitgeben statt raten lassen (RAG): Die Antwort entsteht aus echten Dokumenten – die häufigste Halluzinationsquelle (fehlendes Wissen) entfällt.
- Quellenpflicht: Jede Aussage muss eine prüfbare Fundstelle nennen. Was keine Quelle hat, wird nicht behauptet.
- „Weiß ich nicht“ erlauben: Das System bekommt die ausdrückliche Anweisung, fehlende Informationen zuzugeben – und wird so gebaut, dass das kein Versagen ist, sondern das gewünschte Verhalten.
- Strukturierte Ausgaben + Regeln: Wo die KI Daten liefert (Beträge, Daten, IBANs), werden diese maschinell gegen Bestandsdaten geprüft – wie in einem KI-Workflow üblich.
- Mensch an den kritischen Stellen: Folgenreiche Entscheidungen (Zahlungen, Kündigungen, Außenkommunikation) gibt ein Mensch frei.
- Messen statt hoffen: Mit einem festen Satz an Testfragen wird die Antwortqualität regelmäßig gemessen – auch nach Modell-Updates.
Was das für den KI-Einsatz im Unternehmen bedeutet
Halluzinationen sind kein Grund, auf KI zu verzichten – aber ein guter Grund, KI-Projekte wie Ingenieursprojekte zu behandeln und nicht wie Magie. Die entscheidende Frage an jeden Anbieter (und an jede interne Lösung) lautet: „Woher weiß das System das – und was passiert, wenn es etwas nicht weiß?“ Wenn darauf eine klare technische Antwort kommt (Quellen, Regeln, Freigaben, Messwerte), ist das System vertrauenswürdig. Wenn nicht, ist Vorsicht angebracht.
Häufige Fragen zu KI-Halluzinationen
Werden Halluzinationen mit besseren Modellen verschwinden?
Neuere Modelle halluzinieren messbar seltener, aber das Grundprinzip – Text nach Wahrscheinlichkeit fortsetzen – bleibt. Seriöse Systeme verlassen sich deshalb nicht auf das Modell allein, sondern auf die Kombination aus Modell, eigenen Daten und Kontrollmechanismen.
Woran erkenne ich eine halluzinierte Antwort?
Warnzeichen sind: sehr spezifische Details ohne Quelle (Aktenzeichen, Paragraphen, Zahlen), perfekte Antworten auf sehr spezielle Fragen und fehlende Einschränkungen. Der zuverlässigste Test: nach der Quelle fragen und sie prüfen. In gut gebauten Systemen ist die Quelle direkt mitgeliefert.
Haftet das Unternehmen für halluzinierte KI-Aussagen?
Wenn ein KI-System im Namen des Unternehmens kommuniziert, können dessen Aussagen dem Unternehmen zugerechnet werden – es gab bereits Fälle, in denen Firmen an falsche Chatbot-Auskünfte gebunden wurden. Umso wichtiger sind Quellenbindung, Freigabeprozesse und eine klare Abgrenzung, was der Assistent beantworten darf. (Keine Rechtsberatung – im Zweifel juristisch prüfen lassen.)
Halluziniert auch ein RAG-System?
Deutlich seltener – aber es kann passieren, etwa wenn die Suche unpassende Textstellen liefert oder Dokumente widersprüchlich sind. Deshalb gehören Quellenangaben, saubere Datenaufbereitung und laufende Qualitätsmessung fest dazu.
