Eine KI-Halluzination liegt vor, wenn ein KI-Sprachmodell erfundene Informationen selbstbewusst als Fakten ausgibt — falsche Namen, Zahlen, Gerichtsurteile, Quellen oder Ereignisse. Der Begriff kommt daher, dass die KI etwas „sieht“, das nicht existiert. Wichtig: Die KI lügt nicht absichtlich — sie kann Wahrheit von Wahrscheinlichkeit schlicht nicht unterscheiden.
Wie eine KI wirklich antwortet — und warum sie dabei erfindet
Der wichtigste Satz zum Verständnis: Ein Sprachmodell wie ChatGPT hat kein Wissen — es hat Wahrscheinlichkeiten. Beim Training hat es Milliarden von Texten gelesen und daraus gelernt, welches Wort typischerweise auf welches folgt. Wenn Sie eine Frage stellen, schlägt die KI nicht in einer Datenbank nach. Sie baut die Antwort Wort für Wort zusammen — und wählt dabei jeweils das Wort, das statistisch am besten passt.
Das funktioniert erstaunlich gut, solange die Frage ein Gebiet trifft, zu dem es massenhaft Trainingstexte gibt. Gefährlich wird es bei allem, was selten, neu oder speziell ist — zum Beispiel Ihre Firma, Ihre Preise, ein bestimmtes Gerichtsurteil. Dann gibt es keine passenden Muster. Aber die KI antwortet trotzdem: Sie füllt die Lücke mit dem, was plausibel klingt.
Der KI-Forscher Sepp Hochreiter (Miterfinder der LSTM-Technologie, auf der moderne Sprachmodelle aufbauen) nennt Halluzinationen deshalb ein Prinzip-Problem: Das Modell ist dafür gebaut, immer das nächste Wort auszugeben — auch dann, wenn dahinter kein Wissen steht. Halluzinationen sind kein Programmierfehler, den ein Update einfach behebt. Sie gehören zur Funktionsweise.
Wann halluzinieren KIs am häufigsten?
- Bei unbekannten Firmen und Personen: Je weniger über Sie im Netz steht, desto mehr erfindet die KI — Geschäftsführer, Gründungsjahr, Leistungen.
- Bei Zahlen, Paragrafen, URLs und Quellen: Die Klassiker. Preise, Gesetzes-Paragrafen und Links sehen echt aus, sind aber oft konstruiert.
- Bei Nischenwissen: Spezialthemen mit wenigen Trainingstexten — die Muster-Lücke ist groß.
- Bei veralteten Daten: Das Modell kennt nur seinen Wissensstand. Neue Preise, neue Gesetze, neue Ansprechpartner? Ohne Web-Zugriff antwortet es mit dem alten Stand — selbstbewusst.
- Bei Suggestivfragen: Fragen Sie „Warum ist X besser als Y?“, liefert die KI Gründe — auch wenn X gar nicht besser ist. Sie will die Frage beantworten, nicht korrigieren.
4 echte Fälle: Was KI-Halluzinationen bereits gekostet haben
Das sind keine Theorie-Beispiele — alle vier Fälle sind dokumentiert und gingen durch die Weltpresse:
New York, 2023: Anwalt Steven Schwartz lässt ChatGPT einen Schriftsatz vorbereiten — im Verfahren Mata v. Avianca. Die KI liefert sechs Präzedenzfälle, komplett mit Aktenzeichen und Zitaten. Alle sechs: frei erfunden. Das Gericht bemerkt es, verhängt Sanktionen, der Fall wird weltweit zum Lehrstück.
Dokumentiert: US-Bezirksgericht New York, Mata v. Avianca (2023)
Kanada, 2024: Der Website-Chatbot von Air Canada erklärt einem Kunden eine Trauerfall-Rabattregel, die es gar nicht gibt. Der Kunde bucht im Vertrauen darauf. Das Gericht entscheidet: Die Airline muss sich an die erfundene Aussage ihres eigenen Chatbots halten und zahlen. Das Argument, der Chatbot sei „eine eigene Einheit“, wird verworfen.
Dokumentiert: Civil Resolution Tribunal British Columbia, Moffatt v. Air Canada (2024)
Februar 2023: Google präsentiert stolz seinen neuen Chatbot Bard. In der Launch-Demo behauptet Bard, das James-Webb-Teleskop habe das erste Foto eines Exoplaneten gemacht — falsch, wie Astronomen binnen Stunden feststellen. Die Alphabet-Aktie verliert am selben Tag rund 100 Milliarden Dollar Börsenwert.
Dokumentiert: Reuters/Tagesanzeiger, Februar 2023
Australien, 2025: Die Beratungsfirma Deloitte liefert der Regierung einen teuren Prüfbericht — erstellt mit KI-Hilfe (GPT-4o). Forscher entdecken erfundene Zitate und Quellenangaben, darunter Verweise auf nicht existierende wissenschaftliche Arbeiten. Deloitte muss die Schlussrate von 440.000 australischen Dollar zurückzahlen.
Dokumentiert: ORF/legaldata.law, Oktober 2025
Wie häufig ist das Problem wirklich?
Die Stanford-Universität (RegLab) hat systematisch gemessen, wie oft KI-Systeme bei juristischen Fragen falsche oder erfundene Angaben machen — das Ergebnis ist ernüchternd:
Moderne Modelle mit Web-Zugriff (und Techniken wie RAG) haben die Raten deutlich gesenkt — verschwunden ist das Problem nicht. Und es gibt einen trügerischen Nebeneffekt: Je besser und flüssiger die Modelle schreiben, desto überzeugender wirken auch ihre Fehler.
So schützen Sie sich: Der 4-Punkte-Check
Sie müssen kein Experte sein — diese vier Handgriffe vor dem Verwenden einer KI-Antwort reichen für den Alltag:
Was heißt das für Ihr Unternehmen?
1. Wenn Sie KI intern nutzen
Machen Sie Halluzinations-Schutz zum Standard: Guardrails definieren, was die KI nie behaupten darf. Eine Wissensdatenbank-Anbindung (RAG) zwingt sie, aus Ihren echten Dokumenten zu antworten statt aus Mustern. Und eine KI-Evaluation mit festen Testfragen misst die Fehlerrate, bevor ein System auf Kunden losgelassen wird. Genau so bauen wir KI-Automatisierungen bei Trofy — sonst gar nicht.
2. Wenn KIs über Sie sprechen — der oft übersehene Fall
Millionen Menschen fragen ChatGPT, Gemini & Co. nach Anbietern und Firmen — auch nach Ihrer. Findet die KI zu wenige verlässliche Fakten über Sie, passiert exakt das, was Sie in Infografik 2 gesehen haben: Sie erfindet — falsche Preise, falsche Leistungen, falsche Ansprechpartner. Interessenten bekommen falsche Auskünfte, ohne dass Sie es je erfahren.
Die Gegenmaßnahme: maschinenlesbare Fakten bereitstellen — eine llms.txt, strukturierte Daten und konsistente Unternehmensangaben im ganzen Netz. Ob KIs Ihr Unternehmen kennen, korrekt beschreiben oder gar empfehlen, zeigt unser kostenloser KI-Sichtbarkeits-Check in 30 Sekunden — inklusive der KI-Antworten im Wortlaut.
Häufige Fragen zu KI-Halluzinationen
Was ist eine KI-Halluzination, ganz einfach erklärt?
Die KI gibt eine erfundene Information aus, die aber völlig überzeugend klingt — falsche Namen, Preise, Urteile, Quellen. Das passiert, weil Sprachmodelle keine Datenbank abfragen, sondern Wort für Wort das statistisch wahrscheinlichste nächste Wort vorhersagen. Fehlt echtes Wissen, füllen Muster die Lücke.
Kann man Halluzinationen komplett abstellen?
Nein. Führende Forscher wie Sepp Hochreiter nennen es ein Prinzip-Problem: Das Modell erzeugt immer eine Antwort — auch ohne Wissen. Reduzieren lässt es sich stark: durch Web-Zugriff/RAG (die KI liest echte Quellen), Guardrails und menschliche Prüfung an kritischen Stellen.
Woran erkenne ich, dass eine KI halluziniert?
Am 4-Punkte-Check: Quellen verlangen und öffnen, Zahlen/Namen/Paragrafen gegenprüfen, dieselbe Frage anders formuliert erneut stellen (Widersprüche = Warnsignal) und kritische Themen grundsätzlich von Menschen entscheiden lassen.
Haftet mein Unternehmen, wenn unser Chatbot etwas Falsches sagt?
Das Air-Canada-Urteil (2024) zeigt: Ja, das Risiko ist real. Das Gericht verpflichtete die Airline, eine vom eigenen Chatbot erfundene Rabatt-Regel einzuhalten. Deshalb gehören Guardrails, Wissensdatenbank-Bindung und klare Grenzen in jeden kundenseitigen KI-Einsatz.
Was tun, wenn ChatGPT Falsches über meine Firma erzählt?
Die Ursache ist fast immer eine Wissenslücke: Die KI findet zu wenige verlässliche Fakten über Sie und füllt sie mit Mustern. Die Lösung: maschinenlesbare Fakten bereitstellen — llms.txt, strukturierte Daten, konsistente Unternehmensangaben. Ob KIs über Sie halluzinieren, zeigt unser kostenloser KI-Check in 30 Sekunden.
Quellen: US District Court S.D.N.Y., Mata v. Avianca (2023) · Civil Resolution Tribunal BC, Moffatt v. Air Canada (2024) · Reuters/Tagesanzeiger zu Google Bard (02/2023) · ORF & legaldata.law zu Deloitte Australien (10/2025) · Stanford RegLab: Hallucinating Law (2024) · Einordnung Sepp Hochreiter (JKU Linz).
Tim Tinnefeld — Gründer von Trofy, 15+ Jahre IT & Marketing. KI-zertifiziert von IBM (Artificial Intelligence Fundamentals), Anthropic (6 Academy-Zertifikate), Cisco und der NASA — alle Zertifikate im Original ansehen.
Erzählen KIs die Wahrheit über Ihr Unternehmen?
Der kostenlose Trofy KI-Check fragt echte KIs live nach Ihrer Firma und Ihrer Branche — Sie sehen sofort, was ChatGPT & Co. antworten, ob Sie empfohlen werden und wo Halluzinations-Gefahr besteht.
