KI-Halluzinationen bezeichnen Antworten von Chatbots und Sprachmodellen wie ChatGPT, Gemini oder Copilot, die frei erfunden, sachlich falsch oder schlicht nicht belegbar sind, obwohl das System sie mit derselben Sicherheit präsentiert wie einen geprüften Fakt. Wer diese Werkzeuge beruflich einsetzt, stösst früher oder später auf erfundene Zitate, falsche Zahlen oder Quellen, die es gar nicht gibt. Für Unternehmen in der Schweiz, die 2026 zunehmend auf generative KI setzen, ist das Phänomen längst mehr als eine Randnotiz: Es berührt die Sorgfaltspflicht, gerade dort, wo regulatorische Vorgaben Dokumentations- und Prüfpflichten vorsehen.
Grundlagen: Wie entstehen KI-Halluzinationen?
Sprachmodelle wie GPT, Gemini oder Llama – die technischen Grundlagen erklärt unser Ratgeber für KI-Einsteiger – funktionieren im Kern als Wahrscheinlichkeitsmaschinen. Sie berechnen das statistisch plausibelste nächste Wort, ohne ein echtes Verständnis von Wahrheit oder Fakten zu besitzen. Fehlt dem Modell Wissen zu einem Thema, füllt es die Lücke mit einer plausibel klingenden Konstruktion: einem erfundenen Studiennamen, einer falschen Jahreszahl oder einem Zitat, das nie gefallen ist. Begünstigt wird das durch lückenhafte Trainingsdaten, sehr spezifische Nischenfragen und Prompts, die eine eindeutige Antwort verlangen, obwohl die Datenlage keine zulässt. Der Stanford AI Index Report 2026 hält fest, dass selbst führende Modelle bei komplexen Fachfragen im Schnitt weiterhin auf Halluzinationsraten im niedrigen bis mittleren zweistelligen Prozentbereich kommen – ein Wert, der von Modell zu Modell schwankt, aber nicht auf null sinkt.
Erfundene Fakten in der Praxis: Vom Kundenservice bis zur Rechtsberatung
Praktisch wird das Problem dort, wo Unternehmen KI-Texte ungeprüft übernehmen. Im Kundenservice erfinden Chatbots gelegentlich Rückgabefristen oder Garantiebedingungen, die es so nie gab. Im Marketing tauchen plötzlich Studienzitate auf, die keiner Redaktion zugeordnet werden können. Besonders heikel wird es in der Rechts- und Finanzberatung: International sorgten in den vergangenen Jahren mehrere Gerichtsverfahren für Aufsehen, in denen Kanzleien Schriftsätze mit frei erfundenen Urteilen einreichten, die ein Chatbot generiert und niemand mehr gegengeprüft hatte. Eine Deloitte-Erhebung aus dem Jahr 2026 zeigt zudem, dass mittlerweile deutlich mehr als zwei Drittel der Schweizer Unternehmen generative KI-Werkzeuge im Tagesgeschäft einsetzen – gleichzeitig geben viele davon an, Ausgaben nur stichprobenartig zu kontrollieren. Wer verstehen will, weshalb Sprachmodelle überhaupt so überzeugend formulieren können, findet die technischen Hintergründe in unserem Beitrag Generative KI einfach erklärt.
KI-Antworten prüfen: Praxis-Tipps gegen Halluzinationen
Wer Sprachmodelle beruflich nutzt, sollte einige Grundregeln verinnerlichen:
- Zahlen, Zitate und Rechtsverweise nie ungeprüft übernehmen, sondern gegen eine Primärquelle abgleichen.
- Bei heiklen Themen zwei unabhängige Modelle gegenchecken – stimmen die Antworten nicht überein, ist Vorsicht geboten.
- Retrieval-Systeme bevorzugen, die Antworten direkt mit Quellenlinks belegen, statt aus dem Gedächtnis des Modells zu antworten.
- Interne Richtlinien festlegen, wer welche KI-Ausgabe vor Veröffentlichung gegenliest.
Gerade im Content-Marketing zählt Vertrauen mehr als Tempo: Wie die Kunst des Storytellings im digitalen Marketing zeigt, überzeugen am Ende nur Inhalte, die auch faktisch stimmen und nicht bloss gut klingen. Ein zusätzlicher Prompt wie „nenne nur Fakten, die du mit hoher Sicherheit belegen kannst, und weise sonst auf Unsicherheit hin“ reduziert die Trefferquote erfundener Details spürbar, ersetzt aber keine menschliche Kontrolle. Wer lernen will, wie sich Sprachmodelle über präzise Formulierungen steuern lassen, findet praktische Ansätze in unserem Beitrag Prompt Engineering: Wie Sie KI richtig instruieren.
FAQ
Was genau sind KI-Halluzinationen?
Der Begriff beschreibt Antworten von Sprachmodellen, die falsch, erfunden oder nicht belegbar sind, aber ebenso überzeugend klingen wie korrekte Aussagen. Das Modell „lügt“ dabei nicht bewusst, sondern füllt Wissenslücken mit statistisch plausiblen Mustern.
Welche Themen sind besonders anfällig für Halluzinationen?
Besonders betroffen sind Nischenthemen mit wenig Trainingsdaten, aktuelle Ereignisse nach dem Trainingsstichtag, exakte Zahlen und Statistiken sowie juristische oder medizinische Detailfragen, bei denen Präzision entscheidend ist.
Wie erkenne ich eine KI-Halluzination im Alltag?
Warnsignale sind übermässig präzise Angaben ohne Quelle, Zitate, die sich nirgends im Original finden, sowie Antworten, die sich bei wiederholter Nachfrage widersprechen. Im Zweifel hilft ein direkter Abgleich mit der Originalquelle.
Haften Unternehmen für falsche KI-Ausgaben?
Ja: Wer eine fehlerhafte KI-Antwort ungeprüft in Kundenkommunikation, Angebote oder Verträge übernimmt, trägt die Verantwortung dafür wie bei jedem anderen selbst verfassten Text auch. Eine interne Prüfpflicht ist deshalb empfehlenswert.
Werden Halluzinationen künftig verschwinden?
Die Rate sinkt mit jeder Modellgeneration und durch Techniken wie Retrieval-Augmented Generation, ganz verschwinden dürfte das Phänomen jedoch nicht, solange Modelle auf Wahrscheinlichkeiten statt auf geprüftem Wissen basieren.
KI-Kontrolle als feste Aufgabe, nicht als Kür
KI-Halluzinationen entstehen, weil Sprachmodelle Wahrscheinlichkeiten statt geprüftes Wissen liefern – diese technische Grundeigenschaft verschwindet auch mit besseren Modellen nicht vollständig. Für Unternehmen bedeutet das: Die Prüfung von KI-Ausgaben gehört in denselben Prozess wie das Vier-Augen-Prinzip bei jedem anderen wichtigen Dokument, nicht in eine Zusatzschlaufe, die bei Zeitdruck als Erstes wegfällt. Konkret heisst das, Prüfschritte schriftlich festzulegen, Verantwortliche für die Freigabe zu benennen und bei Kundenkommunikation, Verträgen oder Rechtsverweisen keine Ausnahme zuzulassen. Retrieval-Augmented Generation und neuere Modellgenerationen senken die Fehlerquote messbar, doch sie ersetzen keine menschliche Schlusskontrolle. Wer das verinnerlicht, nutzt generative KI produktiv, ohne von einer erfundenen Quelle im nächsten Kundenmail überrascht zu werden.