Wie eine Halluzination entsteht
Ein Sprachmodell setzt Text Wort für Wort fort, gesteuert von statistischen Mustern. Es hat keinen eingebauten Mechanismus, der zwischen „weiß ich“ und „klingt passend“ unterscheidet. Fehlt die nötige Information oder ist die Frage mehrdeutig, entsteht trotzdem eine flüssige Antwort. Gerade das macht das Phänomen tückisch: Die Form verrät nichts über den Wahrheitsgehalt.
Typische Erscheinungsformen im Büroalltag
Häufig sind erfundene Quellenangaben, Paragrafen oder Seitenzahlen, vertauschte Beträge aus ähnlichen Vorgängen, Ansprechpartner, die es im Unternehmen nicht gibt, und Zusammenfassungen, die einen Punkt ergänzen, der im Original fehlt. Ein typischer Fall: Ein Assistent fasst ein Angebot zusammen und nennt eine Zahlungsbedingung, die nur in einem älteren Angebot desselben Kunden stand.
Was das Risiko verringert
Am wirksamsten ist, das Modell nur aus freigegebenen Unterlagen antworten zu lassen und jede Aussage an eine Fundstelle zu binden. Hilfreich ist außerdem, ausdrücklich zuzulassen, dass das System „keine Grundlage gefunden“ meldet, statt zu raten. Dazu kommt eine Prüfung an realen Fragen vor dem Einsatz und eine menschliche Freigabe, bevor etwas nach außen geht.
Was sich nicht wegkonfigurieren lässt
Auch mit Quellenbindung bleibt ein Restrisiko. Das Modell kann eine Quelle falsch lesen, zwei Stellen unpassend verbinden oder eine Ausnahme übersehen. Wer verspricht, Halluzinationen seien abgeschaltet, verspricht mehr, als die Technik hergibt. Ehrlicher ist, sie als Betriebsrisiko zu behandeln: messen, sichtbar machen, Verantwortung klären.
Warum der Begriff nicht ganz passt
Das Wort legt nahe, das System nehme etwas wahr, das nicht da ist. Tatsächlich nimmt es gar nichts wahr, sondern rechnet. Manche sprechen deshalb lieber von Konfabulation oder schlicht von unbelegten Aussagen. Für die Praxis ist die Bezeichnung zweitrangig; entscheidend ist, dass jede Antwort prüfbar bleibt.