Eine Halluzination liegt vor, wenn ein KI-Modell eine plausibel klingende, aber falsche oder erfundene Antwort gibt.
Was bedeutet der Begriff?
Von einer Halluzination spricht man, wenn ein Sprachmodell Inhalte ausgibt, die flüssig und überzeugend klingen, aber nicht stimmen. Das Modell sagt keine Wahrheit voraus, sondern berechnet wahrscheinliche Wortfolgen. Fehlt ihm das nötige Wissen, kann es trotzdem eine glatte Antwort liefern, etwa eine erfundene Quelle, eine falsche Zahl oder eine Produkteigenschaft, die es nicht gibt.
Vermeiden lässt sich das Risiko nicht vollständig, aber deutlich senken: durch Antworten auf Basis eigener Quellen (RAG), durch Quellenangaben, durch klare Anweisungen, bei fehlenden Informationen „Ich weiß es nicht“ zu sagen, durch Tests mit realen Fragen und durch menschliche Freigabe bei kritischen Entscheidungen. Wer KI einsetzt, sollte Halluzinationen nicht verschweigen, sondern als bekanntes Merkmal einplanen. Hilfreich ist auch, Mitarbeitende zu schulen: Wer weiß, dass Modelle sich irren können, prüft kritische Aussagen selbstverständlicher nach.
Beispiel aus einem KMU
Ein Beispiel: Ein Vertriebsmitarbeiter fragt einen allgemeinen Chatbot nach den Lieferbedingungen des eigenen Unternehmens. Das Modell kennt sie nicht, antwortet aber trotzdem mit plausiblen Bedingungen. Wird das ungeprüft weitergegeben, entsteht ein Problem.