KI-Halluzination - Definition & Bedeutung

Als „KI-Halluzination“ bezeichnet man eine Antwort eines KI-Systems, die überzeugend formuliert, aber sachlich falsch oder frei erfunden ist. Typische Beispiele sind Zahlen ohne Grundlage, Zitate, die nie gefallen sind, oder Quellenangaben, die es nicht gibt. Die Ursache liegt in der Funktionsweise von Sprachmodellen: Sie erzeugen die wahrscheinlichste Formulierung, prüfen aber nicht von sich aus, ob sie stimmt. Ganz ausschließen lassen sich Halluzinationen deshalb bis heute nicht, auch nicht bei Systemen mit Websuche. Im Marketing hat das zwei Folgen. Erstens gehört jeder KI-generierte Text vor der Veröffentlichung auf den Prüfstand, vor allem bei Fakten, Preisen, Produktdetails und rechtlichen Aussagen. Dieses Prinzip heißt Human in the Loop. Zweitens können KI-Systeme auch über das eigene Unternehmen Falsches sagen, etwa veraltete Leistungen, falsche Öffnungszeiten oder Angebote, die es gar nicht gibt. Das Risiko steigt, wenn die Informationen im Netz lückenhaft oder widersprüchlich sind. Wer regelmäßig prüft, wie KI über das eigene Unternehmen spricht, und für eine einheitliche Darstellung im Netz sorgt, senkt dieses Risiko.