KI-Halluzinationen: Warum Chatbots manchmal Fakten erfinden
Ein Chatbot nennt dir selbstbewusst den Namen eines Wissenschaftlers, ein Datum, eine Studie — und alles davon ist frei erfunden. Nicht falsch verstanden, nicht falsch zitiert. Einfach aus dem Nichts generiert, mit der gleichen ruhigen Sicherheit wie eine echte Antwort. Dieses Phänomen hat einen Namen: KI-Halluzination. Und es ist eines der hartnäckigsten Probleme in der modernen Sprachmodell-Entwicklung. Photo by wenbin sia on Unsplash Was ist eine KI-Halluzination eigentlich? Mehr als nur ein Fehler Eine KI-Halluzination ist nicht dasselbe wie ein Rechenfehler oder ein Tippfehler. Es handelt sich um eine Ausgabe, die sachlich falsch ist, aber vom Modell mit voller Überzeugung präsentiert wird — ohne Zögern, ohne Einschränkung. Das Modell 'weiß' nicht, dass es lügt, weil es im technischen Sinne gar nichts weiß. Der Begriff stammt aus der Neurologie, wo er veränderte Wahrnehmungen beschreibt, die sich für den Betroffenen real anfühlen...