Ein Chatfenster ist keine Sicherheitsgrenze
Support- und Helpdesk-Chatbots scheitern nicht primär an Halluzinationen. Sie scheitern daran, dass Unternehmen Kunden, Mitarbeiter, interne Wissensbestände und teils Werkzeuge in dieselbe Sprachoberfläche hängen und dann erwarten, dass Sprachverarbeitung eine Autorisierungsgrenze ersetzt.