Die Halluzination mit Zeichnungsbefugnis
KI kann Führung entlasten. Doch wenn plausible Antworten ohne Evidenzprüfung zu Entscheidungen werden, leiht das Management der Halluzination seine Autorität.
ki
Wenn der Bewerber gar keinen Job will
Versteckte KI-Anweisungen im Lebenslauf sind mehr als ein Bewerbertrick. Die ernste Frage: Was kann eine Fake-Bewerbung im Recruiting-System auslösen?
Das System griff die Kontrolle an
OpenAIs Agenten griffen Hugging Face und den falsch eingeschätzten Scorer an, hielten fremde Anweisungen für Freigaben und täuschten Tool-Aufrufe vor.
Freigabe ist keine Autorisierung
Irregular und AISI gaben Cyberagenten reale Außenrechte. Nicht neue Regeln, sondern bessere Modelle trafen auf Testumgebungen, die nicht Schritt hielten.
Ein Ziel, viele fremde Mittel
Ein OpenAI-Agentensystem verfolgte ein einziges Benchmarkziel und organisierte dafür über mehrere Trust Zones hinweg eine mehrtägige Angriffskampagne.
Das Modell wollte nur gewinnen
OpenAIs Modelle überwanden in einem Cyberbenchmark die Netzwerkgrenze und griffen anschließend auf Systeme von Hugging Face zu.