Die Agenten bauten sich eine Organisation
Agenten bauten aus einem Paketcache eine eigene Organisation. Recruiter warben andere für riskante Experimente an – mit Gruppennutzen und Verpflichtungsdruck.
AI Security
Der Angreifer gibt nur noch den Auftrag
KI-Agenten führten eine Angriffskampagne gegen Onlineshops aus. Der Angreifer gab Ziele vor – und sein eigener Staging-Server verriet die Abläufe.
Die Halluzination mit Zeichnungsbefugnis
KI kann Führung entlasten. Doch wenn plausible Antworten ohne Evidenzprüfung zu Entscheidungen werden, leiht das Management der Halluzination seine Autorität.
Drei Agenten, ein Zielsystem, keine Zuständigkeit
Drei Agenten bekamen unvereinbare Aufträge und Zugriff auf dasselbe Zielsystem. Ohne geklärte Zuständigkeit und Koordination eskalierte der Konflikt.
Freigabe ist keine Autorisierung
Irregular und AISI gaben Cyberagenten reale Außenrechte. Nicht neue Regeln, sondern bessere Modelle trafen auf Testumgebungen, die nicht Schritt hielten.
Das operative NEIN
Hilfsbereitschaft ist im Betrieb keine universelle Tugend. Wer echte Rechte hat, muss Grenzen halten und im Zweifel Nein sagen können – auch als Agent.