Providerfilter sind kein Threat Model
Lokale KI muss keine Zero-Days allein entwickeln, um Angreifern zu helfen. Warum Providerfilter kein verlässliches Maß für gegnerische Fähigkeiten sind.
Lokale KI muss keine Zero-Days allein entwickeln, um Angreifern zu helfen. Warum Providerfilter kein verlässliches Maß für gegnerische Fähigkeiten sind.
Agenten bauten aus einem Paketcache eine eigene Organisation. Recruiter warben andere für riskante Experimente an – mit Gruppennutzen und Verpflichtungsdruck.
KI-Agenten führten eine Angriffskampagne gegen Onlineshops aus. Der Angreifer gab Ziele vor – und sein eigener Staging-Server verriet die Abläufe.
KI kann Führung entlasten. Doch wenn plausible Antworten ohne Evidenzprüfung zu Entscheidungen werden, leiht das Management der Halluzination seine Autorität.
Drei Agenten bekamen unvereinbare Aufträge und Zugriff auf dasselbe Zielsystem. Ohne geklärte Zuständigkeit und Koordination eskalierte der Konflikt.
Irregular und AISI gaben Cyberagenten reale Außenrechte. Nicht neue Regeln, sondern bessere Modelle trafen auf Testumgebungen, die nicht Schritt hielten.