Warum OpenAIs Cyber-Abuse-Warnung richtig war
Präparierte Dokumente können Agenten-Workflows kippen. Warum OpenAIs Warnung hier kein Fehler, sondern sinnvolle Vorsicht war.
Blog
Der Sommer naht
Es geht mit großen Schritten in Richtung Sommer und wir freuen uns dieses Jahr besonders darauf. Unabhängige Administration komplexer Systeme per KI-Agenten aus dem Freibad. Das wird wild.
Von der Bewerbung zum Cyberkriminellen
Nicht Superintelligenz ist das akute Problem, sondern Orchestrierung: Wenn KI untrusted Inhalte als Handlungsanweisung frisst, kann schon eine Bewerbermappe zum Steuerkanal für privilegierte Recruiting-Workflows werden.
Prozesse sind zu langsam.
Die reale Bedrohungslage entsteht nicht mehr nur durch starke Geheimmodelle, sondern durch schnelle Diff-Analyse, billige offene Modelle und Verteidiger, deren Patchprozesse zu langsam für die neue Angriffsgeschwindigkeit sind.
Claude Mythos ist gefährlich, aber nicht magisch
Gerade wird über Claude Mythos so geschrieben, als hätte Anthropic den digitalen Endgegner aus dem Keller gelassen. Das Modell sei zu gefährlich für die Öffentlichkeit, könne autonome Angriffe auf Unternehmensnetzwerke fahren und …
Ich, früher: Steffi vs. Pickle Rick (TryHackMe)
Ein kleiner Ausflug in meine eigene Vergangenheit: eine frühere Steffi, ein TryHackMe-CTF und die Erkenntnis, dass Systematik oft mehr bringt als Tool-Overkill.