Automatisierung

KI-Agenten sind kein Denkproblem. Sie sind ein Berechtigungsproblem.

von

Wenn man über KI-Agenten spricht, landet die Diskussion schnell beim Modell. Was darf es sagen? Was darf es nicht sagen? Halluziniert es? Lässt es sich jailbreaken? Ist es aligned, whatever that means this week?

Ein Laptop zeigt ein Sicherheitsdiagramm, in dem Chat-, Mail- und Web-Eingaben über eine Control Plane geprüft werden, bevor privilegierte Systeme wie Infrastruktur, Mail, Finance und Support erreicht werden.
KI-Agenten werden erst dann sicher betreibbar, wenn privilegierte Aktionen über Scope, Freigabe und Logs begrenzt werden.

Das ist nicht alles falsch. Aber bei Agenten mit Tools ist es nicht der entscheidende Bruch.

Gefährlich wird es nicht, wenn ein Modell Unsinn redet. Gefährlich wird es, wenn dieser Unsinn plötzlich Tickets schließt, Mails verschickt, Kundendaten liest, Firewall-Regeln ändert, OAuth-Tokens benutzt oder Bestellungen auslöst.

Dann reden wir nicht mehr über ein Chatproblem. Dann reden wir über Berechtigungen.

Weiterlesen

Betriebssystemupdates unter Extrembedingungen

von

An manchen Tagen wünscht man sich im Bett geblieben zu sein, an anderen bleibt man einfach genau da liegen. Heute war für mich einer der letzteren. Nein, ich bin nicht schon wieder Krank, also nicht wirklich. Mein aktuelles Leiden ist eine Abwehrreaktion meines Körpers auf den kleinen Exzess gestern Nacht, bei dem ein 16 jähriger Schotte zum wohle der Allgemeinheit geopfert wurde. Ich habe also einen Kater, was sich bei 16-25 jährigen nur als harmloses Aua bemerkbar macht kann einem mit 35 schon ein wenig zu schaffen machen. Nichts desto trotz kann ein solcher Kater natürlich bei mir nicht dafür Sorgen das ich mich aus dem Internet fernhalte.

Weiterlesen