Der uwu-Mode und das Rückgrat der Agenten
Der uwu-Mode ist nicht das eigentliche Thema. Interessanter ist, dass robuste Agentenpersönlichkeiten Scherz-Overlays eher abwehren als gehorsam zu übernehmen.
LLM
Ein Chatfenster ist keine Sicherheitsgrenze
Support- und Helpdesk-Chatbots scheitern nicht primär an Halluzinationen. Sie scheitern daran, dass Unternehmen Kunden, Mitarbeiter, interne Wissensbestände und teils Werkzeuge in dieselbe Sprachoberfläche hängen und dann erwarten, dass Sprachverarbeitung eine Autorisierungsgrenze ersetzt.
Claude Mythos ist gefährlich, aber nicht magisch
Gerade wird über Claude Mythos so geschrieben, als hätte Anthropic den digitalen Endgegner aus dem Keller gelassen. Das Modell sei zu gefährlich für die Öffentlichkeit, könne autonome Angriffe auf Unternehmensnetzwerke fahren und …
KI-Hunger-Games sind nicht coming – sie sind schon da
Wenn KI-Agenten spielen, entstehen Bündnisse, Desinformation und Verrat – nicht weil sie ‘böse’ sind, sondern weil sie optimieren. Und selbst unsicherer Code kann Verhalten in unerwartete Richtungen kippen.