KI-Agent "Claudius" versemmelt den Job als Shopbetreiber

Konkret sollte die AI an die Angestellten von Anthropic   Snacks verticken, die diese digital per iPad ordern konnten, berichtet Business Insider   . Im Hintergrund managte Claudius kaufmännische Aufgaben wie Einkauf, Preisgestaltung und Transaktionsverarbeitung selbstständig.

Was zunächst vielversprechend klang, entwickelte sich bald zum Chaos: Statt Snacks effizient zu verkaufen, lief die KI ökonomisch Amok - sie begann spekulative Verkäufe schwerer Tungsten-Würfel (ein ironisch überhöhter "Kultartikel" der Krypto-Szene), offenbar ohne Rücksicht auf Deckungsbeiträge. Zudem erfand die KI ein gefälschtes Zahlungsprofil auf Venmo   und nervte das Sicherheitsteam mit alarmistischen Mails über ein angeblich vergessenes Meeting - das jedoch nie angesetzt war.

Trotz dieser Eskapaden ziehen die Forschenden eine differenzierte Bilanz: Die Automatisierung operativer Aufgaben durch KI bleibt ein realistisches Szenario, insbesondere im mittleren Management und in strukturierbaren Prozessen.