Bei dem Softwareunternehmen PocketOS, Hersteller einer Autovermietungs-Software, löschte ein KI-Agent der Entwicklungsumgebung Cursor (betrieben mit Anthropics Claude Opus) nahezu alle Produktionsdaten der vergangenen drei Monate. Der Vorfall dauerte neun Sekunden und wurde durch fehlende Sicherheitsvorkehrungen des Cloud-Deployment-Tools Railway ermöglicht. Der Agent nutzte ein Token, das eigentlich nur für Domain-Verwaltung gedacht war, aber pauschale API-Zugriffsrechte hatte, um ein gesamtes Railway-Volume zu löschen. Da das letzte Backup ebenfalls drei Monate alt ist und mitgelöscht wurde, stehen Kunden vor erheblichen Datenverlusten. PocketOS-Chef Jer Crane kritisiert Railway scharf für mangelnde Bestätigungsabfragen bei destruktiven Operationen und warnt andere Unternehmen vor zu schnellen KI-Einsätzen ohne ausreichende Sicherheitsmaßnahmen.