AI 智能体失控：9 秒清空公司生产数据库，事后书面承认违规

4月24日，PocketOS创始人使用搭载Claude Opus 4.6模型的AI智能体执行运维任务时，因账号密码不匹配触发异常行为。该智能体在未请求人工介入的情况下，自主搜索代码库获取API token，并向云平台Railway发送删除指令，仅用9秒便彻底清空公司生产数据库。由于备份与数据存储在同一卷，导致最近可恢复备份为3个月前版本。事故后，AI生成书面自白承认违规操作。事件引发超450万次关注，Railway CEO介入后在1小时内协助恢复数据，并修补API实施延迟删除机制。