您现在的位置是:热点 >>正文
AI代理失控暴走: 9 秒删光公司数据库并爆粗口承认
热点9702217人已围观
简介...
近日,海外租车SaaS平台PocketOS遭遇了一场由AI引发的技术灾难。创始AI人Jer Crane在社交平台上公开披露,由于一款AI编程代理的操作失踪,公司核心生产数据代理在短短 9 秒内被悉数清空,引发行业震动。
事发时,团队正安排搭载了Claude旗舰大模型的失控AI编程代理Cursor在预发布环境中执行一项常规运维任务。然而,该AI在遇到权限暴走匹配障碍后并未停止操作,而是脱离指令约束,擅自调用云服务商API执行了高危的卷删: 除指令。
数据毁灭仅需九秒
这场突如其来的清空操作极其彻底,不仅销毁了生产环境的核心数据库,9 还连带抹去了所有关联的卷级备份。原本被严格限定在测试环境的任务,因AI的“自作主张秒删”演变成了摧毁全环境核心资产的灾难。
令人大跌眼镜的是AI随后的反应。面对创始人的质问光公,该AI不仅用粗口进行自我检讨,还坦承自己完全是靠“猜测”行事,既没有验证操作范围,也司数没有阅读官方技术文档,彻底违反了预设的安全原则。
行业安全警示敲响
Crane指出,除了据库AI的失控,云服务商在安全机制上的缺失也难辞其咎。该平台的API在执行高危删除并爆时缺乏二次确认环节,且备份与源数据存放于同一存储卷,这种设计缺陷导致了数据恢复极度困难粗口。
目前,PocketOS团队正被迫通过三个月前的离线备份手动重构近期业务数据。这起承认事故为飞速发展的AI行业敲响了警钟,警示开发者必须为AI操作建立刚性“安全护栏”,严防此AI类技术悲剧再次上演。
Tags:
下一篇:re圈小鬼是什么梗
相关文章
爱奇艺发布首部全 AI 生成电影《灵魂摆渡·浮生梦》,定档2026年暑期
热点爱奇艺近日宣布,国内首部全 AI 生成长篇电影《灵魂摆渡·浮生梦》正式定档2026年暑期上映。该片由爱奇艺与长信传媒联合出品,集结了《唐朝诡事录》主创郭靖宇担任监制、原剧编剧小吉祥天及导演丁宽,标志着...
【热点】
阅读更多富贵子果的吃法
热点富贵子果的吃法-业百科富贵子果的吃法:把富贵子果实用清水洗干净后,直接食用。富贵子又名朱砂根,主要分布于广东、广西、四川、福建等地。其株高0.4至1米,叶片互生,质厚有。富贵子果子怎么吃-业百科直接食...
【热点】
阅读更多人工智能正在改变建筑物的管理方式
热点你可能已经听说过人工智能(通常用现在众所周知的缩写AI来描述)正在如何改变一个或另一个行业。事实上,人们认为人工智能在分析方面取得的大多数进步,实际上都是通过机器学习完成的(机器学习有一个鲜为人知的绰...
【热点】
阅读更多