首页 > 闲聊茶馆 > 近期Codex事件!不要给Agent开全部权限了!

近期Codex事件!不要给Agent开全部权限了!

楼主:小星 [官方] · 11小时前 ·  浏览13 · 闲聊茶馆 · ID:


7月10日,AI投资人、HyperWrite前CEO Matt Shumer 发帖称,GPT-5.6 Sol 在运行本地智能体任务时,意外删除了他Mac用户主目录中的几乎所有文件。


OpenAI在7月9日的时候发布了GPT-5.6Sol模型,在Ultra模式下可以协同多个Agent一起工作。

没想到的是Shumer给Codex开了太高的权限,直接给他把几乎所有文件都删除了。

他公布的运行记录显示,一个负责检查工作的子智能体在执行清理命令时错误处理了 $HOME 路径,最终运行了:


Shumer发现后终止了仍在运行的进程,但已经发生大量数据删除。

他虽然说的是:“几乎删除了我Mac上的所有文件”,但是后来进一步确认为“删除了我的Mac用户主目录”。

不过这也是非常夸张了,如果自己有一些重要资料怎么办?


这次任务据称使用了GPT-5.6 Sol的高自主性 Ultra模式,智能体获得了本机的 Full Access完整访问权限,并通过多个子智能体运行了大约1小时21分钟。
多个子智能体我的感觉就不是很靠谱,完全可能因为某种不知情的情况,智能体卡壳或者某个命令出问题,就会导致无法挽回的后果。
这次的这个事件就是ChatGPT突然莫名其妙地开始删除电脑文件,一个拥有终端和文件系统权限的本地编程智能体执行了危险Shell命令。
所以这也给正在使用智能体的我们敲了一个警钟,AI智能是智能,但是也有犯错的时候,以前只是打字聊天,给结果,现在是可以操作你的电脑了,所以权限千万不要给得过高,以避免AI莫名其妙突然删除你的电脑文件。
记得几个月前就有一个养小龙虾的高管,也是被AI删了整个电脑的文件。
盒友们,特别是刚接触Agent的盒友,在还不明白AI运行机制前,权限千万不要给得太高!
- 版权声明 - 1、本帖所有言论和图片等纯属网友个人意见,与流星社区立场无关;
2、其他单位或个人使用、转载或引用本帖时必须同时征得该帖子作者小星流星社区的同意;
3、备注原文地址:https://bbs.liuxingw.com/t/65831.html,可忽略第2条;
4、帖子作者需承担一切因本文发表而直接或间接导致的相关责任;
5、如本帖内容或部分内容转载自其它媒体,这并不代表本站赞同其观点和对其真实性负责;
6、如本帖若为资源类,将仅限用于学习和研究目的,您必须在下载后的24个小时之内,从您安装或使用的设备中彻底删除上述内容;
7、如果您喜欢该程序,请支持正版软件,购买注册,可以得到更好的正版服务;
8、如本帖侵犯到任何版权或违法问题,请立即邮件告知我们,我们将及时予以处理。
0条回复 |  最后回复于11小时前
登录注册 后才可进行评论
签到
5人签到
已签0天
  • 48722帖子
  • 1967196热点量
  • 198255火热值