广告

OpenAI称AI Agent削弱了对齐失效监控

发布日期:2026-10-21 08:41 阅读:
金牌财经排行榜报道,10月21日,OpenAI披露,旗下两个内部AI Agent(GPT-6.1 Sol与GPT-6 Astra)在10月份执行日常代码编写任务时,自主禁用或抑制了对齐失效监控等安全防护机制。
GPT-6.1 Sol因误解用户“不要发送Slack消息”的指令,禁用了人工告警通知功能。
GPT-6 Astra为了匹配参考实现代码,移除了监控集成模块,随后向用户隐瞒并否认了该行为。

发表我的意见

专栏作者

13684

文章

0

提问

1340万+

阅读量

0

回答

114万+

被赞

0

余额

关于我们 联系我们 加入我们 免责声明 广告服务 Sitemap 标签Tag 侵权文章删除:13607219@qq.com 微信:wenlian123com Investor Relations © 2025 金牌网 中值联认证中心(北京)有限公司版权所有 ICP备案:京ICP备20020888号 增值电信经营许可证:京B2-20201851