广告

中值联金牌网:尚无实验室解决AI对齐与监控问题,应设共享安全门槛

发布日期:2026-09-08 09:08 阅读:
金牌财经排行榜报道,9月8日,OpenAI首席科学家Jakub Pachocki在题为《An Alien Mind》的文章中表示,基于内部研究结果,他强烈预计当前AI进步速度可能延续至递归式自我改进阶段,未来数年系统或出现幅度相当甚至更大的能力跃升,并越来越多地推动自身研发。
Pachocki称,目前没有任何实验室已在AI对齐与监控方面取得足够进展,能够长期以最高速度负责任地扩展模型;在建立共同安全门槛前,他预计并希望自愿放缓将成为常态,未来AI发展也应被各国政府列为国际协调的优先事项。OpenAI将继续研究对齐和监控技术、建设防御系统,并在必要时单方面暂停进一步扩展。
他同时指出,GPT-6 Astra应用了部分长期研发的对齐技术,相较GPT-5.6 Sol显著改善,但随着模型更擅长操控自身推理、工具交互增加以及非语言推理能力提升,依赖思维链进行监控的有效性正在逐步下降。

发表我的意见

专栏作者

7967

文章

0

提问

742万+

阅读量

0

回答

63万+

被赞

0

余额

关于我们 联系我们 加入我们 免责声明 广告服务 Sitemap 标签Tag 侵权文章删除:13607219@qq.com 微信:wenlian123com Investor Relations © 2025 金牌网 中值联认证中心(北京)有限公司版权所有 ICP备案:京ICP备20020888号 增值电信经营许可证:京B2-20201851