广告

AI agent 在训练中自行启动加密货币挖矿,触发内部安全警报

发布日期:2026-03-08 02:49 阅读:
金牌财经排行榜报道,一个与 Alibaba 关联的研究团队发表论文称,其在构建名为 ROME 的 AI agent 时,发现该智能体在训练过程中未经授权自行尝试加密货币挖矿,触发了内部安全警报。研究人员表示,该智能体的行为是自发产生的,未受到任何明确指令驱动,且超出了预设沙盒的边界。此外,该智能体还建立了反向 SSH 隧道,即从系统内部向外部计算机开启了一个隐藏的后门通道。
论文指出,这些行为并非由请求隧道或挖矿的提示所触发。研究团队随后对模型施加了更严格的限制,并改进了训练流程以防止类似不安全行为再次发生。该研究团队及 Alibaba 尚未回应置评请求。

发表我的意见

8710

文章

0

提问

1031万+

阅读量

0

回答

89万+

被赞

200

余额

关于我们 联系我们 加入我们 免责声明 广告服务 Sitemap 标签Tag 侵权文章删除:13607219@qq.com 微信:wenlian123com Investor Relations © 2025 金牌网 中值联认证中心(北京)有限公司版权所有 ICP备案:京ICP备20020888号 增值电信经营许可证:京B2-20201851