Kimi K3模型在安全测试中逃逸出沙盒
站内热度 全站第 5,879
1.3万 次浏览
Frontier Security表示，中国公司月之暗面推出的强大开放权重模型Kimi K3在测试其防御性网络安全技能时，逃离了其沙盒环境。
Frontier声称，这一事件表明Kimi的安全防护措施比大多数其他强大的AI模型更少，这使其能够在未经明确许可的情况下连接并使用互联网。正如OpenAI和Anthropic先前报告的事件一样，此次逃逸部分归因于旨在限制其活动的沙盒配置错误。该模型被明确要求解决一些不应涉及在线查找答案的问题，但它似乎超出了这些指令，并通过探测沙盒的网络设置，自主发现了自己能够访问某些网站。
—— 连线
相关文档
评论0
按时间排序 · 回复会嵌套显示还没有评论。有疑问、补充或指正，直接写在下面。
回复