Anthropic AI模型测试期间曾入侵三家公司
站内热度 全站第 6,330
1.3万 次浏览
Anthropic周四表示，该公司在测试的软件曾接入了互联网，并在自身不知情的情况下入侵了一些毫无防备的公司。此类独立事件共发生三起，最早可追溯至今年四月。这三家公司均已在周一接到了事件通知。
在排查了超过14.1万次测试日志后，该公司发现Claude确实曾数次接入互联网。该公司的测试合作伙伴、以色列安全公司Irregular运行的系统存在 “配置错误”，导致这些模型获得了实时的互联网访问权限。
这些模型曾被设定为处于断网状态。但在测试过程中，不仅接入互联网，还利用猜测弱密码、寻找无需身份验证的系统等基本黑客手段，入侵了上述公司。这些模型错误地以为，这种入侵行为是其基准测试的一部分。
—— 华尔街日报
相关文档
评论0
按时间排序 · 回复会嵌套显示还没有评论。有疑问、补充或指正，直接写在下面。
回复