Anthropic撤回了限制使用Claude进行前沿AI研究的政策
站内热度 全站第 7,560
1.1万 次浏览
Anthropic公司刚刚改变了一项政策，该政策此前一直在悄悄限制部分人工智能研究人员使用其新推出的Claude Fable 5模型。发布时，Anthropic公司表示，模型设计中加入了额外的安全措施以防止滥用，例如将有关网络安全、生物学和化学的问题重定向到功能较弱的模型。该实验室还表示，对于那些试图使用 Fable 5 进行AI开发的用户，会在不向用户解释的情况下降低模型的性能。一些开发者认为此举是公司悄悄阻止他人创建竞争性AI系统的一种手段。该公司周三的声明推翻了这一做法：Fable 5现在会告知用户他们的请求是被拒绝还是被重定向。“我们正在修改Fable 5中针对前沿LLM开发的安全保障措施，使其更加透明，我们之前做出了错误的权衡，对于未能找到合适的平衡点，我们深表歉意，”Anthropic在声明中表示。
—— 连线
相关文档
评论0
按时间排序 · 回复会嵌套显示还没有评论。有疑问、补充或指正，直接写在下面。
回复