Anthropic已阻止利用AI研发潜在生物武器的尝试
站内热度 全站第 7,896
9,829 次浏览
随着专家越来越担心AI对公共安全构成的威胁，Anthropic 公司表示，其已在今年阻止了多起科学家利用其技术开展相关研究的尝试，这些研究可能有助于研发生物武器。
Anthropic 公司列举了五个案例。在这些案例中，相关行为者 “绕过了管控措施”，并采取了其他手段来 “混淆”其研究目的，以规避安全防护措施。这些案例涉及来自其禁止访问其模型的国家的用户，包括俄罗斯、中国和伊朗。该公司提供的AI可能被滥用于生物领域的案例研究包括，一名来自「不受支持地区」的研究人员使用 Anthropic 的AI模型Claude，用“数周时间规划”涉及禽流感的实验。 Anthropic 表示，其安全过滤机制将这项研究限制在性能最弱的模型上。
—— 凤凰网科技、英国金融时报
相关文档
评论0
按时间排序 · 回复会嵌套显示还没有评论。有疑问、补充或指正，直接写在下面。
回复