随着专家越来越担心AI对公共安全构成的威胁，Anthropic 公司表示，其已在今年阻止了多起科学家利用其技术开展相关研究的尝试，这些研究可能有助于研发生物武器。

Anthropic 公司列举了五个案例。在这些案例中，相关行为者 “绕过了管控措施”，并采取了其他手段来 “混淆”其研究目的，以规避安全防护措施。这些案例涉及来自其禁止访问其模型的国家的用户，包括俄罗斯、中国和伊朗。该公司提供的AI可能被滥用于生物领域的案例研究包括，一名来自「不受支持地区」的研究人员使用 Anthropic 的AI模型Claude，用“数周时间规划”涉及禽流感的实验。 Anthropic 表示，其安全过滤机制将这项研究限制在性能最弱的模型上。

—— 凤凰网科技、英国金融时报