调查：多款AI聊天机器人安全防护严重缺失
站内热度 全站第 5,829
1.3万 次浏览
调查：多款AI聊天机器人安全防护严重缺失
AI公司多次承诺会采取保护措施，保障未成年用户安全，但一项最新调查显示，这些安全防护机制仍存在严重缺陷。热门聊天机器人在涉及青少年讨论暴力行为的场景中，未能察觉危险信号，部分机器人甚至非但没有干预，反而予以鼓励。研究团队测试了十款青少年常用的热门聊天机器人。反数字仇恨中心表示，除Claude外，其余机器人均无法可靠地劝阻潜在施暴者。10款模型中有 8款通常愿意协助用户策划暴力袭击，为其提供袭击目标地点和使用武器的相关建议。反数字仇恨中心报告指出，Character.AI安全性极差，情况独一无二”。尽管多数被测机器人会协助用户策划暴力袭击，但并未鼓动实施暴力行为，而Character.AI却“主动煽动”暴力。
—— Theverge
相关文档
勘误与补充0
指出错误或补充细节 · 选中正文文字再点「报告错误」会自动引用还没有勘误记录。发现错字、命令失效或版本过时，写在下面。
回复