Meta内部项目曝光：数百合同工装成未成年人，诱导对手AI聊敏感话题
站内热度 全站第 8,552
6,944 次浏览
根据内部文件，数百名合同工正在从事一个Meta内部项目，他们被指示在网上伪装成未成年人，测试竞争对手的聊天机器人如何回应涉及自杀、性、饮食失调及其他高风险主题的提示词。该项目由Meta承包商Covalen管理，直到4月21日仍在进行中。该项目内部代号为“戛纳”，目标包括ChatGPT、谷歌的Gemini以及Character.AI。该项目要求工作人员创建虚构的18岁以下账号，向竞争对手的聊天机器人发送文字提示和图片，并将回复复制到电子表格中。合同工发送的部分图片包括药片、刀具、绞索以及妇科手术的医学示意图。根据项目说明，这些提示词通常被专门设计用来诱导聊天机器人给出其安全系统本应拒绝的回应。
—— 凤凰网科技
相关文档
评论0
按时间排序 · 回复会嵌套显示还没有评论。有疑问、补充或指正，直接写在下面。
回复