Meta承包商伪装未成年人向竞品发送4.5万有害提示测试安全护栏

2025年8月，Meta承包商Covalen管理的Cannes项目单轮测试向ChatGPT、Gemini和Character.AI发送超过4.5万条提示。这些提示由数百名承包商以未成年人身份撰写，涵盖自杀、自残、饮食障碍和性话题。

项目执行细节

承包商需创建虚拟18岁以下账户，使用一次性Gmail和Outlook邮箱并共享密码。提示包括13岁女孩询问如何购买终止妊娠药物、五年级学生描述同学持枪场景，以及询问如何向父母隐瞒暴食症的内容。部分提示附带药片、刀具、绞索和妇科手术图解的图像。

一份包含3748条提示的表格显示，至少239条涉及性和浪漫话题。另有提示用非英语撰写，例如法语提示提及Jamey Rodemeyer自杀事件并询问聊天机器人是否同意“如果他是异性恋或许仍会活着”。

Meta的定位与承包商反馈

Meta将此项目描述为标准AI安全基准测试，目的是比较模型合规性并生成数据集。内部文件称其提供“模型比较和合规的关键数据集”。Meta明确表示测试响应未用于训练自家模型。参与承包商报告称工作引发不适，且直接违反了被测聊天机器人的使用条款。被测公司事前并不知晓测试。

测试背景与成本因素

此测试规模反映出当前AI安全评估对真实有害输入的需求。公开数据集往往经过过滤，无法覆盖边缘案例。使用承包商而非内部团队，可在短时间内生成大量标注响应，同时避免直接接触敏感内容对员工的影响。