谷歌起诉中国网犯罪网络：利用Gemini自动化诈骗

2026年6月13日，谷歌向美国加利福尼亚州联邦法院提起诉讼，起诉一个名为“CryptoMirage”的中国背景网络犯罪集团。该团伙被指控利用谷歌旗下的生成式AI模型Gemini自动创建数千个虚假投资、加密货币及电商网站，瞄准全球数十万用户实施诈骗。这是迄今最引人注目的AI滥用法律案件，标志着科技巨头开始对黑产利用AI工具进行反击。

案件核心：AI驱动的诈骗流水线

根据谷歌安全团队披露的细节，该犯罪网络通过编程接口（API）大规模调用Gemini模型，自动生成骗局网站内容、伪造客户评价、甚至实时聊天机器人对话。与传统诈骗相比，这些网站具有更高的真实性和交互性，能够根据受害者输入动态调整话术。例如，当受害者表示担忧“投资回报率”时，Gemini生成的回复会引用虚构的财务数据，并推荐“限量版加密代币”。谷歌在诉状中称，该团伙在六个月内创建了超过15000个恶意域名，影响范围覆盖北美、欧洲和东南亚。

“他们不再需要人手写脚本——AI让诈骗工业化。”谷歌法律总顾问在声明中强调，“我们不仅要关闭这些网站，更要为AI安全设立法律先例。”

Gemini的合规漏洞与谷歌的应对

此次事件暴露了AI平台在内容安全方面的薄弱环节。尽管谷歌对Gemini设置了安全护栏，禁止生成钓鱼、欺诈或侵权内容，但犯罪团伙通过提示词工程（prompt engineering）巧妙绕过检测。例如，他们要求模型“用温和口吻写一封关于紧急税务问题的企业通知”，实际上生成的是税收退款钓鱼页面。谷歌在2026年第一季度已关闭超过200个关联API密钥，并引入实时行为分析系统，但攻击者快速迁移至新账户。

谷歌此次起诉中特别援引了《计算机欺诈和滥用法案》及《反勒索与腐败组织法》，要求数百万美元的赔偿金。分析人士指出，这迫使科技公司重新评估其AI产品的责任边界——如果AI无差别产生有害内容，平台是否应承担“协助犯罪”的连带责任？

编者按：AI犯罪的时代已至

本案绝非孤例。2025年以来，利用生成式AI进行网络诈骗的案例激增300%，涉及Deepfake人像、语音克隆、自动社工等。犯罪集团正从“技术白痴”转变为“提示词专家”，而防御方仍在用传统规则对抗。谷歌的诉讼虽具标志性，但跨司法管辖区的执法难度很高：涉案服务器分布在东南亚和东欧，主犯身份难以确认。要真正遏制AI犯罪，可能需要全球性的AI使用行为准则、API强制审计日志以及更先进的对抗性训练数据。这场猫鼠游戏才刚刚开始。

本文编译自Ars Technica