AI滥用相关AI资讯 | 赢政天下 AI

谷歌起诉中国网犯罪网络：利用Gemini自动化诈骗

谷歌近日对美国一中国背景的网络犯罪团伙提起诉讼，指控其利用谷歌AI模型Gemini自动生成欺诈网站，针对数十万受害者实施钓鱼和身份盗窃。这是科技巨头首次就AI滥用问题采取重大法律行动，凸显生成式AI被用于规模化网络犯罪的严峻趋势。

随着生成式AI的普及，黑客和研究人员开始利用AI工具大量生成低质量的漏洞报告，导致企业漏洞赏金计划面临‘永无止境’的垃圾信息洪流。这些AI生成的报告常常缺乏实质内容，却消耗了大量人力资源进行审核。据Ars Technica援引《金融时报》记

多名青少年承认使用AI工具将学校女生照片生成裸体图像，涉嫌制作儿童性虐待材料（CSAM），将于周三接受量刑。与此同时，受害女生家长计划起诉学校，指责其未能保护学生免受网络欺凌。该事件凸显AI技术滥用风险，引发对教育机构责任和AI监管的热议。

一位律师在法庭文件中过度依赖AI生成内容，制造出史上最夸张的法律文件，导致法官直接驳回案件。这起事件刷新了AI滥用在法律领域的纪录，凸显了生成式AI在专业领域的潜在风险。文章回顾事件细节，分析AI工具在法律实践中的双刃剑效应，并探讨行业监管