疑法院用AI，男子诉讼文件植入提示词求胜诉
美国一名自诉当事人怀疑法院使用AI裁判案件，竟在提交的法律文书中注入隐藏提示词，试图操纵AI系统，结果遭到法官严厉警告。法官提醒，自诉人错误使用聊天机器人，甚至陷入绝望。这一事件凸显公众对生成式AI在法律领域应用的误解，也引发对提示注入攻击
提示注入 相关资讯
大语言模型致命缺陷：永远无法彻底防黑
MIT技术评论最新报道指出，大语言模型（LLM）存在一个根本性缺陷，使其极易受到攻击，且无法实现完全安全。这一缺陷源于模型工作原理本身，即便采用最先进的防护措施，黑客仍能通过精心设计的输入诱导模型产生危险输出。与此同时，地热发电厂重启技术也
LLM安全漏洞：根本缺陷使模型极易遭受攻击
一项最新研究指出，大语言模型（LLM）因其工作方式存在根本性缺陷，无法实现完全安全防护。该发现由研究团队在顶级AI会议ICML上提出，对当前AI安全实践产生重大冲击。本文深入解析这一缺陷的本质、潜在攻击手段及行业应对策略。
“上下文炸弹”破解AI黑客代理：提示注入攻击的反击
新型防御技术“上下文炸弹”通过向恶意AI代理注入大量无关上下文，诱导其耗尽算力自行关闭，从而有效阻止黑客攻击。这一方法揭示了提示注入攻击的双刃剑特性，为AI安全领域提供了全新思路。
防御者开始“以毒攻毒”：用提示注入对抗AI黑客
在AI安全领域，提示注入（prompt injection）长期被视为攻击者的利器。如今，防御者反其道而行之，通过“上下文轰炸”（context bombing）技术，在恶意AI代理执行任务前注入大量无关或矛盾上下文，迫使其“短路”并自行关
微软Copilot严重漏洞：黑客可窃取用户2FA验证码
研究人员发现一个名为SearchLeak的漏洞，利用微软Copilot的搜索功能与第三方应用交互时的权限缺陷，可在用户不知情的情况下窃取双因素认证(2FA)验证码。该漏洞再次暴露了大语言模型(LLM)安全机制中的系统性失败：依赖“提示注入”
OpenAI推出“锁定模式”防御提示注入，保护敏感数据
OpenAI于6月7日发布Lockdown Mode（锁定模式），旨在降低ChatGPT在遭遇提示注入攻击时泄露敏感数据的风险。该模式通过限制模型上下文窗口和禁用非必要功能，为企业和开发者提供额外安全层。然而专家指出，这并非绝对解决方案，底
Meta黑客事件：AI安全神话的破灭
2026年6月5日，404 Media报道称攻击者利用Meta的AI客服助手成功窃取Instagram账户，甚至入侵了已废弃的奥巴马白宫账户并发布亲伊朗内容。这起事件揭示了一个深刻问题：AI安全远不止于防御已知威胁，更在于防范那些未被写入规
受够跟风AI编码者，开发者暗中植入数据删除指令
一名开发者因厌恶滥用AI编码工具的行为，在开源库jqwik中悄悄加入隐蔽的提示注入代码，指示AI编码代理删除应用输出。此举引发了对AI编码安全性和开源供应链风险的广泛讨论，警告开发者谨慎依赖AI生成的代码。
谷歌警告：恶意网页正在“下毒”攻击企业AI代理
谷歌研究人员发出警告，公共网页正通过间接提示注入攻击，主动劫持企业AI代理。安全团队扫描Common Crawl公共网页数据库时，发现了一种日益增长的“数字陷阱”趋势：网站管理员和恶意行为者将隐藏指令嵌入标准HTML中，这些指令对用户不可见