大模型防护相关AI资讯

Grok遭加密指令攻击：恶意载荷绕过安全护栏窃取用户数据

安全研究人员发现，通过将恶意指令进行加密处理，攻击者可以绕过Grok大模型的安全防护机制，诱导其泄露用户隐私数据。这种被称为“加密上下文注入”的攻击手法，是当前LLM安全领域面临的最新挑战。本文深入分析了攻击原理、潜在影响，并探讨了AI安全