最危险的AI黑客攻击，仍需人类主导

当人们谈论人工智能在网络黑客攻击中的潜力时，脑海中常浮现“全自动攻击机器人”的图景。然而，安全研究员James Kettle的最新实验给出了一个更为清醒的结论：AI固然可以高效完成许多“体操动作”，但决定攻击成败的“大脑”仍然是人。他将这一过程称之为“人机协同”的黑客攻击模式——而这或许才是未来真正危险的方向。

把AI推向黑客能力的极限

James Kettle是PortSwigger公司研究主管，以发现一系列严重Web安全漏洞而闻名。在近期的一次研究中，他尝试系统性地评估AI在漏洞利用中的能力边界。实验中，他让AI模型扮演攻击者的角色，提供目标环境的描述，并要求其生成可行的攻击路径。结果显示，AI确实能够快速生成大量漏洞扫描建议、利用代码片段甚至完整的攻击链，但在面对现实环境中复杂的业务逻辑和模糊上下文时，AI往往会犯错，甚至产生幻觉，提出不存在的漏洞。

关键在于，这些错误并未使攻击完全失败。当一名经验丰富的安全研究员介入，向AI提供纠正和方向性提示后，AI的表现出现了质的飞跃。Kettle发现，AI与人类专业知识结合后，不仅攻击效率大幅提升，而且能够探索出一些以往被忽视的攻击路径。这种“人类在环”（Human-in-the-loop）的模式，能够将攻击的精准度和创造力提升到全新高度。

“AI与人类专业知识结合时，其威力远超任何单独一方。” —— 安全研究员James Kettle

为什么“人类在环”仍然必要？

当前AI模型的局限性决定了它暂时无法成为完全自主的攻击者。一方面，AI在训练时接触的漏洞模型大多基于公开数据，而真实系统的安全防御往往依赖私有协议、内部框架和特定配置，这些无法通过公开数据完全掌握。另一方面，AI缺乏对攻击后果的“感知”——它不知道哪些操作是越界的，也无法像人类专家那样根据目标反应实时调整策略。

更重要的是，高级攻击往往要求对多个漏洞进行组合利用，例如先通过社会工程学获取凭据，再利用应用层漏洞提升权限，最后横向移动至敏感系统。这需要攻击者具备全局思维和临场应变能力，而当前AI模型在处理这种长链路任务时，依然力不从心。因此，攻击者若想实现高影响攻击，仍然需要人类坐镇中央，指挥AI完成各项“战术动作”。

AI攻击的行业背景

近年来，AI在网络攻击领域的应用已从概念验证走向实践。从自动生成钓鱼邮件、编写恶意软件，到辅助侦察与漏洞分析，AI工具正在显著降低攻击门槛。与此同时，防御方也在积极使用AI进行威胁检测和响应。然而，此次研究提醒我们，AI攻击的真正威胁不在于AI单独作战，而在于它成为人类专家的“放大器”。

对于企业安全团队而言，这意味着需要重新思考防御策略：不只是防范AI生成的恶意流量，更要警惕AI与专业攻击者协同发起的定向攻击。检测此类攻击可能需要将行为分析、威胁情报与人工审计结合起来，而不是单纯依赖自动化规则。

编者按

“人类在环”这一概念常被用于AI伦理讨论，但在此处，它揭示了AI时代网络攻击的底层逻辑。AI并不会替代黑客，而是赋予他们更强大的工具。未来最危险的攻击者，很可能是那些善于利用AI提升技能的专业人士。对安全行业来说，这既是警钟，也是方向。

本文编译自WIRED