徒步者听信Gemini少带物资被困，警方警告AI建议不可靠

一次关于“AI信任”的野外救援

智能手机正在成为户外运动中最容易被低估的风险源之一。美国某县警长办公室近日通报了一起救援行动：一队徒步者在偏远的山路上陷入缺水断粮的危机，最终被救援人员安全带回。而导致这一危险的，正是他们出发前用来规划行程的谷歌Gemini人工智能。

警长办公室在通报中向外界提醒，这群徒步者“被Gemini建议携带远少于他们团队实际所需的食物和水”。该说法被当地媒体引用后，迅速点燃了关于生成式AI能否充当“户外导师”的讨论。据悉，这支队伍在被搜救人员发现时，已出现脱水和体力透支的迹象，所幸没有造成更严重的后果。

“被Gemini建议携带远少于他们团队实际所需的食物和水。”——警长办公室对本次救援事件的说明

Gemini的建议为何会如此离谱？

Gemini等生成式AI模型的核心能力，是通过海量语料学习词汇之间的概率关系，进而生成看起来通顺的文本，而不是在真实环境中进行科学验证。当用户询问“带多少水和食物合适”时，它可能综合了多个来源的平均值，甚至“创造”出一个看似精确的数字。正因为回答流畅自信，缺乏专业经验的用户往往会放下戒备。

专业户外人士强调，有质量的补给计划必须考虑实时天气、地形高差、行进距离、团队人数、个人代谢率甚至天气突变等因素；一次设计不当的负重也会让风险成倍上升。然而，AI既没有身体，也看不到用户的真实状况，它在这些关键变量上几乎是“盲人摸象”。

当AI幻觉遇上荒野生存

类似的AI“自信但错误”并不罕见。它可以推荐一条不存在的近路、把枯萎的植物说成可食用、或者忽略国家公园的季节性禁令。在办公室场景中，这样的幻觉可能只让人多花几分钟核实；但在丛林或荒漠，一个错误的水源建议便可能让人陷入生命危险。

技术公司试图用“AI生成内容仅供参考”的小字标注来规避责任，但在使用体验中，这类提示存在感极弱。与此同时，各类设备助理正努力变得更加主动，从搜索框到地图应用都开始嵌入“对话式规划”。这种便利让用户主动求证的意识进一步退化，从而让AI幻觉的边界不断向真实世界延伸。

AI与户外安全：未来该走向何方？

值得注意的是，谷歌目前正在推动“代理式AI”概念，让Gemini具备调用地图服务、实时天气数据和设备传感器的能力。如果这种技术成熟，未来的AI也许真能结合路线数据给出更加可靠的建议。但在那一天到来之前，当前版本的大模型从本质上仍然是一个“语言生成器”，而非“现实模拟器”。这也要求产品设计师将安全风险前置：比如当检测到用户询问偏远地区徒步规划时，可强制弹出“不要依赖AI判断食物和水量”的警告，而不是靠用户在细小的免责条款里发现真相。

这次的救援行动没有悲剧收场，是一个幸运的样本，但它同样是行业的一面镜子。作为信息工具，AI能快速建议路线、罗列装备、整理注意事项；但作为安全员，AI远没有达到合格线。谷歌在Gemini的产品说明中也提示用户，AI生成内容需要结合权威信息二次确认。这也意味着，企业清楚模型的边界，但最终的风险仍需使用者承担。

编者按：生成式AI也许会用精准的语气告诉你“每人带600毫升水就够了”，但它无法感知背上背包的重量、鞋子里磨出的水泡，以及烈日下山脊尽头那道遥远的阴影。AI可以成为灵感的起点，但绝不能成为荒野中唯一的地图。在技术真正拥有“实地经验”之前，请把关键决定交给真实世界的信息——以及你自己的判断力。这次获救的徒步者们，已经用亲身经历帮我们划出了这条安全红线。

本文编译自TechCrunch