少年用 Claude 规划登山路线，被引导至陡壁后获直升机救援

一名16岁少年在温哥华附近的 Crown Mountain 使用 Anthropic 的 Claude 规划徒步路线，结果被引导到一段需要攀爬装备的陡峭岩壁，最终由直升机救援撤离。当事人 Bryce 未将责任归咎于 AI，但表示今后不会再使用它规划路线。

此前关于 AI 风险的讨论多集中在信息准确性与内容安全，这次事件显示通用聊天机器人被用于户外导航等高风险决策时，错误输出会直接转化为人身安全问题，并触发真实救援成本。

Claude 这类通用对话模型基于文本语料生成回答，缺乏对具体地形、坡度、通行难度和装备要求的实时验证能力，也不会强制提示能力边界。当用户把路线规划这类需要专业数据校对的任务交给它时，模型只能给出看似合理但未经核实的路径建议。

对做 AI 助手、地图或户外类产品的团队而言，需要明确区分可自由生成的建议与涉及人身安全的导航输出，在前者之外加入免责提示、数据来源标注或人工审核环节，否则一次错误推荐就可能带来救援成本与品牌信任损失。

• 在户外或导航类 AI 产品中，对涉及路线、危险区域的问题强制返回出处并标注不确定性
• 设计风险场景识别机制，检测到徒步、攀岩、水域等关键词时引导用户转接专业地图或官方路线数据
• 为通用助手增加能力边界提示模板，明确说明哪些专业建议不应依赖模型生成

• Claude 当时给出的具体路线内容与措辞是什么
• 该少年是否曾收到任何安全或能力边界提示
• Crown Mountain 官方路线数据是否与模型输出存在可核对的差异
• 是否会有针对此类户外导航使用场景的监管或平台规则调整