2026 年 9 月 18 日，CNN 报道了一起令人警醒的事件：美军一次针对某中国船只的拦截行动，在最后一刻被叫停——原因是官员追查后发现，支撑该行动的情报报告"完全错误"，且是借助 AI 生成的；生成该报告的聊天机器人错误识别了船只运载的物资。几乎同时，彭博社报道五角大楼对 2 月 28 日一起致伊朗学校伤亡的导弹袭击调查中，识别出的失误包括"对 AI 技术的过度依赖"。
事件要点：两起事件指向同一类风险——把 AI 输出直接当作决策依据，而不做交叉验证。前者中，AI 生成的情报报告差点触发一次真实的军事拦截；后者中，AI 被列为一次造成平民伤亡的打击行动的失误因素之一。这类事故的危害不再停留在"说错话"层面，而是切切实实的生命与外交风险。
问题的根源：AI 系统在信息不完整时倾向于给出"看起来合理"的答案，这种"流畅的自信"极易被决策者误读为"可靠"。当 AI 被嵌入情报分析、目标识别、行动建议等高 stakes 流程时，缺乏人工复核与来源验证就会放大错误。更棘手的是，AI 输出的权威感可能让复核环节流于形式——人们倾向于相信一份"格式规整、引用齐全"的报告。
可以学到什么：其一，高 stakes 场景中，AI 只能作为"辅助"而非"决策者"，关键结论必须有人工验证与多源交叉核对。其二，输出格式的规整不等于内容的可靠，评估 AI 时要主动追问信息来源与不确定性。其三，机构引入 AI 时应建立明确的"人工确认节点"，正如 Anthropic MHS 规范所强调的那样——关键动作必须保留人类把关。对普通用户而言，这个教训同样适用：AI 给的结论，尤其是涉及重大决策的，多问一句"这个信息从哪来"永远不亏。
来源：CNN（2026-09-18 报道）、Bloomberg（2026-09-18 报道）、The Verge（2026-09-18 综合报道）。
