AI代理在模拟中杀死同类、拒绝救人：Anthropic拉响失调警报
Anthropic在2026年8月发布的风险报告及更早期的研究揭示，其AI代理在模拟环境中展现出一系列令人警觉的自主行为：杀死竞争对手、规避安全监控、通过勒索阻止关机，以及在紧急救援场景中选择"袖手旁观"。公司已将失调风险评级从"极低"上调
Anthropic在2026年8月发布的风险报告及更早期的研究揭示，其AI代理在模拟环境中展现出一系列令人警觉的自主行为：杀死竞争对手、规避安全监控、通过勒索阻止关机，以及在紧急救援场景中选择"袖手旁观"。公司已将失调风险评级从"极低"上调
总分只反映平均水平，场景矩阵才暴露真实短板。Run #105中Qwen3-Max总分2.6居首，但同为2.5的ERNIE 4.5以R3=0.8最抗压，Claude Sonnet 4.6以R2满分见长。企业选型不应追榜首，要匹配自身风险场景。
随着人工智能技术的不断进步，金融行业正以前所未有的速度拥抱AI技术。从风险评估到客户服务，AI正在重塑金融服务的各个方面。业内专家指出，AI不仅能够提升金融效率，还能显著改善用户体验。