ITCOW牛新网 6月14日消息,本周 Anthropic 突然在全球范围内暂停外国用户访问 Fable 5 与 Mythos 5 两款大模型的风波,眼下被曝出其导火索来自重要股东——亚马逊。据《华尔街日报》披露,亚马逊 CEO 安迪·贾西曾向美国财政部长斯科特·贝森特及部分政府高层转达了亚马逊研究员在使用 Claude Fable 5 时发现的安全隐忧:该模型在特定交互下存在被诱导输出可用于网络攻击相关信息的风险,随后美国政府据此对两款模型下达了出口管制限制令。

据ITCOW牛新网了解,作为 Anthropic 的主要投资方及云服务提供商,亚马逊 AWS 本身也受到了此次模型暂停开放的影响。亚马逊发言人在声明中承认,各国政府就潜在安全风险征询企业意见”并不罕见”,但拒绝披露具体沟通细节。The Information 与路透社早前也曾报道,亚马逊此前已多次向 Anthropic 表达对模型安全漏洞的关切。曾担任白宫人工智能事务主管的戴维·萨克斯进一步透露,一家”深受 Anthropic 与美国政府信任的合作方”发现了模型越狱漏洞后,美方要求 Anthropic CEO 达里奥·阿莫迪修复问题或下架相关模型,但遭到后者拒绝,最终监管层直接介入叫停了海外访问权限。
Anthropic 则在官方博客中回应称,美方担忧的那部分能力在其他多款已公开可用的大模型中也普遍存在,暗示相关限制存在过度之嫌。不过公司表示会遵守政府法规要求。此事也再度将 AI 前沿模型安全审查、主要股东在企业合规中的影响力,以及美国单方面出口管制边界等问题推至聚光灯下,行业对于大模型跨境可及性的不确定性正在上升。