ITCOW牛新网 6月5日消息，美国人工智能企业Anthropic于昨日发布报告，直言其最新AI模型已开始显现脱离人类控制的迹象，并呼吁全球各大企业考虑放缓乃至暂停先进AI系统的开发。这家开发出Claude系列模型的公司指出，随着AI技术加速迭代，社会制度建设与安全对齐研究已严重滞后，若任由竞争与地缘政治压力主导发展，人类将面临难以掌控的风险。
据ITCOW牛新网了解，Anthropic在报告中详细披露了其内部数据，显示AI正在以惊人的速度加速自身的开发进程，这种“递归自我改进”的趋势可能导致AI系统在无需人类干预的情况下自主设计和迭代继任者。公司特别强调，全球前沿AI开发的放缓“很可能是好事”，但单边行动无效，必须建立一套类似“核武器不扩散条约”的全球协调机制。Anthropic主张，美国、中国等主要AI参与方应达成共识，制定所有参与方都能验证的规则，否则企业和政府将在安全问题上做出艰难抉择。
这一激进的“刹车”倡议迅速引发了行业与政界的激烈反应。部分白宫官员对此表达不满，批评者认为Anthropic过度强调最坏情况、夸大风险，甚至有借安全之名行限制竞争对手之实的嫌疑。然而，不可忽视的是，Anthropic旗下的Mythos模型确实展现出了强大的网络安全能力，能够自主挖掘并利用系统漏洞，这也是该公司仅向少数关键基础设施合作伙伴开放该模型而未向公众发布的原因。面对复杂的局势，Anthropic表示将在未来几个月内召集政府官员、科学家及竞争对手，共同探讨如何构建这一全球性的协调与验证体系。