ITCOW牛新网10月27日消息，英国首相苏纳克宣布了一项重要举措，计划成立世界上第一个AI安全研究所，同时于11月1日至2日举行AI安全峰会。此次举措旨在凝聚世界各国的AI公司、政府、社会团体和专家，共同探讨如何通过国际合作来降低AI所带来的风险。
苏纳克在演讲中指出，新成立的研究所将在AI安全领域扮演重要角色，推动全球对AI安全的认知，重点是对新兴AI技术进行深入研究、评估和测试。研究所的任务包括了解每种新模型的性能，并深入研究从社会危害如“偏见和误导”到“极端风险”等所有可能风险。
苏纳克还指出，AI技术有可能让制造化学或生物武器变得更容易，但也可能被犯罪分子所滥用。在某些最不可能但最极端的情况下，AI技术甚至可能导致人类失去对其的控制，这一点应当引起极度关注。
此外，英国首相将在即将举行的AI安全峰会上提议成立一个全球专家小组，该小组的成员将由各国和组织提名，旨在推动国际合作，同时发布一份AI科学现状报告。
此前，英国的反垄断监管机构CMA（竞争与市场管理局）已经提出了一系列新的AI管理标准，涵盖了问责、访问和透明度等关键领域。这些标准要求AI开发者和部署者对其产生的内容负有责任，同时禁止从事反竞争行为，这一举措为AI领域的监管提供了重要的指导。