ITCOW牛新网 2月14日消息,OpenAI 今日发布公告,宣布为 ChatGPT 新增两项高级安全设置,旨在应对日益增长的“提示注入”(Prompt Injection)攻击风险。这两项措施分别是面向高风险用户的“锁定模式”(Lockdown Mode)以及针对特定功能的“Elevated Risk”风险标签。

OpenAI推出“锁定模式”与“风险标签” 强化ChatGPT 安全防护

据ITCOW牛新网了解,随着 AI 系统承担更多涉及网页浏览与外部应用交互的复杂任务,安全风险显著增加。提示注入攻击作为一种新型威胁,攻击者通过精心设计的提示词误导 AI 执行恶意指令或泄露敏感数据。为应对这一挑战,OpenAI 推出了锁定模式,该模式通过确定性方式禁用部分可能被利用的工具与能力,例如将网页浏览功能限制为仅访问已缓存内容,从而降低数据外泄风险。

目前,锁定模式主要面向 ChatGPT Enterprise、Edu、Healthcare 及 Teachers 版本的高风险用户群体(如大型组织高管或安全团队),普通用户无需启用。

OpenAI推出“锁定模式”与“风险标签” 强化ChatGPT 安全防护

同时,OpenAI 正在标准化对部分高风险能力的标注方式,在 ChatGPT、ChatGPT Atlas 及 Codex 中统一新增“Elevated Risk”风险标签。这一举措旨在为用户提供更清晰的使用指引,帮助用户在连接应用与网页时,能够自行评估并决定是否承担相关风险。

这些新增措施建立在现有的沙箱机制、数据外泄防护及企业级控制功能之上,进一步强化了 AI 系统的安全防线。