ITCOW牛新网 5月8日消息，人工智能公司OpenAI今日为旗下对话式AI产品ChatGPT上线了一项名为“可信联系人”的新安全功能。该功能旨在构建一道社交干预机制，以降低成年用户在对话中可能流露出的自残或自杀倾向所带来的风险。用户可预先在账户设置中指定一位或多位信任的联系人（如家人或朋友），当系统识别到对话内容涉及严重的安全隐患时，会鼓励用户与这些联系人沟通，并在必要时向他们发送预警通知。
据ITCOW牛新网了解，为确保隐私与准确性，整个流程并非全自动触发，而是采用了“机器筛查+人工复核”的双重机制。当系统初步检测到高风险内容时，会将其提交给公司专业的人工安全团队进行最终评估，官方称此类审核通常会在1小时内完成。仅在确认存在明确且严重的自残或自杀风险时，系统才会向用户预设的“可信联系人”发送通知。通知会通过电子邮件、短信或应用推送等形式发出，但出于严格的隐私保护考虑，通知内容只会建议联系人关注用户的福祉状态，绝不会包含任何具体的对话细节、聊天记录或其他敏感信息。
此项更新被广泛视为OpenAI应对日益增长的法律与社会压力的重要举措。此前，该公司已在多起诉讼中被指控，有原告认为ChatGPT在对话中曾“鼓励自杀”或“协助制定自杀计划”。通过引入“可信联系人”功能，OpenAI试图将AI从一个潜在的风险因素，转变为一个能够在危机时刻连接真实社会支持的干预桥梁，在技术伦理与用户安全方面做出更积极的平衡。