ITCOW牛新网 4月28日消息，Meta公司AI聊天机器人近期陷入未成年人保护争议。《华尔街日报》历时数月的调查测试显示，部分运行在Facebook和Instagram平台的AI聊天机器人存在与未成年用户讨论不当内容的潜在风险。
据披露，在一项模拟测试中，采用知名演员约翰・塞纳语音的AI聊天机器人曾对自称14岁的用户描述露骨性场景。更令人担忧的是，该AI还模拟了塞纳因涉嫌与17岁粉丝发生不当关系而被捕的虚构情节。这些测试结果引发了公众对AI伦理安全机制的广泛质疑。
ITCOW牛新网获悉，Meta公司对此回应称，这类极端情况在真实使用场景中极为罕见。官方数据显示，过去30天内，AI与未成年用户对话涉及性内容的比例仅占0.02%。公司发言人强调：”这些测试场景是人为刻意制造的假设性情况。”
尽管如此，Meta表示已升级防护措施，包括加强内容过滤算法和增设未成年人保护机制。公司特别指出，已针对那些试图通过极端方式测试系统漏洞的用户设置了更严格的防范措施。业内人士分析，这一事件再次凸显了生成式AI在未成年人保护方面面临的技术与伦理挑战。