ITCOW牛新网 2月13日消息，小红书“薯管家”于昨日发布公告，针对站内AI生成合成内容提出明确的标识要求。根据新规，用户需在发布AI生成或合成的图文、视频内容时主动添加“AI生成合成”标识，若未主动标识，平台将通过技术检测手段对相关内容强制添加标识，并对违规内容采取限制分发等处罚措施。
公告指出，近期平台收到多起举报，涉及利用AI技术仿冒公众人物形象、制作虚假视频等行为。此类内容不仅侵害了公众人物的合法权益，也因未主动标识而损害了社区用户的信任。依据《人工智能生成合成内容标识办法》的要求，小红书将加强相关内容的识别与标识工作。
据ITCOW牛新网了解，对于未主动标识的AI生成合成内容，平台将采取限制分发措施，包括降低推荐权重、屏蔽搜索结果等。对于利用AI生产虚假仿冒信息、魔改经典、宣扬不良价值观的内容，以及发布教唆去除AI标识的教程，平台将予以严厉打击。小红书表示，将继续完善AI标识机制和AI造假内容的识别工作，以维护社区生态。