ITCOW牛新网 4月30日消息，中央网信办近日印发通知，在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动。此次行动旨在从源头和应用两端规范AI服务，重点打击未备案模型、数据投毒及利用AI生成“数字泔水”等突出问题。
第一阶段：技术源头治理（7类红线）
该阶段聚焦大模型服务提供者，重点整治“应备未备”及安全能力缺失问题：
- 合规与备案：严查未按规定履行大模型备案登记义务的行为。
- 安全与审核：整治模型底层安全能力缺失、审核过滤机制不足导致生成违法信息的问题。
- 语料与数据：打击训练语料含违法信息、使用未经授权数据及AI数据投毒（如篡改语料、GEO恶意营销）。
- 标识与滥用：落实生成合成内容标识要求，严打滥用“换脸拟声”及开源模型安全管理不到位。
第二阶段：信息内容整治（7类乱象）
该阶段聚焦内容生态，重点清理利用AI技术生成的各类不良信息：
- 数字泔水：利用AI“魔改”经典名著、历史人物，批量生成逻辑混乱、价值空洞的低质内容。
- 虚假与不良：制作发布虚假时事、专业领域谣言及暴力低俗信息。
- 侵权与黑产：假冒仿冒他人（含“复活”逝者）、侵害未成年人权益及利用AI“托管”从事网络水军活动。
治理要求与范围
各地网信部门将督导网站平台、MCN机构及账号主体深入自查，健全审核机制。对违规主体将依法采取处置账号、关停下架及行政处罚等措施，确保专项行动取得实效。