ITCOW牛新网 7月6日消息，中央网信办今日披露，自今年4月启动的“清朗·整治AI应用乱象”专项行动第一阶段工作已取得阶段性成果。各地网信部门围绕未按规定履行大模型备案登记义务、AI平台安全和审核过滤能力不足、AI数据投毒、生成合成内容标识落实不到位等突出问题开展排查处置，累计处置违规网站、应用程序、智能体等AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个、违规开源数据集9个，并专门开设“涉AI应用乱象举报专区”受理公众举报线索。
据ITCOW牛新网了解，重点省市结合属地特点采取了差异化监管措施：北京建立“平台自查＋常态巡查＋技术筛查＋线索核查”联动机制及时下架违规应用；上海细化平台类型工作要求并指导升级举报机制；浙江从模型审核能力、训练语料安全、AI数据投毒等多维度组织针对性整改与高频回归测试；江苏开设AI应用乱象专项举报窗口收集五类违法违规情形线索；广东建立多部门协调监管机制开展全链条治理。重点网站平台也同步强化内控——华为在应用商店中增加生成式人工智能服务备案和标识专项审核；阿里巴巴完善数字指纹比对与关键词拦截机制提升违规内容识别精度；智谱构建多模态审核模型针对多轮对话意图反转等复杂场景交叉复核；稀宇及时识别阻断利用AI编写病毒、钓鱼软件等恶意行为；DeepSeek在数据采集和预处理环节嵌入异常检测算法防止恶意样本隐蔽操控。
下一步，中央网信办将聚焦利用AI技术制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等突出问题，开展专项行动第二阶段工作，加大违规账号和机构查处力度，加强AI应用重点环节管理，督促平台提升AI防治能力，着力维护清朗网络生态，推动人工智能向善向好。