中央网信办开展“清朗·整治AI技术滥用”专项行动

为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，中央网信办近日印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。

中央网信办有关负责人表示，本次专项行动分两个阶段开展。第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。

第一阶段重点整治6类突出问题：

问题类型 具体内容
违规AI产品 未履行大模型备案或登记程序，提供“一键脱衣”等违背法律、伦理的功能，侵犯他人隐私。
传授、售卖违规AI产品教程和商品 传授利用违规AI产品伪造换脸视频、换声音频等教程信息，售卖违规“语音合成器”“换脸工具”等商品信息。
训练语料管理不严 使用侵犯他人知识产权、隐私权等权益的信息，使用网上爬取的虚假、无效、不实内容，使用非法来源数据。
安全管理措施薄弱 未建立与业务规模相适应的内容审核、意图识别等安全措施，未建立有效的违规账号管理机制。
未落实内容标识要求 服务提供者未对深度合成内容添加隐式、显式内容标识，内容传播平台未开展生成合成内容监测甄别。
重点领域安全风险 已备案AI产品提供医疗、金融、未成年人等重点领域问答服务的，未针对性设置行业领域安全审核和控制措施。

第二阶段重点整治7类突出问题：

问题类型 具体内容
利用AI制作发布谣言 无中生有、凭空捏造各类谣言信息，擅自妄测、恶意解读重大方针政策。
利用AI制作发布不实信息 将无关图文、视频拼凑剪辑，生成虚实混杂、半真半假的信息，制作发布涉专业领域的夸大、伪科学等不实内容。
利用AI制作发布色情低俗内容 利用AI脱衣、AI绘图等功能生成合成色情内容或他人不雅图片、视频，制作发布血腥暴力场景等。
利用AI假冒他人实施侵权违法行为 通过AI换脸、声音克隆等深度伪造技术，假冒专家、企业家、明星等公众人物，欺骗网民。
利用AI从事网络水军活动 利用AI技术“养号”，模拟真人批量注册、运营社交账号，使用AI群控软件、社交机器人批量点赞跟帖评论。
AI产品服务和应用程序违规 制作和传播仿冒、套壳AI网站和应用程序，提供违规功能服务，例如创作类工具提供“热搜热榜热点扩写成文”等功能。
侵害未成年人权益 AI应用程序诱导未成年人沉迷、在未成年人模式下存在影响未成年人身心健康的内容等。

中央网信办有关负责人强调，各地网信部门要充分认识专项行动对于防范AI技术滥用风险，维护网民合法权益的重要意义。切实履行属地管理责任，督导网站平台对照专项行动有关要求，健全AI生成合成内容审核机制，提升技术检测能力，做好整改落实。加强人工智能相关政策的宣传推广和人工智能素养的科普教育，引导各方正确认识和应用人工智能技术，不断凝聚治理共识。