中央網信辦深入開展“清朗·整治AI技術濫用”專項行動第一階段工作

“清朗·整治AI技術濫用”專項行動取得積極進展

自2025年4月啓動的“清朗·整治AI技術濫用”專項行動，中央網信辦針對AI換臉擬聲侵犯公衆權益、AI內容標識缺失誤導公衆等問題，深入推進第一階段重點整治任務。各地網信部門加大違規AI產品處置力度，切斷違規產品營銷引流渠道，督促重點網站平臺健全技術安全保障措施，推動生成合成內容標識加速落地。第一階段累計處置違規小程序、應用程序、智能體等AI產品3500餘款，清理違法違規信息96萬餘條，處置賬號3700餘個，各項工作取得積極進展。

各地網信部門行動成效

各地網信部門積極履行屬地管理責任，多措並舉推進專項行動。北京網信辦開設AI技術濫用治理舉報渠道，形成“用戶標記—平臺覈查—聯合處置”工作模式，處置有關舉報26篇。上海網信辦推動標識要求落地示範，組織開展4場法規宣貫和專題交流，覆蓋企業400餘家，屬地內重點企業已基本完成顯式標識規範上線。浙江網信辦加大對屬地AI應用和網站平臺的督導力度，各平臺共攔截清理各類違法違規信息及提問2550萬餘條。江蘇網信辦加強統籌協調，聯合省通信管理局等部門排查AI風險域名163個，封堵和取消接入域名18個。天津網信辦採用“人工+技術”方式，開展大模型安全監測，通報4批次14個风险问题。

重點網站平臺履行主體管理責任

重點網站平臺積極履行主體管理責任，加強AI技術濫用源頭治理。騰訊規範應用程序管理，提高准入門檻，優化巡查機制，駁回、處置違規小程序、應用程序等共計570餘款。微博通過策略識別、用戶舉報等多渠道審覈，累計處置違規內容4800餘條，並公佈典型案例。通義平臺圍繞數據生命週期建立安全管理體系，在數據採集、訓練、使用等阶段加強訓練语料管理。抖音建立“紅藍對抗”機制，模擬攻擊案例，修復潛在安全漏洞，優化模型對虛假信息的識別能力。阿里、快手、稀宇等重點平臺積極推進元數據隱式標識落地落實。小红书在模型后置訓練阶段输入专业领域数据，提升模型對醫療、金融、未成年人等重點領域問題的理解能力。

下一步，中央網信辦將聚焦AI造謠、低俗內容等7類突出問題，開展“清朗·整治AI技術濫用”專項行動第二階段工作，構建技術監測體系，形成處置處罰規範，推動內容標識如期落地，形成長效工作機制，着力維護清朗網絡生態，推動人工智能向善向好。

本文轉載自“網信中國”公衆號，FOREXBNB編輯：蔣遠華。