中央網信辦開展“清朗·整治AI技術濫用”專項行動

爲規範AI服務和應用，促進行業健康有序發展，保障公民合法權益，中央網信辦近日印發通知，在全國範圍內部署開展爲期3個月的“清朗·整治AI技術濫用”專項行動。

中央網信辦有關負責人表示，本次專項行動分兩個階段開展。第一階段強化AI技術源頭治理，清理整治違規AI應用程序，加強AI生成合成技術和內容標識管理，推動網站平臺提升檢測鑑僞能力。第二階段聚焦利用AI技術製作發佈謠言、不實信息、色情低俗內容，假冒他人、從事網絡水軍活動等突出問題，集中清理相關違法不良信息，處置處罰違規賬號、MCN機構和網站平臺。

第一階段重點整治6類突出問題：

問題類型 具體內容
違規AI產品 未履行大模型備案或登記程序，提供“一鍵脫衣”等違背法律、倫理的功能，侵犯他人隱私。
傳授、售賣違規AI產品教程和商品 傳授利用違規AI產品僞造換臉視頻、換聲音頻等教程信息，售賣違規“語音合成器”“換臉工具”等商品信息。
訓練語料管理不嚴 使用侵犯他人知識產權、隱私權等權益的信息，使用網上爬取的虛假、無效、不實內容，使用非法來源數據。
安全管理措施薄弱 未建立與業務規模相適應的內容審覈、意圖識別等安全措施，未建立有效的違規賬號管理機制。
未落實內容標識要求 服務提供者未對深度合成內容添加隱式、顯式內容標識，內容傳播平臺未開展生成合成內容監測甄別。
重點領域安全風險 已備案AI產品提供醫療、金融、未成年人等重點領域問答服務的，未針對性設置行業領域安全審覈和控制措施。

第二階段重點整治7類突出問題：

問題類型 具體內容
利用AI製作發佈謠言 無中生有、憑空捏造各類謠言信息，擅自妄測、惡意解讀重大方針政策。
利用AI製作發佈不實信息 將無關圖文、視頻拼湊剪輯，生成虛實混雜、半真半假的信息，製作發佈涉專業領域的誇大、僞科學等不實內容。
利用AI製作發佈色情低俗內容 利用AI脫衣、AI繪圖等功能生成合成色情內容或他人不雅圖片、視頻，製作發佈血腥暴力場景等。
利用AI假冒他人實施侵權違法行爲 通過AI換臉、聲音克隆等深度僞造技術，假冒專家、企業家、明星等公衆人物，欺騙網民。
利用AI從事網絡水軍活動 利用AI技術“養號”，模擬真人批量註冊、運營社交賬號，使用AI羣控軟件、社交機器人批量點贊跟帖評論。
AI產品服務和應用程序違規 製作和傳播仿冒、套殼AI網站和應用程序，提供違規功能服務，例如創作類工具提供“熱搜熱榜熱點擴寫成文”等功能。
侵害未成年人權益 AI應用程序誘導未成年人沉迷、在未成年人模式下存在影響未成年人身心健康的內容等。

中央網信辦有關負責人強調，各地網信部門要充分認識專項行動對於防範AI技術濫用風險，維護網民合法權益的重要意義。切實履行屬地管理責任，督導網站平臺對照專項行動有關要求，健全AI生成合成內容審覈機制，提升技術檢測能力，做好整改落實。加強人工智能相關政策的宣傳推廣和人工智能素養的科普教育，引導各方正確認識和應用人工智能技術，不斷凝聚治理共識。