1.4.2 信息內容安全相關規定

為應對新技術、新應用可能帶來的危害，加強內容安全監管，培育積極健康、向上向善的網絡文化，國家互聯網信息辦公室出臺了《網絡信息內容生態治理規定》。根據我國目前的內容安全治理現狀，分別從監管治理、技術、標準、人才四個方面進行剖析。其中，監管治理主要包含兩個方面：一是相關法律法規的制定，二是內容服務平臺開展的治理措施。

為解決日益復雜的不良網絡信息內容，推動我國內容識別產業與技術發展，在國家網信辦與中國通信標準化協會的指導下，分別成立了中國人工智能產業發展聯盟網信技術委員會（下面簡稱“網信技術委員會”）與CCSA TC602工作組。工作組圍繞開展網絡空間治理、用戶數據和權益保護、知識產權保護、公安信息化、國際交流等領域，開展新技術研究和標準推進，宣貫標準以及相關法律、法規、政策方針，進行技術、產品、服務的標準符合性驗證。圍繞“內容鑒別”“行為鑒別”“威脅情報”等網絡治理技術和手段，開展相關產品、服務的標準預研，建立網絡治理能力評估體系。工作組與公安、合作企業、政府部門展開深度合作，開展相關政策研究、標準制定等工作，為內容治理提供治理技術支撐以及監管保障。工作組在2019年第一批內容識別服務系統評測工作基礎上，聯合網信技術委員會，于2020年1月啟動了第二批內容識別服務系統的評估測試工作。

網信技術委員會致力于開展人工智能等技術和產業發展動態跟蹤研究、國內外監管政策及應對建議研究，起草、制定服務和應用標準、技術標準、數據標準等，制定和推廣落實行業自律準則。委員會聯合中國移動、騰訊、阿里云、網易、金山云、中科軟等單位發起《內容安全管理和評估行業倡議》和《互聯網新聞信息算法推薦行業自律公約》旨在推動互聯網新聞信息算法，推薦運營主體以及信息服務提供者自覺遵守相關法律法規，弘揚核心價值觀，規范市場秩序，探索有效的安全自評估辦法。委員會針對深度偽造展開監測技術研究、案例征集、評估規范編制，針對內容安全和內容監測進行評估規范研究與制定，聯合網易、阿里、騰訊、金山等企業從系統基本信息披露、系統成熟度、服務質量評估三個維度進行評估測試。委員會組織行業專家進行技術研討，經過六七次的會議討論，歷時一年最終完成內容識別服務系統的系列評估規范的制定，分別從完整性、開放性、可靠性、易用性等方面綜合評判系統的成熟度，同時制定針對內容識別服務系統的文本、圖片、視頻（點播、直播）、語音領域的功能以及性能指標要求，完善不同領域的內容評估標準。