人類社會正加速進入智能化時代，數據是關鍵生產要素，算法是核心生產力。隨著人工智能、大數據等新型信息技術的快速發展，算法與互聯網信息服務深度融合，為用戶提供個性化、精準化、智能化的信息服務。互聯網信息服務算法在加速互聯網信息傳播、繁榮數字經濟、促進社會發展的同時，其不合理應用也影響了正常的傳播秩序、市場秩序和社會秩序，給維護意識形態安全、社會公平公正和網民合法權益帶來挑戰。

為規范互聯網信息服務算法應用生態，國家互聯網信息辦公室、工業和信息化部、公安部、國家市場監督管理總局聯合發布《互聯網信息服務算法推薦管理規定》（以下簡稱《規定》）。《規定》是目前我國針對互聯網信息服務算法推薦出臺的最為系統的專門性部門規章，為規范互聯網信息服務算法推薦活動、促進互聯網信息服務健康發展、推進網絡空間治理提供了重要的制度保障，意義重大，影響深遠。

一、堅持主流價值導向，管理好使用好發展好算法應用

《規定》著眼于網絡信息內容生態治理，防范互聯網信息服務算法濫用風險，保障用戶合法權益，充分發揮算法服務正能量傳播作用，營造風清氣正的網絡空間。《規定》從以下三個方面明確了算法治理的總體方向。

（一）堅持正確導向，算法向上向善。《規定》鼓勵算法推薦服務提供者使用算法積極傳播正能量、抵制違法和不良信息。《規定》鼓勵算法正向應用和創新發展，通過人工干預優化算法推薦服務機制，將網絡信息內容生態治理和算法治理有機結合，弘揚社會主義核心價值觀。

（二）堅持風險防控，推進算法規制。《規定》著眼互聯網信息服務中潛在的算法影響網絡輿論、算法誘導用戶沉迷或過度消費、算法共謀和不正當競爭等算法應用風險，由此引出治理對象，通過算法規制規范互聯網信息服務算法推薦活動，維護國家安全和社會公共利益。

（三）堅持規范發展，防止算法濫用。《規定》倡導，提供算法推薦服務應遵循公正公平、公開透明、科學合理和誠實信用的原則，四個基本原則為算法規范發展框定了邊界。《規定》在信息服務規范和用戶權益保護部分，設置了算法應用的應當行為和禁止行為，明確了算法應用的底線。

二、建立健全科學的監管體系，形成算法治理長效機制

《規定》明確了互聯網信息服務算法綜合治理的監管體系，構建了涵蓋算法分級分類、算法備案管理、算法安全評估、算法風險監測等舉措的科學監管體系，逐步形成算法治理長效機制。具體體現在三個方面：

（一）算法分級分類，科學精細治理。《規定》明確了算法治理的對象，即應用算法推薦技術向用戶提供信息的算法推薦服務提供者。《規定》將互聯網信息服務推薦算法分為生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等五大類，并分別設置了針對性的差異化條款。例如，對于生成合成類算法推薦服務，強調“應做出顯著標識”；對于個性化推送類，突出用戶的自主選擇權等用戶權益保護；對于決策調度類，關注算法自動化決策對勞動者、消費者等造成的影響。對算法推薦服務的分級分類管理，體現了科學化、精細化的算法治理基本思路。

（二）算法備案先行，治理有章可循。《規定》要求具有輿論屬性或者社會動員能力的算法推薦服務提供者通過互聯網信息服務算法備案系統履行算法備案手續，并在對外提供服務的網站、應用程序等的顯著位置標明其備案編號。算法備案是《規定》提出的一個重要舉措，以算法推薦服務為切入點對其使用的互聯網信息服務算法進行備案，將算法和服務作為一個有機整體進行治理。算法自評估報告是算法備案的一項亮點內容，為國家監管部門和算法推薦服務提供者協同推動算法治理工作提供了重要抓手。

（三）算法安全評估，力求標本兼治。《規定》明確了網信部門和電信、公安、市場監管等有關部門對算法推薦服務依法開展安全評估和監督檢查的工作職責，并要求算法推薦服務提供者對安全評估和監督檢查工作提供必要的數據、技術等支持或協助。算法安全評估著眼于治本，從算法推薦服務的基本原理、目的意圖、主要運行機制等方面入手，以“事前”評估的方式排除算法在模型、數據、策略、人工干預等方面的安全隱患；算法監督檢查以事中監測的方式發現算法使用過程中的安全風險及算法濫用帶來的算法亂象。算法安全評估和監督檢查工作覆蓋了算法應用的全生命周期，二者相互促進，力求算法治理做到標本兼治。

三、建設算法治理技術支撐體系，促進算法健康有序發展

《規定》的出臺，是進一步提升網絡綜合治理能力的應時應勢之舉，具有很強的探索性和前瞻性，也標志著我國網絡空間治理邁入新的發展階段。但是，算法綜合治理目前仍處于起步階段，在技術支撐和能力建設方面有待進一步加強。加快推進算法綜合治理技術支撐體系建設，是切實保障算法綜合治理工作有力有序推進的關鍵。同時，算法安全既是國家重大需求，也是國際科技前沿，國家科研機構應加大算法安全方面的科技攻關，建設算法安全評估和風險監測的科研創新平臺，建設支撐互聯網信息服務算法綜合治理的技術體系。建議加強如下工作：

（一）優化算法安全科研布局，構建算法治理關鍵技術聯合攻關體系。圍繞智能算法安全這一重大創新領域，組建國家重點實驗室，形成引領算法安全基礎研究的戰略力量；充分調動“政產學研用”各方優勢力量，探索共建新型研發機構，加大科研攻關力度，研究算法安全內生機理、算法安全風險評估、算法全生命周期安全監測等關鍵技術問題。

（二）完善算法人才隊伍結構，建立算法安全治理人才隊伍培養體系。鼓勵高校設置并加強算法安全相關專業學科建設，擴大招生和培養規模，加大算法安全治理基礎人才培養力度;完善算法安全治理領域成果評價和人才激勵機制，提供良好科研生態環境，政策導向與市場優化雙管齊下，培養一支高素質算法安全人才隊伍。

（三）加強基礎科研設施建設，提升算法自主創新和安全可控能力。建設算法安全基礎科研設施，促進算法研發工作，支持算法與社會、經濟各領域深度結合。加強知識產權保護，提高自研算法產品的推廣和使用，增強算法核心競爭力。推進算法安全科學普及工作，提升企業和社會公眾的算法安全風險意識，引導社會各界積極參與社會監督，共同推進算法綜合治理。（作者：程學旗，中國科學院計算技術研究所副所長）

關鍵詞： 算法 綜合治理 科研