算法面前,人變工具? 加強算法綜合治理是必答題

原標題：用主流價值導向駕馭算法

“用主流價值導向駕馭‘算法’”，是習近平總書記明確提出的要求。算法是基於數據用系統方法描述、解決問題的策略機制，在經濟、社會生活多領域廣泛應用的同時，基於累積數據不斷迭代，成爲影響信息分發、服務提供、機會分配、資源配置的基礎性機制和力量。當前，既要把握人工智能發展趨勢，用得好，也要管得住，有效防範算法濫用帶來的風險隱患，更要通過加強算法綜合治理，實現以主流價值導向駕馭算法。

加強算法綜合治理是必答題

21世紀以來，算法技術發展迅速，自動化決策在經濟生活、社會生活中日益獲得更大影響力和主導權。互聯網平臺通過使用算法提升信息服務與用戶需求匹配度而獲得競爭優勢，單一平臺甚至擁有日活數億用戶。中國龐大的用戶羣爲算法發展提供了堅實基礎。在海量增長的用戶數據支撐下，算法不斷迭代，智能水平也在逐次提升。

“算法面前，人變成了工具？”等尖銳問題引發強烈共鳴。推薦算法推送同類信息令用戶心生厭倦，人們日益擔憂算法推薦服務催生的各種“信息繭房”、倫理問題等。更重要的是，算法推薦服務對社會生活、公衆認知和意識形態具有越來越大的支配作用，必然要納入政府綜合治理範圍。

從公衆利益和國家安全層面看，絕不能任由推薦算法決定青少年的信息獲取和價值觀形成，絕不能任由推薦算法決定信息分發導致意識形態安全失衡，絕不能因法律、技術監管能力不到位使互聯網信息算法推薦服務在關鍵時刻帶來風險。可以說，加強推薦算法綜合治理是一道必答題。

多方入手實施算法綜合治理

算法綜合治理有效實施，至少需要加強四個方面建設。

其一，樹立正確導向。算法由人設計就應由人操控、有人負責。算法推薦所體現的價值取向，相當程度上體現了算法推薦服務提供者的價值觀。算法應用必須向上向善，是社會共識；堅持主流價值導向，優化算法推薦服務機制，積極傳播正能量，是對算法推薦服務提供者的基本要求；不得利用算法推薦服務從事危害國家安全、擾亂經濟秩序和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動，不得利用算法推薦服務傳播法律、行政法規禁止的信息，是算法推薦服務提供者必須遵守的底線規則；建立完善人工干預和用戶自主選擇機制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環節，積極呈現符合主流價值導向的信息內容，提高正能量傳播的精準性和有效性，則是算法推薦服務提供者應有的價值取向和追求。在算法綜合治理中必須用多種規則、手段強力要求，切實監管，確保實現。

其二，健全法律法規。2021年9月1日施行的《中華人民共和國數據安全法》對數據處理活動進行了全面規範。將於11月1日施行的《中華人民共和國個人信息保護法》，第一次在法律文本中定義了“自動化決策”一詞的含義爲“通過計算機程序自動分析、評估個人的行爲習慣、興趣愛好或者經濟、健康、信用狀況等，並進行決策的活動”，並明確規定“個人信息處理者利用個人信息進行自動化決策”時，“應當保證決策的透明度和結果公平、公正”，應提供“不針對其個人特徵的選項，或者向個人提供便捷的拒絕方式”；還應就“利用個人信息進行自動化決策”“事前進行個人信息保護影響評估，並對處理情況進行記錄”。

國家互聯網信息辦公室等九部門公佈的《關於加強互聯網信息服務算法綜合治理的指導意見》，對管理好、使用好、發展好算法應用做出了頂層設計，確定了“利用三年左右時間，逐步建立治理機制健全、監管體系完善、算法生態規範的算法安全綜合治理格局”的目標，並就健全算法安全治理機制、構建算法安全監管體系、促進算法生態規範發展做出了規定和系統安排。國家網信辦發佈的《互聯網信息服務算法推薦管理規定（徵求意見稿）》，第一次區分了生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類五類向用戶提供信息內容的算法技術，並就算法推薦服務提供者的責任和義務、算法推薦服務公告和算法備案等制度、算法推薦未成年人模式做出了詳細規定。這個管理規定明確將根據算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據敏感程度、對用戶行爲的干預程度等，對算法推薦服務提供者實施分類分級管理，並對算法安全評估和監督檢查做出了具體規定。

數據安全法、個人信息保護法的施行，指導意見出臺和管理規定公開徵求意見，爲算法綜合治理提供了規則依據、奠定了法治基礎。

其三，提升監管能力。算法綜合治理需要專業監管能力。算法不斷迭代、甚至自我更新是其智能水平的體現。人們對算法的“可解釋性”有多種觀點，對算法推薦結果的“不可解釋性”也有深深擔憂，因此把算法稱爲“黑箱”。算法監管不僅需要專業監管隊伍和不斷提升的依法監管能力，還需擁有不斷迭代的檢測、驗證、評估工具和技術監管能力，算法綜合治理纔可能落到實處。監管部門應當具有在不掌握算法內部結構、核心內容的情況下，以一定規則、特定輸入條件、輸出結果對算法進行綜合測試的專業能力；或是根據算法使用者所提供的算法相關情況對其推薦服務結果進行綜合驗證的專業能力；以及根據相關規定對算法安全做出評估，對其自評估報告進行驗證的專業能力。《關於加強互聯網信息服務算法綜合治理的指導意見》第三部分“構建算法安全監管體系”中就對“積極開展算法安全評估”提出了要求，包括“組織建立專業技術評估隊伍，深入分析算法機制機理，評估算法設計、部署和使用等應用環節的缺陷和漏洞，研判算法應用產生的意識形態、社會公平、道德倫理等安全風險，提出針對性應對措施”。這樣的專業技術評估，是有效實施算法綜合治理的物質基礎。

其四，優化協同機制。建立健全有法可依、多元協同、多方參與的算法安全治理機制，是中國進行算法綜合治理的組織優勢、制度優勢所在和重要保障。協同機制建設的基礎是權利、義務、責任的配置。通過法律、法規、規章和相關規定，進一步明確政府、企業、行業組織和網民在算法安全治理中的權利、義務和責任，特別是強化企業對算法應用產生結果所負的主體責任，才能夠形成政府監管、企業履責、行業自律、社會監督的算法安全多元共治局面。因此，要求企業建立算法安全責任制度和科技倫理審查制度，健全算法安全管理組織機構，加強風險防控和隱患排查治理，提升應對算法安全突發事件的能力和水平。協同機制有效運轉也需要各個相關部門依法依規協同運作，需要吸引專業人才隊伍，匯聚多方資源投入，爲算法安全治理提供有力支撐。

（作者系天津大學新媒體與傳播學院院長、天津市中國特色社會主義理論體系研究中心研究員 陸小華）

（責任編輯：孫丹）