點擊右上角微信好友
朋友圈
請使用瀏覽器分享功能進行分享
作者:王崟屾(浙江省社會科學院法學所所長、研究員)
算法是包含一系列數學運算并將其轉換為計算機代碼的完整指令,系互聯網技術的具體呈現之一。算法以數字平臺為載體,產生了數字社會建設運行中的支配性權力,潛移默化地塑造著數字時代人們的行為規范和生活方式。
數字權力的運行邏輯
當今,數字平臺依托其技術能力和對數據的占有,在社會基礎設施的權力發生機制下,已獲得了一種對社會生活的支配力。在算法技術屬性與社會屬性的互構中,數字平臺正以數字權力的方式支配和控制著社會實踐。基于算法對海量數據的整合和支配,數字權力嵌入社會運行諸領域,對數字時代的社會主體行為產生重要影響。
基于此種認知,可從三個維度詮釋數字權力的運行邏輯。在經濟層面,數字平臺依托“信息決定權力分配”的數據優勢,向平臺內不同主體提供差異化產品與服務,銜接、整合、重塑各類主體間的資源和關系,從而創造價值,實現資金流、物資流等融通,使各類主體利益最大化。在技術層面,數字平臺依托其技術優勢,充分發揮算法的精準分發、特征挖掘等作用,以個人終端(如手機等)為中心點與整個數字社會進行信息互動,從而重塑信息流并實現數字化控制。在法律層面,一方面,數字平臺作為行使數字權力的主體,與政府監管權之間有著合作與博弈的關系(如反壟斷等)。另一方面,數字平臺依托其對要素資源的控制力,實際上擁有制定規則、監督管理等權力。此時,算法背后的數字權力突破了“權力即公權力”的傳統認識,是具有監管性質的私主體權力。
數字權力的規制模式
經濟層面的運行邏輯,使數字權力主體具有追求自身利益最大化的便利條件;技術層面的運行邏輯,使其具有對人類社會、物理世界、信息空間的數字化控制能力;法律層面的運行邏輯,使其具有對平臺內各方主體事實上的“規制權”。因此,數字權力的膨脹往往難以遏制,有必要依法對其進行規制。從現有制度和實踐來看,主要存在以下兩種規制模式。
第一種是針對數字平臺構建的要素治理模式。根據《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等規定,盡管算法治理的觸角已向技術研發者等延伸,但其規制對象仍然主要是數字平臺,并圍繞“數據、算法、場景”等要素展開。規制這三項要素的邏輯在于,數據是基礎,算法是數據的整合(輸入與輸出),場景是數據與算法的具體應用。
首先是數據保護。當前,《網絡安全法》《數據安全法》《個人信息保護法》《電子商務法》等均有數據保護條款,構建起了數據安全保障與個人信息保護的雙重框架。其次是算法規制。以《關于加強互聯網信息服務算法綜合治理的指導意見》《互聯網信息服務算法推薦管理規定》等為支撐,我國已初步形成以國信辦為規制主體,以“算法安全”“算法公平”“算法向善”為價值導向的規制體系。最后是場景應用。《數字中國建設整體布局規劃》系統劃分了數字權力規制的各類場景,如網絡銷售、生活服務、社交娛樂、信息資訊、金融服務等,重點在于進一步制度化、規范化數字平臺作為治理樞紐的主體責任,要求其既盡到相應的安全保障義務,又要履行好對服務使用者的管理義務。
第二種是按權力運行軌跡構建的全過程治理模式。以2021年《互聯網信息服務算法推薦管理規定》為標志,我國對于數字權力的監管逐漸從20世紀90年代的物理層、21世紀初的內容層,延展至代碼層,并初步形成了全過程治理模式。
其一是事前約束。這意味著對數字權力治理關口前移,并將規制對象指向數據與算法。在算法推薦、短視頻、網絡直播、社交網絡等領域中,運用算法備案、新技術新應用安全評估等方式,堅持技術治網、精準施策。其二是事中監管。一方面,要求數字平臺落實主體責任,努力實現“預防式治理”,確保算法“弘揚社會主義核心價值觀,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益”。另一方面,政府作為監管主體,統籌好發展與安全,運用指導、約談等方式為數字權力運行提供合理預期。其三是事后處罰。主要遵循“主體—行為—責任”的思路,利用行政權力對數字權力濫用或“逃逸”追責。在內容上,主要體現為網絡安全、數據安全、個人信息保護、知識產權保護以及相應的人機交互關系等方面;在責任上,主要體現為責令整改、處置賬號、移動應用程序下架、暫停功能或更新、關閉網站、罰款等責任形式。
習近平總書記指出,“我們要用歷史映照現實、遠觀未來”。依法規制算法背后的數字權力,是當今數字社會面臨的一項新課題、新挑戰,需要我們總結既有的制度成果和歷史經驗,深入分析數字權力的運行機理,立足于數字法治建設的實踐探索,不斷完善我國依法規制數字權力的治理體系。