聊城市互聯(lián)網(wǎng)違法和不良信息舉報平臺歡迎您
將算法推薦關(guān)進(jìn)法治的籠子里 持續(xù)推進(jìn)完善我國算法治理體系
作者：梁正 清華大學(xué)公共管理學(xué)院教授,，人工智能國際治理研究院副院長
在數(shù)字經(jīng)濟時代,，算法是一種重要的生產(chǎn)工具,。算法推薦技術(shù)被廣泛應(yīng)用于信息分發(fā)和媒體傳播領(lǐng)域,，帶來“信息繭房”、“大數(shù)據(jù)殺熟”,、“困在系統(tǒng)里”等社會隱憂,，規(guī)范算法推薦活動迫在眉睫,。習(xí)近平總書記在談媒體融合發(fā)展時強調(diào),，用主流價值導(dǎo)向駕馭“算法”,，全面提高輿論引導(dǎo)能力。近日,，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）正當(dāng)其時,，為規(guī)范算法推薦服務(wù)提出了科學(xué)化、系統(tǒng)化、精細(xì)化的合規(guī)要求,，織密了我國算法治理的法治之網(wǎng),，是構(gòu)建我國算法治理體系的重要一環(huán)。
一,、《規(guī)定》的重要內(nèi)容和亮點
（一）明確了算法治理的對象?！兑?guī)定》對應(yīng)用算法推薦技術(shù)進(jìn)行了界定,，即指應(yīng)用生成合成類、個性化推送類,、排序精選類,、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息,?！兑?guī)定》針對算法調(diào)度場景、商品定價場景,、個性化推薦場景等以負(fù)面清單的方式對算法推薦服務(wù)提供者提出了具體的合規(guī)要求,，回應(yīng)了“騎手困在系統(tǒng)里”、“大數(shù)據(jù)殺熟”,、“網(wǎng)絡(luò)沉迷”,、“未成年人保護(hù)”等社會熱點問題。
（二）確立了算法治理的基本原則,。在算法治理中堅持“硬法”和“軟法”相結(jié)合是國際通行做法,，一方面防范重大風(fēng)險發(fā)生，另一方面激發(fā)市場主體主動合規(guī)的積極性,?！兑?guī)定》要求算法推薦服務(wù)提供者既應(yīng)當(dāng)遵守法律法規(guī)，尊重社會公德和倫理,，遵守商業(yè)道德和職業(yè)道德,，也應(yīng)當(dāng)遵循公正公平、公開透明,、科學(xué)合理和誠實信用的原則,。
（三）重視自我合規(guī)，鼓勵行業(yè)自律,?！兑?guī)定》鼓勵相關(guān)行業(yè)組織加強行業(yè)自律，建立健全自律制度和行業(yè)準(zhǔn)則,，組織制定行業(yè)標(biāo)準(zhǔn),。通過行業(yè)自律和制定行業(yè)標(biāo)準(zhǔn)的方式可以將各個參與主體納入其中，利于形成多元主體共治的格局，充分發(fā)揮社會公眾的監(jiān)督作用,。
（四）堅持社會主義價值觀導(dǎo)向,，促進(jìn)算法應(yīng)用向上向善。國際社會主張人工智能的“倫理設(shè)計”,，即在人工智能設(shè)計研發(fā)階段就導(dǎo)入倫理規(guī)則,，實現(xiàn)全生命周期的治理。我國強調(diào)社會主義核心價值觀,，構(gòu)建符合我國國情的倫理道德標(biāo)準(zhǔn),。《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅持主流價值導(dǎo)向,，優(yōu)化算法推薦服務(wù)機制,，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善,。特別是在算法設(shè)計過程中,，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評估,、驗證算法機制機理,、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,，不得設(shè)置誘導(dǎo)用戶沉迷或者過度消費等違反法律法規(guī)或者違背倫理道德的算法模型,。
（五）突出體現(xiàn)以人為本，重視對特殊群體的權(quán)益保護(hù),?！兑?guī)定》對用戶權(quán)益保護(hù)進(jìn)行了專章規(guī)定，要求算法推薦服務(wù)提供者向用戶告知算法的基本原理,、目的意圖和主要運行機制等,，以提高算法的透明度。同時,，要求算法推薦服務(wù)提供者充分保障用戶選擇關(guān)閉和獲得算法解釋的權(quán)利,。《規(guī)定》還重點強調(diào)算法推薦服務(wù)提供者應(yīng)當(dāng)向未成年人,、老年人和勞動者履行特殊的保障義務(wù),，以確保各類社會主體均獲得法律保護(hù)。
二,、《規(guī)定》明確了算法治理的主要制度工具
（一）以提高算法透明度和可解釋性為基本要求,，增強算法可信。算法具有“黑箱”特征,，自動化決策需要人工干預(yù),，避免因算法錯誤而導(dǎo)致決策錯誤,。同時，為了增強人們對算法的信任度,，應(yīng)以相對簡單,、可理解的方式解釋算法規(guī)則。為此,，《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)該采取內(nèi)容去重,、打散干預(yù)等策略，優(yōu)化檢索,、排序,、選擇、推送,、展示等規(guī)則的透明度和可解釋性,。而且應(yīng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況,，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理,、目的意圖、運行機制等,。
（二）確立分級分類安全管理制度,，實現(xiàn)精準(zhǔn)治理?！兑?guī)定》指出應(yīng)根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力,、內(nèi)容類別、用戶規(guī)模,、算法推薦技術(shù)處理的數(shù)據(jù)重要程度,、對用戶行為的干預(yù)程度等對算法推薦服務(wù)提供者實施分級分類管理。
（三）提出算法備案制度和安全評估制度,，提高治理敏捷性,。算法備案制度可以讓監(jiān)管機構(gòu)及時了解算法推薦服務(wù)的內(nèi)容，同時提高算法推薦服務(wù)提供者的責(zé)任意識和安全意識,?！兑?guī)定》要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者履行備案手續(xù)，備案的內(nèi)容包括服務(wù)提供者的名稱,、服務(wù)形式,、應(yīng)用領(lǐng)域、算法類型,、算法自評估報告,、擬公示內(nèi)容等信息。
三,、未來推進(jìn)算法治理的幾點思考
（一）加快具體制度的落地實施,，出臺算法備案和算法安全評估實施細(xì)則,。備案制度和安全評估制度是實現(xiàn)敏捷治理目標(biāo)的很好的制度設(shè)計，但具體程序,、具體要求和實施機制需要明確,，相關(guān)義務(wù)主體的標(biāo)準(zhǔn)也需要進(jìn)一步細(xì)化。
（二）推動建立機制健全,、體系完善,、規(guī)則明晰的算法治理體系。此次《規(guī)定》是對算法推薦應(yīng)用這一場景的治理嘗試,，也是算法治理的中國方案,。考慮到算法逐漸被廣泛應(yīng)用于各類場景,，未來應(yīng)該為算法治理建立一套普遍適用的規(guī)則體系,，從而切實有效規(guī)范各種應(yīng)用場景下的算法。
（三）完善多元主體協(xié)同共治的治理格局,。算法治理是一項專業(yè),、復(fù)雜的長期工程，面臨挑戰(zhàn)和困境,。算法治理應(yīng)該充分發(fā)揮多元主體的作用,，讓各個主體參與其中，形成治理合力,。
總之,，《規(guī)定》的頒布意味著我國算法治理工作進(jìn)入新階段。算法推薦服務(wù)提供者應(yīng)該認(rèn)真學(xué)習(xí)和理解《規(guī)定》,，并嚴(yán)格落實主體責(zé)任,。廣大用戶也應(yīng)該積極提高算法素養(yǎng)，有效維護(hù)自身合法權(quán)益,。
規(guī)范算法技術(shù)應(yīng)用 構(gòu)建算法治理規(guī)則
作者：王立梅 中國政法大學(xué)數(shù)據(jù)法治研究院教授
規(guī)范算法推薦技術(shù)應(yīng)用并系統(tǒng)制定規(guī)則,，是我國在數(shù)字經(jīng)濟快速發(fā)展、信息服務(wù)廣泛拓展的進(jìn)程中,，為更好地貫徹習(xí)近平法治思想,，建設(shè)中國特色社會主義法治體系，在互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域進(jìn)行的一項重要制度設(shè)計,?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）是我國互聯(lián)網(wǎng)法治建設(shè)進(jìn)程中的重要一步，體現(xiàn)了中國特色社會主義法治建設(shè)的正確價值導(dǎo)向,、科技向善的倫理取向,、協(xié)同共治的新型格局、全程監(jiān)管的風(fēng)控理念以及對特殊群體的人文關(guān)懷,。
首先,，《規(guī)定》系統(tǒng)打造了互聯(lián)網(wǎng)信息服務(wù)算法推薦治理方案,，具有全球示范性和國際引領(lǐng)力。
算法推薦活動,，本質(zhì)上是一項信息自動化篩選,、個性化分發(fā)的行為，需要以信息采集及分析等處理為基礎(chǔ),，其中既蘊含了隱私權(quán),、個人信息權(quán)益、企業(yè)利益保障等問題,，又關(guān)系國民注意力治理等價值命題,。將算法推薦技術(shù)應(yīng)用到商業(yè)化信息服務(wù)中，能夠有效提升用戶偏好與推薦內(nèi)容的匹配程度,，也容易造成用戶過度沉迷,、認(rèn)知窄化、過度消費以及產(chǎn)生新型歧視等問題,。從全球立法實踐來看,，尚未有如此精細(xì)程度與關(guān)注廣度的系統(tǒng)性規(guī)定。我國率先推出這部綜合治理互聯(lián)網(wǎng)信息服務(wù)算法推薦的管理規(guī)定,，在全球范圍內(nèi)具有顯著的示范效應(yīng),，在算法監(jiān)管領(lǐng)域也起到了以制定規(guī)則引導(dǎo)科技應(yīng)用,、以適度干預(yù)促進(jìn)應(yīng)用發(fā)展,、以科學(xué)協(xié)調(diào)多方長遠(yuǎn)利益落實新發(fā)展理念的效果。
其次,，《規(guī)定》與《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》等相關(guān)立法緊密銜接,，共同構(gòu)建多層次的互聯(lián)網(wǎng)信息服務(wù)算法推薦規(guī)范體系。
作為一部由國家網(wǎng)信辦,、工業(yè)和信息化部,、公安部、市場監(jiān)管總局聯(lián)合制定發(fā)布的部門規(guī)章,，《規(guī)定》既承接多部上位法的管理要求,，又體現(xiàn)出算法推薦根源于數(shù)據(jù)信息活動的特征，還成為了具有創(chuàng)新性和可操作性的行動指南,。一是,，在違法和不良信息監(jiān)管方面，《網(wǎng)絡(luò)安全法》第四十七條規(guī)定了網(wǎng)絡(luò)運營者應(yīng)當(dāng)加強對違法信息的管理,，《規(guī)定》第九條第二款承接細(xì)化,，規(guī)定“發(fā)現(xiàn)違法信息的，應(yīng)當(dāng)立即停止傳輸,，采取消除等處置措施,，防止信息擴散,，保存有關(guān)記錄，并向網(wǎng)信部門和有關(guān)部門報告”,，并進(jìn)一步要求“發(fā)現(xiàn)不良信息的,，應(yīng)當(dāng)按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定予以處置”。二是,，對于《數(shù)據(jù)安全法》第二十七條規(guī)定的數(shù)據(jù)安全保護(hù)義務(wù),，在《規(guī)定》第七條集中得到了落實體現(xiàn)，明確了算法推薦服務(wù)提供者的算法安全主體責(zé)任,，對建立健全數(shù)據(jù)安全和個人信息保護(hù)等的管理制度和技術(shù)措施,、制定相關(guān)規(guī)則、配套相應(yīng)人員和技術(shù)支撐等作出了要求,。三是,，在自動化決策方面，《規(guī)定》第十七條第一款承接《個人信息保護(hù)法》第二十四條第二款和《電子商務(wù)法》第十八條第一款,，規(guī)定用戶選擇關(guān)閉算法推薦服務(wù)的,，算法推薦服務(wù)提供者應(yīng)當(dāng)“立即停止”提供相關(guān)服務(wù)；《規(guī)定》第十七條第二款承接落實了《個人信息保護(hù)法》中個人信息主體所享有的選擇,、刪除等權(quán)利,，第三款明確提出了算法推薦服務(wù)提供者應(yīng)用算法對用戶權(quán)益造成重大影響的，應(yīng)當(dāng)依法予以說明并承擔(dān)相應(yīng)責(zé)任,。四是,，在特定領(lǐng)域的應(yīng)用方面，按照《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》第五條要求,，《規(guī)定》第十三條明確要求“算法推薦服務(wù)提供者提供互聯(lián)網(wǎng)新聞信息服務(wù)的,，應(yīng)當(dāng)依法取得互聯(lián)網(wǎng)新聞信息服務(wù)許可”。五是,，《未成年人保護(hù)法》第七十四條第一款規(guī)定網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者不得向未成年人提供誘導(dǎo)其沉迷的產(chǎn)品和服務(wù),，《規(guī)定》第八條和第十八條作了進(jìn)一步細(xì)化，提出了“不得設(shè)置誘導(dǎo)用戶沉迷”的要求,，并設(shè)置了保護(hù)未成年人的專門條款,。
最后，《規(guī)定》堅持問題導(dǎo)向,，回應(yīng)社會關(guān)切,，在治理格局、價值導(dǎo)向,、風(fēng)險控制,、權(quán)益保障等方面作出全面制度設(shè)計。
一是,，《規(guī)定》構(gòu)建了協(xié)同共治的治理格局,，明確了算法推薦服務(wù)提供者的算法安全主體責(zé)任,。例如，第七條規(guī)定了算法推薦服務(wù)提供者要建立健全算法機制機理審核,、科技倫理審查等管理制度和技術(shù)措施,，制定并公開算法推薦服務(wù)相關(guān)規(guī)則，配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐,，既賦予算法推薦服務(wù)提供者以能動發(fā)展的空間,，同時也設(shè)定了相應(yīng)的主體責(zé)任，有助于與監(jiān)管部門形成良性協(xié)同的治理格局,。二是,，《規(guī)定》明確了算法推薦服務(wù)提供者應(yīng)當(dāng)堅持主流價值導(dǎo)向、促進(jìn)算法應(yīng)用向上向善的基本要求,。例如第八條規(guī)定了算法推薦服務(wù)提供者不得設(shè)置誘導(dǎo)用戶沉迷,、過度消費等算法模型，這是將科技向善理念落實為具體業(yè)務(wù)要求的突出體現(xiàn),。三是,，《規(guī)定》體現(xiàn)了對數(shù)字時代泛風(fēng)險特征的控制，形成了集事前,、事中與事后監(jiān)管于一體的全流程監(jiān)管機制,。例如，第六條規(guī)定了算法推薦服務(wù)提供者不得利用算法推薦服務(wù)從事危害國家安全和社會公共利益等行為的禁止性義務(wù),，第十四條規(guī)定了算法推薦服務(wù)提供者不得利用算法實施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理等行為,，第十五條規(guī)定了算法推薦服務(wù)提供者不得利用算法實施壟斷和不正當(dāng)競爭行為。四是,，《規(guī)定》凸顯了對特殊群體的人文關(guān)懷與權(quán)益保障,，在互聯(lián)網(wǎng)信息服務(wù)日益多元化,、基礎(chǔ)化,、普及化的情況下，精細(xì)化,、有側(cè)重地滿足不同群體的利益訴求,。例如，第十八條規(guī)定了算法推薦服務(wù)提供者在向未成年人提供服務(wù)時,，應(yīng)當(dāng)履行的網(wǎng)絡(luò)保護(hù)義務(wù),，以及便利未成年人獲取有益身心健康信息的企業(yè)責(zé)任，還提出了不得向其推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為,、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的禁止性義務(wù),；又如，第十九條關(guān)注了算法推薦服務(wù)的“適老化”問題,，有針對性地提出了應(yīng)充分考慮老年人出行,、就醫(yī),、消費、辦事等需求,，并依法開展涉電信網(wǎng)絡(luò)詐騙信息監(jiān)測,、識別和處置這一老年人保護(hù)條款；再如,，第二十條回應(yīng)了算法調(diào)度在勞動用工領(lǐng)域產(chǎn)生的權(quán)益保障及激勵問題,，為此類算法推薦服務(wù)完善算法設(shè)計指明了調(diào)整方向。此外,，第二十一條明確了算法推薦服務(wù)提供者不得濫用消費者的偏好,、交易習(xí)慣等特征，利用算法在交易價格等條件上實施不合理的差別待遇等違法行為,，這為制衡非對稱信息關(guān)系,、解決價格歧視等問題，提供了算法治理這一新型路徑,。
總體來看,，《規(guī)定》針對在我國境內(nèi)應(yīng)用生成合成類、個性化推送類,、排序精選類,、檢索過濾類、調(diào)度決策類等算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的行為提出了系統(tǒng)治理方案,，與《網(wǎng)絡(luò)安全法》等相關(guān)法律法規(guī)共同構(gòu)成了我國開展新技術(shù),、新應(yīng)用治理的規(guī)則體系，是數(shù)字時代提升治理能力的重要制度探索,。對落實習(xí)近平總書記提出的“依法治網(wǎng),、依法辦網(wǎng)、依法上網(wǎng),，讓互聯(lián)網(wǎng)在法治軌道上健康運行”要求,，打造清朗網(wǎng)絡(luò)空間，用主流價值導(dǎo)向“駕馭”算法,，具有顯著的推進(jìn)效果,，同時還發(fā)揮著在該領(lǐng)域制定規(guī)則的國際引領(lǐng)力。期待“算法之治”能夠在持續(xù)保障廣大人民群眾“數(shù)字權(quán)益”,、穩(wěn)步推進(jìn)數(shù)字經(jīng)濟健康發(fā)展的進(jìn)程中,，把握住信息化變革新機遇，走好中國特色的網(wǎng)絡(luò)強國之路,。
平臺算法治理制度的中國方案——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》解讀
作者：張凌寒 北京科技大學(xué)副教授
2021年12月,，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、市場監(jiān)管總局發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下文簡稱《規(guī)定》）,，并將于2022年3月1日起施行,。這是我國第一部以算法作為專門規(guī)制對象的部門規(guī)章，具有重要時代意義,?！兑?guī)定》調(diào)整的生成合成類、個性化推送類,、排序精選類,、檢索過濾類、調(diào)度決策類等算法,，被各大平臺廣泛應(yīng)用,，已經(jīng)成為平臺收集和處理數(shù)據(jù)、推送信息,、調(diào)配資源的核心力量,。平臺運行的技術(shù)邏輯是算法，平臺商業(yè)價值和競爭優(yōu)勢的基礎(chǔ)是算法,，同時,，給國家利益、社會公共利益和公民合法權(quán)益帶來風(fēng)險的也可能是算法,?！兑?guī)定》立足中國數(shù)字經(jīng)濟實踐與產(chǎn)業(yè)特色，向世界提供了平臺算法治理的中國方案,，建構(gòu)了具有中國特色的平臺算法治理制度,。《規(guī)定》為平臺應(yīng)用算法劃定明確的法律界限,，對保障信息內(nèi)容安全,、維護(hù)市場競爭秩序、保護(hù)公民權(quán)益等具有至關(guān)重要的作用,。
算法安全理念：明晰平臺算法治理的價值取向
《規(guī)定》所秉持和貫徹的算法安全理念與我國《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》和《個人信息保護(hù)法》等上位法一脈相承,。算法安全理念，要求算法導(dǎo)向正確,、正能量充沛,，算法應(yīng)用公平公正、公開透明,，算法發(fā)展安全可控、自主創(chuàng)新,，有效防范算法濫用帶來的風(fēng)險隱患,。
《規(guī)定》要求平臺作為算法推薦服務(wù)提供者堅持主流價值導(dǎo)向，重視算法安全,，積極傳播正能量,，不得操縱輿論,。《規(guī)定》相關(guān)條款對未成年人身心健康,、老年人合法權(quán)益,、勞動者基本保障給予重點關(guān)注，充分體現(xiàn)了以人民為中心的發(fā)展思想,。與此同時,，《規(guī)定》引導(dǎo)算法推薦服務(wù)提供者促進(jìn)算法應(yīng)用向上向善，保護(hù)消費者權(quán)益,，保證算法決策公平透明,，這也與世界范圍內(nèi)已有的算法治理實踐不謀而合。
算法安全理念內(nèi)涵豐富,，這與平臺算法應(yīng)用涉及的社會領(lǐng)域廣泛性相適應(yīng),。《規(guī)定》貫徹的算法安全理念既涵蓋了我國一貫重視的信息內(nèi)容安全,，也包含著對市場競爭秩序的規(guī)范,，更體現(xiàn)了對普通用戶和未成年人、老年人,、勞動者,、消費者等特定群體的用戶權(quán)益保護(hù)。
健全多元共治：深入平臺內(nèi)部的算法技術(shù)監(jiān)管
《規(guī)定》創(chuàng)新性地構(gòu)建了算法安全風(fēng)險監(jiān)測,、算法安全評估,、算法備案管理和涉算法違法違規(guī)行為處置等多維一體的監(jiān)管體系。這標(biāo)志著我國的平臺治理直接深入到了平臺的底層技術(shù)邏輯——算法,。
人工智能時代的平臺監(jiān)管,，既應(yīng)符合平臺底層的技術(shù)邏輯，也應(yīng)符合主客觀相一致,、責(zé)罰相適應(yīng)的法律原則,。《規(guī)定》建立的算法技術(shù)監(jiān)管體系穿透了平臺運行的“算法技術(shù)面紗”,，將平臺監(jiān)管的觸角和追責(zé)視角直接指向背后的算法責(zé)任,。技術(shù)的應(yīng)用是包含主觀意圖的，平臺在算法設(shè)計,、部署,、運行中包含的主觀意圖與平臺是否盡到合理的注意義務(wù)，是平臺算法追責(zé)的根本指向,。
作為算法推薦服務(wù)提供者的平臺企業(yè)要強化責(zé)任意識,，對算法應(yīng)用產(chǎn)生的結(jié)果承擔(dān)起算法安全的主體責(zé)任。《規(guī)定》要求平臺企業(yè)應(yīng)建立算法安全責(zé)任制度,，設(shè)置平臺內(nèi)的算法安全管理組織機構(gòu),，并配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。平臺要對算法的數(shù)據(jù)使用,、應(yīng)用場景,、影響效果等開展日常監(jiān)測工作，感知算法應(yīng)用帶來的網(wǎng)絡(luò)傳播趨勢,、市場規(guī)則變化,、用戶行為等信息，預(yù)警算法應(yīng)用可能產(chǎn)生的不規(guī)范,、不公平,、不公正等安全問題?！兑?guī)定》要求平臺企業(yè)等算法推薦服務(wù)提供者建立算法安全責(zé)任制度,，與網(wǎng)絡(luò)服務(wù)提供者的網(wǎng)絡(luò)安全運營制度、數(shù)據(jù)處理者的數(shù)據(jù)安全保障制度和個人信息處理者的個人信息保護(hù)制度一起,，共同構(gòu)成了我國平臺企業(yè)需建立完善的安全責(zé)任制度體系,。
《規(guī)定》還勾勒出了我國平臺算法多元共治的治理體系藍(lán)圖。在平臺算法治理中,，要求算法推薦服務(wù)提供者依靠自評估,、第三方評估等，深入分析算法機制機理,、模型,、數(shù)據(jù)和應(yīng)用結(jié)果等，評估算法設(shè)計,、部署和使用等應(yīng)用環(huán)節(jié)的缺陷和漏洞,，避免算法應(yīng)用產(chǎn)生的社會公平、道德倫理,、內(nèi)容管理等安全問題,，共同形成了治理結(jié)構(gòu)高效運行，有法可依,、多元協(xié)同,、多方參與的治理機制。
主體權(quán)責(zé)明確：構(gòu)建平臺算法責(zé)任的問責(zé)機制
當(dāng)技術(shù)造成了損害后果時,，如果不能穿透技術(shù)面紗,，由明確的主體來承擔(dān)責(zé)任，就會存在潛在的責(zé)任缺口,。如果不能解決“誰負(fù)責(zé)”的問題,，放任平臺以“技術(shù)中立”和“算法黑箱”為由繼續(xù)逃避法律責(zé)任,，那么所有的治理努力最終都將失之空泛,。
《規(guī)定》構(gòu)建了平臺算法全生命周期問責(zé)機制,。我國創(chuàng)新性地在世界范圍內(nèi)率先設(shè)立了算法備案制度，要求具有輿論屬性和社會動員能力的算法推薦服務(wù)提供者在提供服務(wù)之日起十個工作日內(nèi)履行備案手續(xù),。算法備案制度的設(shè)立,，是因為合理的平臺算法問責(zé)有賴于清晰的主觀過錯認(rèn)定，需通過算法備案對平臺事前和運行中的問責(zé)點進(jìn)行固定,，以有效判斷平臺是否可以評估,、控制、糾正算法帶來的危害,。算法備案是一種存檔備查的行為,，目的在于獲取平臺設(shè)計部署的具有潛在危害和風(fēng)險的算法系統(tǒng)的相關(guān)信息，為今后追責(zé)提供信息,。備案本身即存在著監(jiān)督效應(yīng),，算法備案制度的信息披露模式、內(nèi)容,、范圍的設(shè)置體現(xiàn)了對于監(jiān)管與自律,、商業(yè)秘密與算法透明、源頭治理與事后追責(zé)等利益的衡量,。
《規(guī)定》第五章“法律責(zé)任”則明確規(guī)定了算法推薦服務(wù)提供者如違反相關(guān)規(guī)定,，需承擔(dān)的法律責(zé)任，責(zé)任形式包括警告,、通報批評,、罰款等，必要時還將給予治安管理處罰和追究刑事責(zé)任,。主體權(quán)責(zé)明確的平臺算法問責(zé)體系,，必將為實現(xiàn)我國算法治理安全目標(biāo)起到關(guān)鍵作用。
算法規(guī)制與平臺治理是人工智能時代世界各國面臨的重要議題,?！兑?guī)定》的出臺不僅直接將算法作為規(guī)制對象，更使得平臺治理的層次與方式邁上了新的臺階,?！兑?guī)定》作為我國算法綜合治理體系的重要組成部分，勢必在提升算法創(chuàng)新能力,，促進(jìn)平臺算法應(yīng)用安全,，增強我國平臺企業(yè)核心競爭力等方面發(fā)揮重要作用。
當(dāng)前位置：