聊城市互聯(lián)網(wǎng)違法和不良信息舉報(bào)平臺(tái)歡迎您
將算法推薦關(guān)進(jìn)法治的籠子里 持續(xù)推進(jìn)完善我國(guó)算法治理體系
作者：梁正 清華大學(xué)公共管理學(xué)院教授,，人工智能?chē)?guó)際治理研究院副院長(zhǎng)
在數(shù)字經(jīng)濟(jì)時(shí)代,，算法是一種重要的生產(chǎn)工具,。算法推薦技術(shù)被廣泛應(yīng)用于信息分發(fā)和媒體傳播領(lǐng)域,，帶來(lái)“信息繭房”,、“大數(shù)據(jù)殺熟”,、“困在系統(tǒng)里”等社會(huì)隱憂,，規(guī)范算法推薦活動(dòng)迫在眉睫,。習(xí)近平總書(shū)記在談媒體融合發(fā)展時(shí)強(qiáng)調(diào),，用主流價(jià)值導(dǎo)向駕馭“算法”，全面提高輿論引導(dǎo)能力,。近日,，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門(mén)聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）正當(dāng)其時(shí)，為規(guī)范算法推薦服務(wù)提出了科學(xué)化,、系統(tǒng)化,、精細(xì)化的合規(guī)要求，織密了我國(guó)算法治理的法治之網(wǎng),，是構(gòu)建我國(guó)算法治理體系的重要一環(huán),。
一,、《規(guī)定》的重要內(nèi)容和亮點(diǎn)
（一）明確了算法治理的對(duì)象?！兑?guī)定》對(duì)應(yīng)用算法推薦技術(shù)進(jìn)行了界定,，即指應(yīng)用生成合成類(lèi)、個(gè)性化推送類(lèi),、排序精選類(lèi),、檢索過(guò)濾類(lèi)、調(diào)度決策類(lèi)等算法技術(shù)向用戶提供信息,?！兑?guī)定》針對(duì)算法調(diào)度場(chǎng)景、商品定價(jià)場(chǎng)景,、個(gè)性化推薦場(chǎng)景等以負(fù)面清單的方式對(duì)算法推薦服務(wù)提供者提出了具體的合規(guī)要求,，回應(yīng)了“騎手困在系統(tǒng)里”、“大數(shù)據(jù)殺熟”,、“網(wǎng)絡(luò)沉迷”,、“未成年人保護(hù)”等社會(huì)熱點(diǎn)問(wèn)題。
（二）確立了算法治理的基本原則,。在算法治理中堅(jiān)持“硬法”和“軟法”相結(jié)合是國(guó)際通行做法,，一方面防范重大風(fēng)險(xiǎn)發(fā)生，另一方面激發(fā)市場(chǎng)主體主動(dòng)合規(guī)的積極性,?！兑?guī)定》要求算法推薦服務(wù)提供者既應(yīng)當(dāng)遵守法律法規(guī)，尊重社會(huì)公德和倫理,，遵守商業(yè)道德和職業(yè)道德,，也應(yīng)當(dāng)遵循公正公平、公開(kāi)透明,、科學(xué)合理和誠(chéng)實(shí)信用的原則,。
（三）重視自我合規(guī)，鼓勵(lì)行業(yè)自律,?！兑?guī)定》鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全自律制度和行業(yè)準(zhǔn)則,，組織制定行業(yè)標(biāo)準(zhǔn),。通過(guò)行業(yè)自律和制定行業(yè)標(biāo)準(zhǔn)的方式可以將各個(gè)參與主體納入其中，利于形成多元主體共治的格局,，充分發(fā)揮社會(huì)公眾的監(jiān)督作用,。
（四）堅(jiān)持社會(huì)主義價(jià)值觀導(dǎo)向，促進(jìn)算法應(yīng)用向上向善,。國(guó)際社會(huì)主張人工智能的“倫理設(shè)計(jì)”,，即在人工智能設(shè)計(jì)研發(fā)階段就導(dǎo)入倫理規(guī)則,，實(shí)現(xiàn)全生命周期的治理。我國(guó)強(qiáng)調(diào)社會(huì)主義核心價(jià)值觀,，構(gòu)建符合我國(guó)國(guó)情的倫理道德標(biāo)準(zhǔn),。《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向,，優(yōu)化算法推薦服務(wù)機(jī)制,，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善,。特別是在算法設(shè)計(jì)過(guò)程中,，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估,、驗(yàn)證算法機(jī)制機(jī)理,、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,，不得設(shè)置誘導(dǎo)用戶沉迷或者過(guò)度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型,。
（五）突出體現(xiàn)以人為本，重視對(duì)特殊群體的權(quán)益保護(hù),?！兑?guī)定》對(duì)用戶權(quán)益保護(hù)進(jìn)行了專章規(guī)定，要求算法推薦服務(wù)提供者向用戶告知算法的基本原理,、目的意圖和主要運(yùn)行機(jī)制等,，以提高算法的透明度。同時(shí),，要求算法推薦服務(wù)提供者充分保障用戶選擇關(guān)閉和獲得算法解釋的權(quán)利?！兑?guī)定》還重點(diǎn)強(qiáng)調(diào)算法推薦服務(wù)提供者應(yīng)當(dāng)向未成年人,、老年人和勞動(dòng)者履行特殊的保障義務(wù)，以確保各類(lèi)社會(huì)主體均獲得法律保護(hù),。
二,、《規(guī)定》明確了算法治理的主要制度工具
（一）以提高算法透明度和可解釋性為基本要求，增強(qiáng)算法可信,。算法具有“黑箱”特征,，自動(dòng)化決策需要人工干預(yù)，避免因算法錯(cuò)誤而導(dǎo)致決策錯(cuò)誤,。同時(shí),，為了增強(qiáng)人們對(duì)算法的信任度，應(yīng)以相對(duì)簡(jiǎn)單,、可理解的方式解釋算法規(guī)則,。為此,，《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)該采取內(nèi)容去重、打散干預(yù)等策略,，優(yōu)化檢索,、排序、選擇,、推送,、展示等規(guī)則的透明度和可解釋性。而且應(yīng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況,，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理,、目的意圖、運(yùn)行機(jī)制等,。
（二）確立分級(jí)分類(lèi)安全管理制度,，實(shí)現(xiàn)精準(zhǔn)治理?！兑?guī)定》指出應(yīng)根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力,、內(nèi)容類(lèi)別、用戶規(guī)模,、算法推薦技術(shù)處理的數(shù)據(jù)重要程度,、對(duì)用戶行為的干預(yù)程度等對(duì)算法推薦服務(wù)提供者實(shí)施分級(jí)分類(lèi)管理。
（三）提出算法備案制度和安全評(píng)估制度,，提高治理敏捷性,。算法備案制度可以讓監(jiān)管機(jī)構(gòu)及時(shí)了解算法推薦服務(wù)的內(nèi)容，同時(shí)提高算法推薦服務(wù)提供者的責(zé)任意識(shí)和安全意識(shí),?！兑?guī)定》要求具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者履行備案手續(xù)，備案的內(nèi)容包括服務(wù)提供者的名稱,、服務(wù)形式,、應(yīng)用領(lǐng)域、算法類(lèi)型,、算法自評(píng)估報(bào)告,、擬公示內(nèi)容等信息。
三,、未來(lái)推進(jìn)算法治理的幾點(diǎn)思考
（一）加快具體制度的落地實(shí)施,，出臺(tái)算法備案和算法安全評(píng)估實(shí)施細(xì)則。備案制度和安全評(píng)估制度是實(shí)現(xiàn)敏捷治理目標(biāo)的很好的制度設(shè)計(jì),，但具體程序,、具體要求和實(shí)施機(jī)制需要明確，相關(guān)義務(wù)主體的標(biāo)準(zhǔn)也需要進(jìn)一步細(xì)化,。
（二）推動(dòng)建立機(jī)制健全,、體系完善,、規(guī)則明晰的算法治理體系。此次《規(guī)定》是對(duì)算法推薦應(yīng)用這一場(chǎng)景的治理嘗試,，也是算法治理的中國(guó)方案,。考慮到算法逐漸被廣泛應(yīng)用于各類(lèi)場(chǎng)景,，未來(lái)應(yīng)該為算法治理建立一套普遍適用的規(guī)則體系,，從而切實(shí)有效規(guī)范各種應(yīng)用場(chǎng)景下的算法。
（三）完善多元主體協(xié)同共治的治理格局,。算法治理是一項(xiàng)專業(yè),、復(fù)雜的長(zhǎng)期工程，面臨挑戰(zhàn)和困境,。算法治理應(yīng)該充分發(fā)揮多元主體的作用,，讓各個(gè)主體參與其中，形成治理合力,。
總之,，《規(guī)定》的頒布意味著我國(guó)算法治理工作進(jìn)入新階段。算法推薦服務(wù)提供者應(yīng)該認(rèn)真學(xué)習(xí)和理解《規(guī)定》,，并嚴(yán)格落實(shí)主體責(zé)任,。廣大用戶也應(yīng)該積極提高算法素養(yǎng)，有效維護(hù)自身合法權(quán)益,。
規(guī)范算法技術(shù)應(yīng)用 構(gòu)建算法治理規(guī)則
作者：王立梅 中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授
規(guī)范算法推薦技術(shù)應(yīng)用并系統(tǒng)制定規(guī)則,，是我國(guó)在數(shù)字經(jīng)濟(jì)快速發(fā)展、信息服務(wù)廣泛拓展的進(jìn)程中,，為更好地貫徹習(xí)近平法治思想,，建設(shè)中國(guó)特色社會(huì)主義法治體系，在互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域進(jìn)行的一項(xiàng)重要制度設(shè)計(jì),?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）是我國(guó)互聯(lián)網(wǎng)法治建設(shè)進(jìn)程中的重要一步，體現(xiàn)了中國(guó)特色社會(huì)主義法治建設(shè)的正確價(jià)值導(dǎo)向,、科技向善的倫理取向、協(xié)同共治的新型格局,、全程監(jiān)管的風(fēng)控理念以及對(duì)特殊群體的人文關(guān)懷,。
首先，《規(guī)定》系統(tǒng)打造了互聯(lián)網(wǎng)信息服務(wù)算法推薦治理方案,，具有全球示范性和國(guó)際引領(lǐng)力,。
算法推薦活動(dòng)，本質(zhì)上是一項(xiàng)信息自動(dòng)化篩選,、個(gè)性化分發(fā)的行為,，需要以信息采集及分析等處理為基礎(chǔ),，其中既蘊(yùn)含了隱私權(quán)、個(gè)人信息權(quán)益,、企業(yè)利益保障等問(wèn)題,，又關(guān)系國(guó)民注意力治理等價(jià)值命題。將算法推薦技術(shù)應(yīng)用到商業(yè)化信息服務(wù)中,，能夠有效提升用戶偏好與推薦內(nèi)容的匹配程度,，也容易造成用戶過(guò)度沉迷、認(rèn)知窄化,、過(guò)度消費(fèi)以及產(chǎn)生新型歧視等問(wèn)題,。從全球立法實(shí)踐來(lái)看，尚未有如此精細(xì)程度與關(guān)注廣度的系統(tǒng)性規(guī)定,。我國(guó)率先推出這部綜合治理互聯(lián)網(wǎng)信息服務(wù)算法推薦的管理規(guī)定,，在全球范圍內(nèi)具有顯著的示范效應(yīng)，在算法監(jiān)管領(lǐng)域也起到了以制定規(guī)則引導(dǎo)科技應(yīng)用,、以適度干預(yù)促進(jìn)應(yīng)用發(fā)展,、以科學(xué)協(xié)調(diào)多方長(zhǎng)遠(yuǎn)利益落實(shí)新發(fā)展理念的效果。
其次,，《規(guī)定》與《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等相關(guān)立法緊密銜接,，共同構(gòu)建多層次的互聯(lián)網(wǎng)信息服務(wù)算法推薦規(guī)范體系。
作為一部由國(guó)家網(wǎng)信辦,、工業(yè)和信息化部,、公安部、市場(chǎng)監(jiān)管總局聯(lián)合制定發(fā)布的部門(mén)規(guī)章,，《規(guī)定》既承接多部上位法的管理要求,，又體現(xiàn)出算法推薦根源于數(shù)據(jù)信息活動(dòng)的特征，還成為了具有創(chuàng)新性和可操作性的行動(dòng)指南,。一是,，在違法和不良信息監(jiān)管方面，《網(wǎng)絡(luò)安全法》第四十七條規(guī)定了網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)加強(qiáng)對(duì)違法信息的管理,，《規(guī)定》第九條第二款承接細(xì)化,，規(guī)定“發(fā)現(xiàn)違法信息的，應(yīng)當(dāng)立即停止傳輸,，采取消除等處置措施,，防止信息擴(kuò)散，保存有關(guān)記錄,，并向網(wǎng)信部門(mén)和有關(guān)部門(mén)報(bào)告”,，并進(jìn)一步要求“發(fā)現(xiàn)不良信息的，應(yīng)當(dāng)按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定予以處置”。二是,，對(duì)于《數(shù)據(jù)安全法》第二十七條規(guī)定的數(shù)據(jù)安全保護(hù)義務(wù),，在《規(guī)定》第七條集中得到了落實(shí)體現(xiàn)，明確了算法推薦服務(wù)提供者的算法安全主體責(zé)任,，對(duì)建立健全數(shù)據(jù)安全和個(gè)人信息保護(hù)等的管理制度和技術(shù)措施,、制定相關(guān)規(guī)則、配套相應(yīng)人員和技術(shù)支撐等作出了要求,。三是,，在自動(dòng)化決策方面，《規(guī)定》第十七條第一款承接《個(gè)人信息保護(hù)法》第二十四條第二款和《電子商務(wù)法》第十八條第一款,，規(guī)定用戶選擇關(guān)閉算法推薦服務(wù)的,，算法推薦服務(wù)提供者應(yīng)當(dāng)“立即停止”提供相關(guān)服務(wù)；《規(guī)定》第十七條第二款承接落實(shí)了《個(gè)人信息保護(hù)法》中個(gè)人信息主體所享有的選擇,、刪除等權(quán)利,，第三款明確提出了算法推薦服務(wù)提供者應(yīng)用算法對(duì)用戶權(quán)益造成重大影響的，應(yīng)當(dāng)依法予以說(shuō)明并承擔(dān)相應(yīng)責(zé)任,。四是,，在特定領(lǐng)域的應(yīng)用方面，按照《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》第五條要求,，《規(guī)定》第十三條明確要求“算法推薦服務(wù)提供者提供互聯(lián)網(wǎng)新聞信息服務(wù)的,，應(yīng)當(dāng)依法取得互聯(lián)網(wǎng)新聞信息服務(wù)許可”。五是,，《未成年人保護(hù)法》第七十四條第一款規(guī)定網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者不得向未成年人提供誘導(dǎo)其沉迷的產(chǎn)品和服務(wù),，《規(guī)定》第八條和第十八條作了進(jìn)一步細(xì)化，提出了“不得設(shè)置誘導(dǎo)用戶沉迷”的要求,，并設(shè)置了保護(hù)未成年人的專門(mén)條款,。
最后，《規(guī)定》堅(jiān)持問(wèn)題導(dǎo)向,，回應(yīng)社會(huì)關(guān)切,，在治理格局、價(jià)值導(dǎo)向,、風(fēng)險(xiǎn)控制,、權(quán)益保障等方面作出全面制度設(shè)計(jì)。
一是,，《規(guī)定》構(gòu)建了協(xié)同共治的治理格局,，明確了算法推薦服務(wù)提供者的算法安全主體責(zé)任。例如,，第七條規(guī)定了算法推薦服務(wù)提供者要建立健全算法機(jī)制機(jī)理審核、科技倫理審查等管理制度和技術(shù)措施,，制定并公開(kāi)算法推薦服務(wù)相關(guān)規(guī)則,，配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐,，既賦予算法推薦服務(wù)提供者以能動(dòng)發(fā)展的空間，同時(shí)也設(shè)定了相應(yīng)的主體責(zé)任,，有助于與監(jiān)管部門(mén)形成良性協(xié)同的治理格局,。二是，《規(guī)定》明確了算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向,、促進(jìn)算法應(yīng)用向上向善的基本要求,。例如第八條規(guī)定了算法推薦服務(wù)提供者不得設(shè)置誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)等算法模型,，這是將科技向善理念落實(shí)為具體業(yè)務(wù)要求的突出體現(xiàn),。三是，《規(guī)定》體現(xiàn)了對(duì)數(shù)字時(shí)代泛風(fēng)險(xiǎn)特征的控制,，形成了集事前,、事中與事后監(jiān)管于一體的全流程監(jiān)管機(jī)制。例如,，第六條規(guī)定了算法推薦服務(wù)提供者不得利用算法推薦服務(wù)從事危害國(guó)家安全和社會(huì)公共利益等行為的禁止性義務(wù),，第十四條規(guī)定了算法推薦服務(wù)提供者不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理等行為，第十五條規(guī)定了算法推薦服務(wù)提供者不得利用算法實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為,。四是,，《規(guī)定》凸顯了對(duì)特殊群體的人文關(guān)懷與權(quán)益保障，在互聯(lián)網(wǎng)信息服務(wù)日益多元化,、基礎(chǔ)化,、普及化的情況下，精細(xì)化,、有側(cè)重地滿足不同群體的利益訴求,。例如，第十八條規(guī)定了算法推薦服務(wù)提供者在向未成年人提供服務(wù)時(shí),，應(yīng)當(dāng)履行的網(wǎng)絡(luò)保護(hù)義務(wù),，以及便利未成年人獲取有益身心健康信息的企業(yè)責(zé)任，還提出了不得向其推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為,、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的禁止性義務(wù),；又如，第十九條關(guān)注了算法推薦服務(wù)的“適老化”問(wèn)題,，有針對(duì)性地提出了應(yīng)充分考慮老年人出行,、就醫(yī)、消費(fèi),、辦事等需求,，并依法開(kāi)展涉電信網(wǎng)絡(luò)詐騙信息監(jiān)測(cè)、識(shí)別和處置這一老年人保護(hù)條款；再如,，第二十條回應(yīng)了算法調(diào)度在勞動(dòng)用工領(lǐng)域產(chǎn)生的權(quán)益保障及激勵(lì)問(wèn)題,，為此類(lèi)算法推薦服務(wù)完善算法設(shè)計(jì)指明了調(diào)整方向。此外,，第二十一條明確了算法推薦服務(wù)提供者不得濫用消費(fèi)者的偏好,、交易習(xí)慣等特征，利用算法在交易價(jià)格等條件上實(shí)施不合理的差別待遇等違法行為,，這為制衡非對(duì)稱信息關(guān)系,、解決價(jià)格歧視等問(wèn)題，提供了算法治理這一新型路徑,。
總體來(lái)看,，《規(guī)定》針對(duì)在我國(guó)境內(nèi)應(yīng)用生成合成類(lèi)、個(gè)性化推送類(lèi),、排序精選類(lèi),、檢索過(guò)濾類(lèi)、調(diào)度決策類(lèi)等算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的行為提出了系統(tǒng)治理方案,，與《網(wǎng)絡(luò)安全法》等相關(guān)法律法規(guī)共同構(gòu)成了我國(guó)開(kāi)展新技術(shù),、新應(yīng)用治理的規(guī)則體系，是數(shù)字時(shí)代提升治理能力的重要制度探索,。對(duì)落實(shí)習(xí)近平總書(shū)記提出的“依法治網(wǎng),、依法辦網(wǎng)、依法上網(wǎng),，讓互聯(lián)網(wǎng)在法治軌道上健康運(yùn)行”要求,，打造清朗網(wǎng)絡(luò)空間，用主流價(jià)值導(dǎo)向“駕馭”算法,，具有顯著的推進(jìn)效果,，同時(shí)還發(fā)揮著在該領(lǐng)域制定規(guī)則的國(guó)際引領(lǐng)力。期待“算法之治”能夠在持續(xù)保障廣大人民群眾“數(shù)字權(quán)益”,、穩(wěn)步推進(jìn)數(shù)字經(jīng)濟(jì)健康發(fā)展的進(jìn)程中,，把握住信息化變革新機(jī)遇，走好中國(guó)特色的網(wǎng)絡(luò)強(qiáng)國(guó)之路,。
平臺(tái)算法治理制度的中國(guó)方案——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》解讀
作者：張凌寒 北京科技大學(xué)副教授
2021年12月,，國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部,、市場(chǎng)監(jiān)管總局發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下文簡(jiǎn)稱《規(guī)定》）,，并將于2022年3月1日起施行。這是我國(guó)第一部以算法作為專門(mén)規(guī)制對(duì)象的部門(mén)規(guī)章,，具有重要時(shí)代意義,?！兑?guī)定》調(diào)整的生成合成類(lèi)、個(gè)性化推送類(lèi),、排序精選類(lèi),、檢索過(guò)濾類(lèi)、調(diào)度決策類(lèi)等算法,，被各大平臺(tái)廣泛應(yīng)用，已經(jīng)成為平臺(tái)收集和處理數(shù)據(jù),、推送信息,、調(diào)配資源的核心力量。平臺(tái)運(yùn)行的技術(shù)邏輯是算法,，平臺(tái)商業(yè)價(jià)值和競(jìng)爭(zhēng)優(yōu)勢(shì)的基礎(chǔ)是算法,，同時(shí)，給國(guó)家利益,、社會(huì)公共利益和公民合法權(quán)益帶來(lái)風(fēng)險(xiǎn)的也可能是算法,。《規(guī)定》立足中國(guó)數(shù)字經(jīng)濟(jì)實(shí)踐與產(chǎn)業(yè)特色,，向世界提供了平臺(tái)算法治理的中國(guó)方案,，建構(gòu)了具有中國(guó)特色的平臺(tái)算法治理制度?！兑?guī)定》為平臺(tái)應(yīng)用算法劃定明確的法律界限,，對(duì)保障信息內(nèi)容安全、維護(hù)市場(chǎng)競(jìng)爭(zhēng)秩序,、保護(hù)公民權(quán)益等具有至關(guān)重要的作用,。
算法安全理念：明晰平臺(tái)算法治理的價(jià)值取向
《規(guī)定》所秉持和貫徹的算法安全理念與我國(guó)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》等上位法一脈相承。算法安全理念,，要求算法導(dǎo)向正確,、正能量充沛，算法應(yīng)用公平公正,、公開(kāi)透明,，算法發(fā)展安全可控、自主創(chuàng)新,，有效防范算法濫用帶來(lái)的風(fēng)險(xiǎn)隱患,。
《規(guī)定》要求平臺(tái)作為算法推薦服務(wù)提供者堅(jiān)持主流價(jià)值導(dǎo)向，重視算法安全,，積極傳播正能量,，不得操縱輿論?！兑?guī)定》相關(guān)條款對(duì)未成年人身心健康,、老年人合法權(quán)益,、勞動(dòng)者基本保障給予重點(diǎn)關(guān)注，充分體現(xiàn)了以人民為中心的發(fā)展思想,。與此同時(shí),，《規(guī)定》引導(dǎo)算法推薦服務(wù)提供者促進(jìn)算法應(yīng)用向上向善，保護(hù)消費(fèi)者權(quán)益,，保證算法決策公平透明,，這也與世界范圍內(nèi)已有的算法治理實(shí)踐不謀而合。
算法安全理念內(nèi)涵豐富,，這與平臺(tái)算法應(yīng)用涉及的社會(huì)領(lǐng)域廣泛性相適應(yīng),。《規(guī)定》貫徹的算法安全理念既涵蓋了我國(guó)一貫重視的信息內(nèi)容安全,，也包含著對(duì)市場(chǎng)競(jìng)爭(zhēng)秩序的規(guī)范,，更體現(xiàn)了對(duì)普通用戶和未成年人、老年人,、勞動(dòng)者,、消費(fèi)者等特定群體的用戶權(quán)益保護(hù)。
健全多元共治：深入平臺(tái)內(nèi)部的算法技術(shù)監(jiān)管
《規(guī)定》創(chuàng)新性地構(gòu)建了算法安全風(fēng)險(xiǎn)監(jiān)測(cè),、算法安全評(píng)估,、算法備案管理和涉算法違法違規(guī)行為處置等多維一體的監(jiān)管體系。這標(biāo)志著我國(guó)的平臺(tái)治理直接深入到了平臺(tái)的底層技術(shù)邏輯——算法,。
人工智能時(shí)代的平臺(tái)監(jiān)管,，既應(yīng)符合平臺(tái)底層的技術(shù)邏輯，也應(yīng)符合主客觀相一致,、責(zé)罰相適應(yīng)的法律原則,。《規(guī)定》建立的算法技術(shù)監(jiān)管體系穿透了平臺(tái)運(yùn)行的“算法技術(shù)面紗”,，將平臺(tái)監(jiān)管的觸角和追責(zé)視角直接指向背后的算法責(zé)任,。技術(shù)的應(yīng)用是包含主觀意圖的，平臺(tái)在算法設(shè)計(jì),、部署,、運(yùn)行中包含的主觀意圖與平臺(tái)是否盡到合理的注意義務(wù)，是平臺(tái)算法追責(zé)的根本指向,。
作為算法推薦服務(wù)提供者的平臺(tái)企業(yè)要強(qiáng)化責(zé)任意識(shí),，對(duì)算法應(yīng)用產(chǎn)生的結(jié)果承擔(dān)起算法安全的主體責(zé)任?！兑?guī)定》要求平臺(tái)企業(yè)應(yīng)建立算法安全責(zé)任制度,，設(shè)置平臺(tái)內(nèi)的算法安全管理組織機(jī)構(gòu)，并配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐,。平臺(tái)要對(duì)算法的數(shù)據(jù)使用,、應(yīng)用場(chǎng)景,、影響效果等開(kāi)展日常監(jiān)測(cè)工作，感知算法應(yīng)用帶來(lái)的網(wǎng)絡(luò)傳播趨勢(shì),、市場(chǎng)規(guī)則變化,、用戶行為等信息，預(yù)警算法應(yīng)用可能產(chǎn)生的不規(guī)范,、不公平,、不公正等安全問(wèn)題?！兑?guī)定》要求平臺(tái)企業(yè)等算法推薦服務(wù)提供者建立算法安全責(zé)任制度,，與網(wǎng)絡(luò)服務(wù)提供者的網(wǎng)絡(luò)安全運(yùn)營(yíng)制度、數(shù)據(jù)處理者的數(shù)據(jù)安全保障制度和個(gè)人信息處理者的個(gè)人信息保護(hù)制度一起,，共同構(gòu)成了我國(guó)平臺(tái)企業(yè)需建立完善的安全責(zé)任制度體系。
《規(guī)定》還勾勒出了我國(guó)平臺(tái)算法多元共治的治理體系藍(lán)圖,。在平臺(tái)算法治理中,，要求算法推薦服務(wù)提供者依靠自評(píng)估、第三方評(píng)估等,，深入分析算法機(jī)制機(jī)理,、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,，評(píng)估算法設(shè)計(jì),、部署和使用等應(yīng)用環(huán)節(jié)的缺陷和漏洞，避免算法應(yīng)用產(chǎn)生的社會(huì)公平,、道德倫理,、內(nèi)容管理等安全問(wèn)題，共同形成了治理結(jié)構(gòu)高效運(yùn)行,，有法可依,、多元協(xié)同、多方參與的治理機(jī)制,。
主體權(quán)責(zé)明確：構(gòu)建平臺(tái)算法責(zé)任的問(wèn)責(zé)機(jī)制
當(dāng)技術(shù)造成了損害后果時(shí),，如果不能穿透技術(shù)面紗，由明確的主體來(lái)承擔(dān)責(zé)任,，就會(huì)存在潛在的責(zé)任缺口,。如果不能解決“誰(shuí)負(fù)責(zé)”的問(wèn)題，放任平臺(tái)以“技術(shù)中立”和“算法黑箱”為由繼續(xù)逃避法律責(zé)任,，那么所有的治理努力最終都將失之空泛,。
《規(guī)定》構(gòu)建了平臺(tái)算法全生命周期問(wèn)責(zé)機(jī)制。我國(guó)創(chuàng)新性地在世界范圍內(nèi)率先設(shè)立了算法備案制度,，要求具有輿論屬性和社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者在提供服務(wù)之日起十個(gè)工作日內(nèi)履行備案手續(xù),。算法備案制度的設(shè)立,，是因?yàn)楹侠淼钠脚_(tái)算法問(wèn)責(zé)有賴于清晰的主觀過(guò)錯(cuò)認(rèn)定，需通過(guò)算法備案對(duì)平臺(tái)事前和運(yùn)行中的問(wèn)責(zé)點(diǎn)進(jìn)行固定,，以有效判斷平臺(tái)是否可以評(píng)估,、控制、糾正算法帶來(lái)的危害,。算法備案是一種存檔備查的行為,，目的在于獲取平臺(tái)設(shè)計(jì)部署的具有潛在危害和風(fēng)險(xiǎn)的算法系統(tǒng)的相關(guān)信息，為今后追責(zé)提供信息,。備案本身即存在著監(jiān)督效應(yīng),，算法備案制度的信息披露模式、內(nèi)容,、范圍的設(shè)置體現(xiàn)了對(duì)于監(jiān)管與自律,、商業(yè)秘密與算法透明、源頭治理與事后追責(zé)等利益的衡量,。
《規(guī)定》第五章“法律責(zé)任”則明確規(guī)定了算法推薦服務(wù)提供者如違反相關(guān)規(guī)定,，需承擔(dān)的法律責(zé)任，責(zé)任形式包括警告,、通報(bào)批評(píng),、罰款等，必要時(shí)還將給予治安管理處罰和追究刑事責(zé)任,。主體權(quán)責(zé)明確的平臺(tái)算法問(wèn)責(zé)體系,，必將為實(shí)現(xiàn)我國(guó)算法治理安全目標(biāo)起到關(guān)鍵作用。
算法規(guī)制與平臺(tái)治理是人工智能時(shí)代世界各國(guó)面臨的重要議題,?！兑?guī)定》的出臺(tái)不僅直接將算法作為規(guī)制對(duì)象，更使得平臺(tái)治理的層次與方式邁上了新的臺(tái)階,?！兑?guī)定》作為我國(guó)算法綜合治理體系的重要組成部分，勢(shì)必在提升算法創(chuàng)新能力,，促進(jìn)平臺(tái)算法應(yīng)用安全,，增強(qiáng)我國(guó)平臺(tái)企業(yè)核心競(jìng)爭(zhēng)力等方面發(fā)揮重要作用。
當(dāng)前位置：