聊城市互聯(lián)網(wǎng)違法和不良信息舉報平臺歡迎您
聚焦算法推薦亂象問題 構(gòu)建算法安全治理體系
作者：楊建軍 中國電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書記
隨著大數(shù)據(jù)和人工智能技術(shù)的快速發(fā)展,，算法推薦技術(shù)在互聯(lián)網(wǎng)信息服務(wù)中得到廣泛應(yīng)用，與此同時算法應(yīng)用中存在的違法和不良信息傳播,、侵害用戶權(quán)益,、操縱社會輿論等亂象問題也屢次出現(xiàn),。2021年12月31日,，國家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部,、公安部,、國家市場監(jiān)管總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）,。作為互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域貫徹落實(shí)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》的重要舉措，《規(guī)定》聚焦算法推薦服務(wù)亂象問題,，構(gòu)建算法安全治理體系,，有效規(guī)范了互聯(lián)網(wǎng)信息服務(wù)算法推薦活動。
一,、《規(guī)定》為應(yīng)對算法推薦亂象提供指引和規(guī)范
（一）聚焦違法和不良信息傳播問題,，引導(dǎo)算法應(yīng)用合理規(guī)范
當(dāng)前，算法推薦服務(wù)提供者在開展新聞信息推送、熱點(diǎn)榜單,、信息發(fā)布等活動時,，存在傳播違法和不良信息的亂象：一是利用生成合成類算法自動合成新聞、帖子等,，未作顯著標(biāo)識造成虛假信息夸大傳播,；二是采用定向推送類算法在首頁首屏、彈窗等,，扎堆推送惡性案件,、災(zāi)難事故等負(fù)面信息誘發(fā)社會恐慌；三是利用排序精選類算法生成熱搜,、榜單等,，片面追求流量，大肆炒作娛樂八卦,、低俗惡俗等有悖社會主義核心價值觀內(nèi)容,。
針對違法和不良信息傳播問題，《規(guī)定》明確算法推薦服務(wù)向上向善的原則,，提出算法推薦服務(wù)提供者應(yīng)建立健全用于識別違法和不良信息的特征庫,、顯著標(biāo)識算法生成合成信息、加強(qiáng)版面頁面生態(tài)管理,、重點(diǎn)環(huán)節(jié)積極呈現(xiàn)主流價值導(dǎo)向信息等多項(xiàng)措施,，鼓勵符合主流價值導(dǎo)向的正能量傳播。
（二）聚焦侵害用戶權(quán)益亂象,，引導(dǎo)算法應(yīng)用公正公平
當(dāng)前,，算法推薦服務(wù)提供者在開展調(diào)度決策、個性化推薦等活動時,，存在侵害用戶權(quán)益的亂象：一是大數(shù)據(jù)殺熟問題,，即根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征,，在交易價格等交易條件上實(shí)行不合理的差別待遇；二是誘導(dǎo)沉迷網(wǎng)絡(luò)問題,，即設(shè)置誘導(dǎo)用戶沉迷,、過度消費(fèi)的算法模型，尤其是利用算法推薦誘導(dǎo)未成年人沉迷網(wǎng)絡(luò),；三是勞動權(quán)益保障問題,，采用調(diào)度決策類算法進(jìn)行工作調(diào)度時，未保障平臺內(nèi)勞動就業(yè)者（如網(wǎng)約配送員,、網(wǎng)約車駕駛員等）在勞務(wù)報酬,、休息休假等方面的勞動權(quán)益；四是偏見歧視問題，將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn),，或者設(shè)置歧視性,、偏見性用戶標(biāo)簽來推送信息內(nèi)容；五是未成年人和老年人權(quán)益保障問題,，向未成年人推送可能影響身心健康的信息,，未充分考慮老年人適老化需求等。
針對侵害用戶權(quán)益亂象,，《規(guī)定》明確算法推薦服務(wù)公正公平的原則,，提出算法推薦服務(wù)提供者應(yīng)定期審核評估算法、加強(qiáng)用戶模型和用戶標(biāo)簽管理,、公開算法推薦服務(wù)相關(guān)規(guī)則,、保障用戶選擇或退出使用算法推薦服務(wù)的權(quán)利、建立用戶申訴渠道等多種措施,，保障未成年人,、老年人、勞動者權(quán)益,，引導(dǎo)算法應(yīng)用遵守社會公德和倫理,，遵守商業(yè)道德和職業(yè)道德。
（三）聚焦操縱社會輿論亂象,，引導(dǎo)算法應(yīng)用公開透明
當(dāng)前,，算法推薦服務(wù)提供者在開展個性化推薦、熱點(diǎn)榜單,、信息發(fā)布等活動時,，存在操縱社會輿論亂象：一是采用個性化推薦算法按照用戶偏好頻繁推薦感興趣的內(nèi)容，久而久之形成用戶意見極化的“信息繭房”,；二是利用算法注冊虛假賬號,、雇傭網(wǎng)絡(luò)水軍，實(shí)施虛假點(diǎn)贊,、轉(zhuǎn)發(fā)等流量造假,，或者鼓動“飯圈”粉絲互撕謾罵、刷量控評等飯圈亂象,；三是利用算法屏蔽信息,、過度推薦，操縱干預(yù)熱搜,、榜單或檢索結(jié)果排序,；四是實(shí)施自我優(yōu)待，影響網(wǎng)絡(luò)輿論,、規(guī)避監(jiān)管,，如惡意屏蔽其他企業(yè)的網(wǎng)址鏈接等,。
針對操縱社會輿論亂象，《規(guī)定》明確算法推薦服務(wù)公開透明的原則,，鼓勵算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重,、打散干預(yù)等策略、增強(qiáng)規(guī)則透明度和可解釋性,；明確規(guī)定算法推薦服務(wù)禁止行為,，如不得利用算法對其他互聯(lián)網(wǎng)信息服務(wù)提供者進(jìn)行不合理限制等，保障國家安全,、公共利益及組織和個人合法權(quán)益,。
二、《規(guī)定》為國家建立算法安全治理體系打下制度基礎(chǔ)
（一）強(qiáng)化企業(yè)主體責(zé)任,，建立多方參與的算法推薦服務(wù)治理機(jī)制
《規(guī)定》圍繞算法推薦服務(wù),，建立政府、企業(yè),、行業(yè)組織和網(wǎng)民多方參與的治理機(jī)制,。一是明確政府監(jiān)管職責(zé)?！兑?guī)定》明確國家網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國算法推薦服務(wù)治理和監(jiān)督管理工作,，工信、公安,、市場監(jiān)管等有關(guān)部門依據(jù)各自職責(zé)負(fù)責(zé)監(jiān)督管理工作,，同時通過《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》建立網(wǎng)信、宣傳,、教育,、科技等多部門協(xié)同聯(lián)動長效機(jī)制，共同開展算法安全治理工作,；二是強(qiáng)化企業(yè)主體責(zé)任,。《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任,，建立健全算法安全管理制度和技術(shù)措施,，配備相應(yīng)的專業(yè)人員和技術(shù)支撐；三是鼓勵行業(yè)自律,?！兑?guī)定》鼓勵相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全行業(yè)準(zhǔn)則,，督促指導(dǎo)算法推薦服務(wù)提供者接受社會監(jiān)督；四是倡導(dǎo)社會監(jiān)督,?！兑?guī)定》鼓勵廣大網(wǎng)民積極參與算法安全治理工作,，要求算法推薦服務(wù)提供者設(shè)置公眾投訴舉報入口，及時處理網(wǎng)民投訴舉報請求,。
（二）創(chuàng)新技術(shù)監(jiān)管模式,，建立事前事中事后的算法推薦服務(wù)監(jiān)管措施
《規(guī)定》提出貫穿算法推薦服務(wù)事前事中事后的監(jiān)管體系。一是分級分類安全管理,?！兑?guī)定》根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、用戶規(guī)模,、處理的數(shù)據(jù)敏感程度等對服務(wù)提供者實(shí)施分級分類管理,，并對具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者提出更嚴(yán)格的管理要求；二是建立算法備案制度,?！兑?guī)定》要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者在提供服務(wù)之日起十個工作日內(nèi)，對服務(wù)提供者的名稱,、服務(wù)形式,、應(yīng)用領(lǐng)域等信息進(jìn)行備案；三是建立算法安全評估機(jī)制,?！兑?guī)定》要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)按照國家有關(guān)規(guī)定開展安全評估；四是開展算法監(jiān)督檢查,?！兑?guī)定》規(guī)定網(wǎng)信部門會同有關(guān)部門開展算法安全評估和監(jiān)督檢查工作，同時嚴(yán)厲打擊算法推薦違法違規(guī)行為,。
三,、小結(jié)
互聯(lián)網(wǎng)信息服務(wù)算法安全管理以《規(guī)定》為基礎(chǔ)，打造政府監(jiān)管,、企業(yè)履責(zé),、行業(yè)自律、社會監(jiān)督的算法安全多元共治局面,，在促進(jìn)算法健康,、有序、繁榮發(fā)展,，營造風(fēng)清氣正的網(wǎng)絡(luò)空間,，弘揚(yáng)社會主義核心價值觀的道路上邁出了重要的一步。下一步為貫徹落實(shí)《規(guī)定》可開展以下措施：
一是大力加強(qiáng)《規(guī)定》宣傳貫徹培訓(xùn),。做好《規(guī)定》宣傳推廣,、普及培訓(xùn)，面向互聯(lián)網(wǎng)企業(yè),、人工智能企業(yè),、重點(diǎn)行業(yè)企業(yè)等開展針對性宣傳解讀,，形成共識；鼓勵行業(yè)組織制定行業(yè)自律規(guī)則,，指導(dǎo)會員加強(qiáng)算法推薦行業(yè)自律,；針對廣大網(wǎng)民當(dāng)前最關(guān)心、反映最強(qiáng)烈的算法安全問題,，積極開展算法安全科普培訓(xùn),，形成國家、企業(yè),、個人共同參與算法安全治理工作的良好局面,。
二是建立算法安全檢查評估機(jī)制。盡快建立《規(guī)定》配套的算法安全檢查評估機(jī)制,，推動算法推薦服務(wù)提供者開展算法安全自評估,，督促具有輿論屬性或者社會動員能力的算法推薦服務(wù)者按照國家有關(guān)規(guī)定開展算法安全評估，建設(shè)安全檢查評估力量,，支撐有關(guān)部門對算法推薦服務(wù)進(jìn)行安全檢查,，督促算法推薦服務(wù)提供者及時發(fā)現(xiàn)和整改相關(guān)問題。
三是開展算法安全技術(shù)能力建設(shè),。算法推薦技術(shù)作為一種新技術(shù)模式,，面臨一些新型技術(shù)安全、應(yīng)用安全甚至倫理安全風(fēng)險,，為支撐《規(guī)定》落地實(shí)施,，亟需加強(qiáng)算法安全技術(shù)能力建設(shè)，深入研究生成合成,、個性化推薦,、排序精選、檢索過濾,、調(diào)度決策等算法的安全問題,，建設(shè)算法推薦服務(wù)備案、算法安全評估,、算法安全風(fēng)險監(jiān)測等平臺,，提升互聯(lián)網(wǎng)信息服務(wù)算法推薦技術(shù)監(jiān)管能力。
四是加強(qiáng)算法安全標(biāo)準(zhǔn)化工作,?；趩栴}導(dǎo)向、急用先行原則,，加快推動算法相關(guān)技術(shù)標(biāo)準(zhǔn)發(fā)布,，研究制定算法安全評估、算法分級分類安全管理等標(biāo)準(zhǔn),，進(jìn)一步發(fā)揮標(biāo)準(zhǔn)對算法安全評估等工作的支撐作用,；積極開展新技術(shù)新應(yīng)用標(biāo)準(zhǔn)化前瞻研究,，圍繞人工智能、區(qū)塊鏈等新技術(shù)新應(yīng)用帶來的安全問題和風(fēng)險挑戰(zhàn),，開展標(biāo)準(zhǔn)化前沿研究和標(biāo)準(zhǔn)化技術(shù)文件研制，不斷提升標(biāo)準(zhǔn)化工作的引領(lǐng)性,、前瞻性,。
加強(qiáng)算法治理 建設(shè)未成年人友好型的網(wǎng)絡(luò)空間
作者：林維 中國社會科學(xué)院大學(xué)副校長、教授,、互聯(lián)網(wǎng)法治研究中心主任
習(xí)近平總書記指出：網(wǎng)絡(luò)空間是億萬民眾共同的精神家園,，網(wǎng)絡(luò)空間天朗氣清、生態(tài)良好,，符合人民利益,。網(wǎng)絡(luò)空間烏煙瘴氣、生態(tài)惡化,，不符合人民利益,。未成年人的網(wǎng)絡(luò)生態(tài)建設(shè)是這一精神家園建設(shè)中的重要任務(wù)之一。
十余年來,，未成年網(wǎng)民的規(guī)模呈現(xiàn)不斷增長的趨勢,。據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心第48次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報告》顯示，截至2021年6月,，我國網(wǎng)民規(guī)模為10.11億,，6－19歲網(wǎng)民占15.7％，共1.58億人,。同時根據(jù)第十次中國未成年人互聯(lián)網(wǎng)運(yùn)用調(diào)查顯示,，我國未成年人互聯(lián)網(wǎng)普及率為99.2％，顯著高于71.6％的全國平均普及率,。
網(wǎng)絡(luò)為未成年人帶來了嶄新的生存方式,，也引發(fā)了未成年人網(wǎng)絡(luò)保護(hù)的挑戰(zhàn)問題，未成年人的網(wǎng)絡(luò)生活,、交往成為其生活交往中無法擺脫,、無法分割的一部分，線上線下的二元化生活加快了一元融合的節(jié)奏,。未成年人的網(wǎng)絡(luò)參與行為成為社會網(wǎng)絡(luò)行為的重要構(gòu)建內(nèi)容,，其在網(wǎng)絡(luò)生態(tài)建設(shè)中的主體地位勢必應(yīng)當(dāng)?shù)玫匠姓J(rèn)和確立。網(wǎng)絡(luò)強(qiáng)國的未來主體必定是一代又一代成長中的未成年人,。無論是網(wǎng)絡(luò)新技術(shù)的發(fā)展,，還是網(wǎng)絡(luò)新生活的構(gòu)建，乃至網(wǎng)絡(luò)新文化的傳承,，都依賴一代又一代已經(jīng)成為網(wǎng)絡(luò)原住民的未成年人的發(fā)展與成長,。因此,，網(wǎng)絡(luò)生態(tài)建設(shè)的任務(wù)之一就是要建設(shè)一個未成年人友好型的網(wǎng)絡(luò)空間。
《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）的制定和實(shí)施,，為我國未成年人網(wǎng)絡(luò)權(quán)益保護(hù)的制度框架提供了重要的組成部分,，繼《未成年人保護(hù)法》《兒童個人信息網(wǎng)絡(luò)保護(hù)規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律文件之后，在算法領(lǐng)域構(gòu)建了未成年人網(wǎng)絡(luò)權(quán)益保護(hù)的基本綱領(lǐng),，提供了保護(hù)和發(fā)展并行的中國方案,。
首先，《規(guī)定》制定了未成年人保護(hù)專條（第十八條）,，專門針對未成年人權(quán)益保護(hù)規(guī)定了算法推薦服務(wù)提供者的一系列義務(wù),，要求向未成年人提供服務(wù)時，“應(yīng)當(dāng)依法履行未成年人網(wǎng)絡(luò)保護(hù)義務(wù),，并通過開發(fā)適合未成年人使用的模式,、提供適合未成年人特點(diǎn)的服務(wù)等方式，便利未成年人獲取有益身心健康的信息,?！痹诰唧w禁止性義務(wù)層面，該條進(jìn)一步規(guī)定,，“算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德的行為,、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò),?！?/p>
未成年人保護(hù)專條從積極義務(wù)和消極義務(wù)兩個方面，構(gòu)建了算法推薦服務(wù)提供者的未成年人保護(hù)義務(wù)體系,。這意味著,，算法推薦服務(wù)提供者不僅需要筑起保護(hù)未成年人免受不良信息侵害的防護(hù)墻，還需要為未成年人獲取有益信息承擔(dān)積極主動的社會責(zé)任,，通過在未成年人模式等專門模式下,，建設(shè)并不斷充實(shí)健康向上、適合未成年人身心特點(diǎn),、具備良好使用體驗(yàn)和充分吸引力的內(nèi)容池,，保護(hù)和發(fā)展并重，為未成年人積極構(gòu)建風(fēng)清氣朗的網(wǎng)絡(luò)空間,，保證未成年人可以通過網(wǎng)絡(luò)繼續(xù)拓展視野,、發(fā)展自我，建設(shè)未成年人友好型的網(wǎng)絡(luò)空間,。
特別需要指出的是,，《規(guī)定》強(qiáng)調(diào)了《未成年人保護(hù)法》網(wǎng)絡(luò)保護(hù)專章中確認(rèn)的不得誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)的規(guī)定。算法作為移動互聯(lián)網(wǎng)時代的重要技術(shù)創(chuàng)新，算法推薦服務(wù)的重要特點(diǎn)即在于能夠通過判斷和預(yù)測用戶偏好,，向用戶推送個性化的服務(wù)內(nèi)容,。未成年人存在認(rèn)知、判斷能力較弱,，價值觀尚未成型等特點(diǎn),，針對性過強(qiáng)的算法推送內(nèi)容有可能引發(fā)各種不良效果，亦可能導(dǎo)致沉迷網(wǎng)絡(luò)現(xiàn)象,。針對這一重點(diǎn)問題做出明確的強(qiáng)調(diào)和規(guī)定,，體現(xiàn)了《規(guī)定》強(qiáng)化落實(shí)算法領(lǐng)域防沉迷義務(wù)的堅(jiān)定態(tài)度。
其次,，在未成年人保護(hù)專條之外，《規(guī)定》從內(nèi)容生態(tài)治理,、用戶標(biāo)簽管理,、用戶權(quán)益保護(hù)多個層面對于算法推薦服務(wù)構(gòu)建全流程、深層次的監(jiān)管框架,，為未成年人權(quán)益保護(hù)構(gòu)建了多重屏障,。
從內(nèi)容生態(tài)治理角度，《規(guī)定》不僅提出了原則性要求,，更是對于算法技術(shù)實(shí)現(xiàn)的全過程進(jìn)行重點(diǎn)環(huán)節(jié)干預(yù),，例如要求“建立健全用于識別違法和不良信息的特征庫，完善入庫標(biāo)準(zhǔn),、規(guī)則和程序”,，以及對于算法生成合成信息的顯著標(biāo)識義務(wù)，從源頭對于信息內(nèi)容的技術(shù)控制提出要求（第九條）,。從用戶標(biāo)簽管理角度,，《規(guī)定》要求“加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則,，不得將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)或者作為用戶標(biāo)簽并據(jù)以推送信息”,，這對于防范未成年人接觸違法和不良信息尤其重要。與之相對應(yīng)的是用戶權(quán)益保護(hù)領(lǐng)域,，《規(guī)定》在《個人信息保護(hù)法》關(guān)于自動化決策的規(guī)定基礎(chǔ)之上,，進(jìn)一步要求算法推薦服務(wù)提供者“應(yīng)當(dāng)向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對其個人特征的用戶標(biāo)簽的功能”（第十七條）。這一規(guī)定在行業(yè)合規(guī)中需要結(jié)合不同場景和服務(wù)功能進(jìn)行分別落實(shí),，在未成年人保護(hù)領(lǐng)域則應(yīng)采取最為嚴(yán)格的落實(shí)水準(zhǔn),，應(yīng)當(dāng)為未成年人和其監(jiān)護(hù)人提供充分了解、選擇,、刪除的機(jī)制,，使其對于針對未成年人自身個人特征的用戶標(biāo)簽掌握較為全面的控制和干預(yù)的權(quán)利，確保未成年人不會因?yàn)椴磺‘?dāng)?shù)臉?biāo)簽設(shè)置以及據(jù)此進(jìn)行的算法推薦服務(wù)而遭受侵害。
《規(guī)定》作為中國首個針對算法推薦服務(wù)制定的專門規(guī)定,，在算法治理領(lǐng)域?yàn)閲H社會提供了中國道路和方案,，在未成年人網(wǎng)絡(luò)保護(hù)領(lǐng)域，也構(gòu)建了保護(hù)和發(fā)展并重的雙重路徑,，強(qiáng)化和完善了體系化的制度構(gòu)建,，有助于提升網(wǎng)絡(luò)空間治理體系和治理能力現(xiàn)代化，為建設(shè)未成年人友好型的網(wǎng)絡(luò)空間提供了重要的制度基石,。
健全算法推薦治理機(jī)制? 推動新技術(shù)安全可信發(fā)展
作者：王愛華 中國信息通信研究院副總工程師
近年來,，大數(shù)據(jù)、物聯(lián)網(wǎng),、云計(jì)算等新一代信息技術(shù)快速發(fā)展,，數(shù)字化、網(wǎng)絡(luò)化,、智能化加速推進(jìn),，新技術(shù)新應(yīng)用新業(yè)態(tài)蓬勃興起。作為數(shù)字經(jīng)濟(jì)時代的重要底層架構(gòu),，算法逐步成為影響內(nèi)容分發(fā),、服務(wù)提供、資源配置的基礎(chǔ)性力量,，與此同時,，算法也引發(fā)了群體歧視、算法合謀,、信息繭房等一系列問題,，給公眾利益、社會穩(wěn)定和國家安全帶來巨大挑戰(zhàn),。習(xí)近平總書記多次強(qiáng)調(diào),，要依法加強(qiáng)網(wǎng)絡(luò)社會管理，加強(qiáng)網(wǎng)絡(luò)新技術(shù)新應(yīng)用的管理,，確?；ヂ?lián)網(wǎng)可管可控。2021年12月31日,，國家網(wǎng)信辦聯(lián)合工業(yè)和信息化部,、公安部、市場監(jiān)管總局出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）,，針對當(dāng)前突出問題,，全面搭建了算法綜合治理機(jī)制，邁出我國新技術(shù)新應(yīng)用立法的重要一步,。
一,、堅(jiān)持問題導(dǎo)向,，聚焦人民群眾反映強(qiáng)烈的算法問題
堅(jiān)持以人民為中心，是習(xí)近平新時代中國特色社會主義思想的重要內(nèi)容,，貫穿于習(xí)近平新時代中國特色社會主義思想的各個方面,。全面貫徹落實(shí)以人民為中心，要求突出問題導(dǎo)向,、目標(biāo)導(dǎo)向,，積極回應(yīng)群眾強(qiáng)烈訴求和急難愁盼問題。當(dāng)前,，算法技術(shù)廣泛滲入互聯(lián)網(wǎng)應(yīng)用,，深入貼近人民生活，由算法引發(fā)的信息繭房,、算法歧視,、未成年人網(wǎng)絡(luò)沉迷、騎手安全,、不正當(dāng)競爭等新問題層出不窮,，引發(fā)社會廣泛關(guān)注。
《規(guī)定》聚焦重點(diǎn),、抓綱帶目，對上述新問題,、新挑戰(zhàn)進(jìn)行了全面,、系統(tǒng)和具體回應(yīng)，進(jìn)一步細(xì)化用戶權(quán)利,，切實(shí)維護(hù)用戶自主權(quán)利,。一是強(qiáng)化算法透明度，保障用戶知情權(quán),。算法透明是實(shí)施算法監(jiān)督,、自主選擇的重要前提，也是在損害發(fā)生后用戶進(jìn)行權(quán)利救濟(jì)的必要保障,?！兑?guī)定》明確了平臺應(yīng)用算法的告知義務(wù)，對算法基本原理,、目的意圖和主要運(yùn)行機(jī)制等的公示義務(wù),，并鼓勵平臺優(yōu)化對檢索、排序,、選擇,、推送、展示等規(guī)則的透明度和可解釋性,。二是賦予用戶退出個性化推薦的權(quán)利,。與《個人信息保護(hù)法》《電子商務(wù)法》相銜接，《規(guī)定》第十七條規(guī)定了平臺向用戶提供不針對其個人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)選項(xiàng)的義務(wù),。三是創(chuàng)新性提出對用戶標(biāo)簽的管理權(quán),，確保用戶對輸入數(shù)據(jù)的適當(dāng)干預(yù)。根據(jù)《規(guī)定》的要求,，用戶可選擇或刪除用于算法推薦服務(wù)的針對其個人特征的用戶標(biāo)簽,，從輸入數(shù)據(jù)層面實(shí)現(xiàn)更大自主權(quán)。此外,，《規(guī)定》重點(diǎn)強(qiáng)化對未成年人,、老年人、勞動者,、消費(fèi)者等特定群體的權(quán)益保護(hù),。
二、堅(jiān)持底線思維,，夯實(shí)平臺算法安全治理的主體責(zé)任
當(dāng)前,，人工智能、大數(shù)據(jù)等新技術(shù)新應(yīng)用體現(xiàn)出重大國家戰(zhàn)略意義,，關(guān)系國家安全和公共利益,，這更加要求我們堅(jiān)持底線思維，著力防范化解算法帶來的政治安全,、意識形態(tài)安全,、社會秩序等方面重大風(fēng)險。在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》等頂層立法框架下,，《規(guī)定》與近年國家網(wǎng)信辦出臺的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)用戶公眾賬號信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等互聯(lián)網(wǎng)信息服務(wù)相關(guān)法律規(guī)范有效銜接,、一脈相承。例如,，《規(guī)定》對《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第十二條個性化算法推薦技術(shù)的人工干預(yù)和自主選擇機(jī)制,，以及《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第十條有關(guān)深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用的安全評估義務(wù)等制度,，均作了進(jìn)一步規(guī)定,。
基于網(wǎng)絡(luò)平臺的技術(shù)、數(shù)據(jù)優(yōu)勢,，強(qiáng)化網(wǎng)絡(luò)平臺在算法運(yùn)行中的全流程主體責(zé)任,，成為《規(guī)定》的重要內(nèi)容。一是《規(guī)定》以基于風(fēng)險的規(guī)制為基本理念,，確立了算法定期審核,、評估等要求。重點(diǎn)強(qiáng)調(diào)對算法相關(guān)的數(shù)據(jù),、模型等進(jìn)行評估審查,，規(guī)定平臺應(yīng)當(dāng)定期審核,、評估、驗(yàn)證算法機(jī)制機(jī)理,、模型,、數(shù)據(jù)和應(yīng)用結(jié)果等內(nèi)容，應(yīng)當(dāng)建立健全安全評估監(jiān)測,、安全事件應(yīng)急處置等管理制度,。二是《規(guī)定》注重技術(shù)治理手段，并確立了負(fù)面清單制度,。鼓勵平臺綜合運(yùn)用內(nèi)容去重,、打散干預(yù)等技術(shù)策略，積極化解信息繭房,，實(shí)現(xiàn)信息多樣性,，同時在不正當(dāng)競爭、勞動保障,、大數(shù)據(jù)殺熟等方面確立了多項(xiàng)禁止性行為,，為算法推薦服務(wù)劃定底線紅線。三是《規(guī)定》重點(diǎn)強(qiáng)調(diào)在網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理中的主體責(zé)任,。要求平臺建立健全算法機(jī)制機(jī)理審核,、科技倫理審查、用戶注冊,、信息發(fā)布審核等管理制度,，不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn),，在各個重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息等。
三,、堅(jiān)持良法善治,，推進(jìn)新技術(shù)新應(yīng)用監(jiān)管的中國路徑
當(dāng)前，算法等新技術(shù)新應(yīng)用已經(jīng)成為推動企業(yè)數(shù)字化轉(zhuǎn)型和國家治理能力現(xiàn)代化的重要力量,，推動算法技術(shù)應(yīng)用中的良法善治意義重大,。良法善治意味著應(yīng)堅(jiān)持從中國實(shí)際出發(fā)，立足我國基本國情,，統(tǒng)籌考慮經(jīng)濟(jì)社會發(fā)展?fàn)顩r,、法治建設(shè)總體進(jìn)程、人民群眾需求變化等綜合因素,，借鑒國際社會有益經(jīng)驗(yàn),，確保各項(xiàng)制度設(shè)計(jì)有效落實(shí)?！兑?guī)定》在借鑒國外經(jīng)驗(yàn)基礎(chǔ)上,，提出事前監(jiān)管,、區(qū)分監(jiān)管、系統(tǒng)監(jiān)管等思路,，貢獻(xiàn)了新技術(shù)新應(yīng)用監(jiān)管的中國智慧和中國方案,。
一是事前監(jiān)管，確立算法備案,、算法評估等制度,。《規(guī)定》對具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者提出了備案要求,，要求通過算法備案系統(tǒng)填報服務(wù)提供者的名稱,、服務(wù)形式、應(yīng)用領(lǐng)域,、算法類型,、算法自評估報告、擬公示內(nèi)容等信息,，有效應(yīng)對算法黑箱問題,。針對變更備案信息的要求進(jìn)一步體現(xiàn)了監(jiān)管靈活性和敏捷性優(yōu)勢。二是區(qū)分監(jiān)管,，確立分級分類的思路,。《規(guī)定》從全局角度出發(fā),，在復(fù)雜多變局面下統(tǒng)籌發(fā)展和安全,、效率和公平、活力和秩序,，引導(dǎo)技術(shù)向上向善發(fā)展,。其中，第二十三條確立了算法分級分類的標(biāo)準(zhǔn),，要求根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力,、內(nèi)容類別、用戶規(guī)模,、算法推薦技術(shù)處理的數(shù)據(jù)重要程度,、對用戶行為的干預(yù)程度等，對算法推薦服務(wù)提供者進(jìn)行差異化管理,。三是系統(tǒng)監(jiān)管,，建立多元共治的局面?！兑?guī)定》著力完善治理體系,，統(tǒng)籌各方建立完整制度鏈條。優(yōu)化監(jiān)管框架,，實(shí)現(xiàn)事前事中事后全流程,、全鏈條監(jiān)管,，增強(qiáng)監(jiān)管系統(tǒng)性和權(quán)威性；注重充實(shí)算法監(jiān)管力量,，培育算法治理的社會性支撐力量,，如第三方評估機(jī)構(gòu)、外部專家團(tuán)隊(duì),，推動行業(yè)自律和出臺標(biāo)準(zhǔn)指南,；推進(jìn)公眾監(jiān)督，暢通社會監(jiān)督和申訴渠道,，并切實(shí)有效處理公眾訴求,。
整體來看，在立法目的上,，《規(guī)定》注重推動算法安全可信和技術(shù)創(chuàng)新之間的有效平衡,。一方面建立健全算法安全治理機(jī)制，構(gòu)建完善的算法安全監(jiān)管體系,，另一方面,，注重推進(jìn)算法自主創(chuàng)新，促進(jìn)算法健康,、有序,、繁榮發(fā)展。在治理理念上,，《規(guī)定》體現(xiàn)個人賦權(quán)和系統(tǒng)治理相結(jié)合的算法治理趨勢,。在賦予用戶算法知情權(quán)、自主選擇權(quán)等權(quán)利的同時,，注重從事前,、事中、事后全流程對輸入數(shù)據(jù),、算法邏輯等全要素進(jìn)行系統(tǒng)治理,。在行為規(guī)范上，注重堅(jiān)持正確導(dǎo)向和底線思維,。強(qiáng)調(diào)算法應(yīng)遵循技術(shù)倫理，以主流價值觀為引領(lǐng),，強(qiáng)化算法透明度義務(wù)規(guī)范,；同時建立算法運(yùn)行的負(fù)面清單，禁止利用算法影響網(wǎng)絡(luò)輿論,、實(shí)施壟斷和不正當(dāng)競爭等行為,。下一步，建議進(jìn)一步健全算法安全治理機(jī)制,，強(qiáng)化監(jiān)管執(zhí)法和多元協(xié)同治理,，落實(shí)平臺主體責(zé)任,，推動數(shù)字經(jīng)濟(jì)發(fā)展行穩(wěn)致遠(yuǎn)。
加強(qiáng)算法安全科研攻關(guān) 推進(jìn)算法綜合治理
作者：程學(xué)旗 中國科學(xué)院計(jì)算技術(shù)研究所副所長
人類社會正加速進(jìn)入智能化時代,，數(shù)據(jù)是關(guān)鍵生產(chǎn)要素,，算法是核心生產(chǎn)力。隨著人工智能,、大數(shù)據(jù)等新型信息技術(shù)的快速發(fā)展,，算法與互聯(lián)網(wǎng)信息服務(wù)深度融合，為用戶提供個性化,、精準(zhǔn)化,、智能化的信息服務(wù)?；ヂ?lián)網(wǎng)信息服務(wù)算法在加速互聯(lián)網(wǎng)信息傳播,、繁榮數(shù)字經(jīng)濟(jì)、促進(jìn)社會發(fā)展的同時,，其不合理應(yīng)用也影響了正常的傳播秩序,、市場秩序和社會秩序，給維護(hù)意識形態(tài)安全,、社會公平公正和網(wǎng)民合法權(quán)益帶來挑戰(zhàn),。
為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用生態(tài)，國家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部,、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）,?！兑?guī)定》是目前我國針對互聯(lián)網(wǎng)信息服務(wù)算法推薦出臺的最為系統(tǒng)的專門性部門規(guī)章，為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動,、促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展,、推進(jìn)網(wǎng)絡(luò)空間治理提供了重要的制度保障，意義重大,，影響深遠(yuǎn),。
一、堅(jiān)持主流價值導(dǎo)向,，管理好使用好發(fā)展好算法應(yīng)用
《規(guī)定》著眼于網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理,，防范互聯(lián)網(wǎng)信息服務(wù)算法濫用風(fēng)險，保障用戶合法權(quán)益,，充分發(fā)揮算法服務(wù)正能量傳播作用,，營造風(fēng)清氣正的網(wǎng)絡(luò)空間。《規(guī)定》從以下三個方面明確了算法治理的總體方向,。
（一）堅(jiān)持正確導(dǎo)向,，算法向上向善?！兑?guī)定》鼓勵算法推薦服務(wù)提供者使用算法積極傳播正能量,、抵制違法和不良信息?！兑?guī)定》鼓勵算法正向應(yīng)用和創(chuàng)新發(fā)展,，通過人工干預(yù)優(yōu)化算法推薦服務(wù)機(jī)制，將網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理和算法治理有機(jī)結(jié)合,，弘揚(yáng)社會主義核心價值觀,。
（二）堅(jiān)持風(fēng)險防控，推進(jìn)算法規(guī)制,?！兑?guī)定》著眼互聯(lián)網(wǎng)信息服務(wù)中潛在的算法影響網(wǎng)絡(luò)輿論、算法誘導(dǎo)用戶沉迷或過度消費(fèi),、算法共謀和不正當(dāng)競爭等算法應(yīng)用風(fēng)險,，由此引出治理對象，通過算法規(guī)制規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動,，維護(hù)國家安全和社會公共利益,。
（三）堅(jiān)持規(guī)范發(fā)展，防止算法濫用,?！兑?guī)定》倡導(dǎo)，提供算法推薦服務(wù)應(yīng)遵循公正公平,、公開透明,、科學(xué)合理和誠實(shí)信用的原則，四個基本原則為算法規(guī)范發(fā)展框定了邊界,?！兑?guī)定》在信息服務(wù)規(guī)范和用戶權(quán)益保護(hù)部分，設(shè)置了算法應(yīng)用的應(yīng)當(dāng)行為和禁止行為,，明確了算法應(yīng)用的底線,。
二、建立健全科學(xué)的監(jiān)管體系,，形成算法治理長效機(jī)制
《規(guī)定》明確了互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的監(jiān)管體系,，構(gòu)建了涵蓋算法分級分類、算法備案管理,、算法安全評估,、算法風(fēng)險監(jiān)測等舉措的科學(xué)監(jiān)管體系,，逐步形成算法治理長效機(jī)制,。具體體現(xiàn)在三個方面：
（一）算法分級分類,，科學(xué)精細(xì)治理?！兑?guī)定》明確了算法治理的對象,，即應(yīng)用算法推薦技術(shù)向用戶提供信息的算法推薦服務(wù)提供者?！兑?guī)定》將互聯(lián)網(wǎng)信息服務(wù)推薦算法分為生成合成類,、個性化推送類、排序精選類,、檢索過濾類,、調(diào)度決策類等五大類，并分別設(shè)置了針對性的差異化條款,。例如,，對于生成合成類算法推薦服務(wù)，強(qiáng)調(diào)“應(yīng)做出顯著標(biāo)識”,；對于個性化推送類,，突出用戶的自主選擇權(quán)等用戶權(quán)益保護(hù)；對于決策調(diào)度類,，關(guān)注算法自動化決策對勞動者,、消費(fèi)者等造成的影響。對算法推薦服務(wù)的分級分類管理,，體現(xiàn)了科學(xué)化,、精細(xì)化的算法治理基本思路。
（二）算法備案先行,，治理有章可循,。《規(guī)定》要求具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)履行算法備案手續(xù),，并在對外提供服務(wù)的網(wǎng)站,、應(yīng)用程序等的顯著位置標(biāo)明其備案編號。算法備案是《規(guī)定》提出的一個重要舉措,，以算法推薦服務(wù)為切入點(diǎn)對其使用的互聯(lián)網(wǎng)信息服務(wù)算法進(jìn)行備案,，將算法和服務(wù)作為一個有機(jī)整體進(jìn)行治理。算法自評估報告是算法備案的一項(xiàng)亮點(diǎn)內(nèi)容,，為國家監(jiān)管部門和算法推薦服務(wù)提供者協(xié)同推動算法治理工作提供了重要抓手,。
（三）算法安全評估，力求標(biāo)本兼治,?！兑?guī)定》明確了網(wǎng)信部門和電信、公安、市場監(jiān)管等有關(guān)部門對算法推薦服務(wù)依法開展安全評估和監(jiān)督檢查的工作職責(zé),，并要求算法推薦服務(wù)提供者對安全評估和監(jiān)督檢查工作提供必要的數(shù)據(jù),、技術(shù)等支持或協(xié)助。算法安全評估著眼于治本,，從算法推薦服務(wù)的基本原理,、目的意圖、主要運(yùn)行機(jī)制等方面入手,，以“事前”評估的方式排除算法在模型,、數(shù)據(jù)、策略,、人工干預(yù)等方面的安全隱患,；算法監(jiān)督檢查以事中監(jiān)測的方式發(fā)現(xiàn)算法使用過程中的安全風(fēng)險及算法濫用帶來的算法亂象。算法安全評估和監(jiān)督檢查工作覆蓋了算法應(yīng)用的全生命周期,，二者相互促進(jìn),，力求算法治理做到標(biāo)本兼治。
三,、建設(shè)算法治理技術(shù)支撐體系,，促進(jìn)算法健康有序發(fā)展
《規(guī)定》的出臺，是進(jìn)一步提升網(wǎng)絡(luò)綜合治理能力的應(yīng)時應(yīng)勢之舉,，具有很強(qiáng)的探索性和前瞻性,，也標(biāo)志著我國網(wǎng)絡(luò)空間治理邁入新的發(fā)展階段。但是,，算法綜合治理目前仍處于起步階段,，在技術(shù)支撐和能力建設(shè)方面有待進(jìn)一步加強(qiáng)。加快推進(jìn)算法綜合治理技術(shù)支撐體系建設(shè),，是切實(shí)保障算法綜合治理工作有力有序推進(jìn)的關(guān)鍵,。同時，算法安全既是國家重大需求,，也是國際科技前沿,，國家科研機(jī)構(gòu)應(yīng)加大算法安全方面的科技攻關(guān)，建設(shè)算法安全評估和風(fēng)險監(jiān)測的科研創(chuàng)新平臺,，建設(shè)支撐互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的技術(shù)體系,。建議加強(qiáng)如下工作：
（一）優(yōu)化算法安全科研布局，構(gòu)建算法治理關(guān)鍵技術(shù)聯(lián)合攻關(guān)體系,。圍繞智能算法安全這一重大創(chuàng)新領(lǐng)域,，組建國家重點(diǎn)實(shí)驗(yàn)室，形成引領(lǐng)算法安全基礎(chǔ)研究的戰(zhàn)略力量,；充分調(diào)動“政產(chǎn)學(xué)研用”各方優(yōu)勢力量,，探索共建新型研發(fā)機(jī)構(gòu),，加大科研攻關(guān)力度，研究算法安全內(nèi)生機(jī)理,、算法安全風(fēng)險評估,、算法全生命周期安全監(jiān)測等關(guān)鍵技術(shù)問題。
（二）完善算法人才隊(duì)伍結(jié)構(gòu),，建立算法安全治理人才隊(duì)伍培養(yǎng)體系。鼓勵高校設(shè)置并加強(qiáng)算法安全相關(guān)專業(yè)學(xué)科建設(shè),，擴(kuò)大招生和培養(yǎng)規(guī)模,，加大算法安全治理基礎(chǔ)人才培養(yǎng)力度;完善算法安全治理領(lǐng)域成果評價和人才激勵機(jī)制，提供良好科研生態(tài)環(huán)境,，政策導(dǎo)向與市場優(yōu)化雙管齊下,，培養(yǎng)一支高素質(zhì)算法安全人才隊(duì)伍。
（三）加強(qiáng)基礎(chǔ)科研設(shè)施建設(shè),，提升算法自主創(chuàng)新和安全可控能力,。建設(shè)算法安全基礎(chǔ)科研設(shè)施，促進(jìn)算法研發(fā)工作,，支持算法與社會,、經(jīng)濟(jì)各領(lǐng)域深度結(jié)合。加強(qiáng)知識產(chǎn)權(quán)保護(hù),，提高自研算法產(chǎn)品的推廣和使用,，增強(qiáng)算法核心競爭力。推進(jìn)算法安全科學(xué)普及工作,，提升企業(yè)和社會公眾的算法安全風(fēng)險意識,，引導(dǎo)社會各界積極參與社會監(jiān)督，共同推進(jìn)算法綜合治理,。
相關(guān)鏈接
當(dāng)前位置：