聊城市互聯(lián)網(wǎng)違法和不良信息舉報(bào)平臺(tái)歡迎您
聚焦算法推薦亂象問題 構(gòu)建算法安全治理體系
作者：楊建軍 中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書記
隨著大數(shù)據(jù)和人工智能技術(shù)的快速發(fā)展，算法推薦技術(shù)在互聯(lián)網(wǎng)信息服務(wù)中得到廣泛應(yīng)用，與此同時(shí)算法應(yīng)用中存在的違法和不良信息傳播,、侵害用戶權(quán)益、操縱社會(huì)輿論等亂象問題也屢次出現(xiàn)。2021年12月31日,，國(guó)家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部、公安部,、國(guó)家市場(chǎng)監(jiān)管總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）,。作為互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域貫徹落實(shí)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》的重要舉措，《規(guī)定》聚焦算法推薦服務(wù)亂象問題,，構(gòu)建算法安全治理體系,，有效規(guī)范了互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)。
一,、《規(guī)定》為應(yīng)對(duì)算法推薦亂象提供指引和規(guī)范
（一）聚焦違法和不良信息傳播問題,，引導(dǎo)算法應(yīng)用合理規(guī)范
當(dāng)前，算法推薦服務(wù)提供者在開展新聞信息推送,、熱點(diǎn)榜單,、信息發(fā)布等活動(dòng)時(shí)，存在傳播違法和不良信息的亂象：一是利用生成合成類算法自動(dòng)合成新聞,、帖子等,，未作顯著標(biāo)識(shí)造成虛假信息夸大傳播；二是采用定向推送類算法在首頁(yè)首屏,、彈窗等,，扎堆推送惡性案件、災(zāi)難事故等負(fù)面信息誘發(fā)社會(huì)恐慌,；三是利用排序精選類算法生成熱搜,、榜單等，片面追求流量,，大肆炒作娛樂八卦,、低俗惡俗等有悖社會(huì)主義核心價(jià)值觀內(nèi)容。
針對(duì)違法和不良信息傳播問題,，《規(guī)定》明確算法推薦服務(wù)向上向善的原則,，提出算法推薦服務(wù)提供者應(yīng)建立健全用于識(shí)別違法和不良信息的特征庫(kù)、顯著標(biāo)識(shí)算法生成合成信息,、加強(qiáng)版面頁(yè)面生態(tài)管理,、重點(diǎn)環(huán)節(jié)積極呈現(xiàn)主流價(jià)值導(dǎo)向信息等多項(xiàng)措施,，鼓勵(lì)符合主流價(jià)值導(dǎo)向的正能量傳播。
（二）聚焦侵害用戶權(quán)益亂象,，引導(dǎo)算法應(yīng)用公正公平
當(dāng)前,，算法推薦服務(wù)提供者在開展調(diào)度決策、個(gè)性化推薦等活動(dòng)時(shí),，存在侵害用戶權(quán)益的亂象：一是大數(shù)據(jù)殺熟問題,，即根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征,，在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇,；二是誘導(dǎo)沉迷網(wǎng)絡(luò)問題，即設(shè)置誘導(dǎo)用戶沉迷,、過度消費(fèi)的算法模型,，尤其是利用算法推薦誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)；三是勞動(dòng)權(quán)益保障問題,，采用調(diào)度決策類算法進(jìn)行工作調(diào)度時(shí),，未保障平臺(tái)內(nèi)勞動(dòng)就業(yè)者（如網(wǎng)約配送員、網(wǎng)約車駕駛員等）在勞務(wù)報(bào)酬,、休息休假等方面的勞動(dòng)權(quán)益,；四是偏見歧視問題，將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn),，或者設(shè)置歧視性、偏見性用戶標(biāo)簽來(lái)推送信息內(nèi)容,；五是未成年人和老年人權(quán)益保障問題,，向未成年人推送可能影響身心健康的信息，未充分考慮老年人適老化需求等,。
針對(duì)侵害用戶權(quán)益亂象,，《規(guī)定》明確算法推薦服務(wù)公正公平的原則，提出算法推薦服務(wù)提供者應(yīng)定期審核評(píng)估算法,、加強(qiáng)用戶模型和用戶標(biāo)簽管理,、公開算法推薦服務(wù)相關(guān)規(guī)則、保障用戶選擇或退出使用算法推薦服務(wù)的權(quán)利,、建立用戶申訴渠道等多種措施,，保障未成年人、老年人,、勞動(dòng)者權(quán)益,，引導(dǎo)算法應(yīng)用遵守社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德,。
（三）聚焦操縱社會(huì)輿論亂象,，引導(dǎo)算法應(yīng)用公開透明
當(dāng)前,，算法推薦服務(wù)提供者在開展個(gè)性化推薦、熱點(diǎn)榜單,、信息發(fā)布等活動(dòng)時(shí),，存在操縱社會(huì)輿論亂象：一是采用個(gè)性化推薦算法按照用戶偏好頻繁推薦感興趣的內(nèi)容，久而久之形成用戶意見極化的“信息繭房”,；二是利用算法注冊(cè)虛假賬號(hào),、雇傭網(wǎng)絡(luò)水軍，實(shí)施虛假點(diǎn)贊,、轉(zhuǎn)發(fā)等流量造假,，或者鼓動(dòng)“飯圈”粉絲互撕謾罵、刷量控評(píng)等飯圈亂象,；三是利用算法屏蔽信息,、過度推薦，操縱干預(yù)熱搜,、榜單或檢索結(jié)果排序,；四是實(shí)施自我優(yōu)待，影響網(wǎng)絡(luò)輿論,、規(guī)避監(jiān)管,，如惡意屏蔽其他企業(yè)的網(wǎng)址鏈接等。
針對(duì)操縱社會(huì)輿論亂象,，《規(guī)定》明確算法推薦服務(wù)公開透明的原則,，鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略,、增強(qiáng)規(guī)則透明度和可解釋性,；明確規(guī)定算法推薦服務(wù)禁止行為，如不得利用算法對(duì)其他互聯(lián)網(wǎng)信息服務(wù)提供者進(jìn)行不合理限制等,，保障國(guó)家安全,、公共利益及組織和個(gè)人合法權(quán)益。
二,、《規(guī)定》為國(guó)家建立算法安全治理體系打下制度基礎(chǔ)
（一）強(qiáng)化企業(yè)主體責(zé)任,，建立多方參與的算法推薦服務(wù)治理機(jī)制
《規(guī)定》圍繞算法推薦服務(wù)，建立政府,、企業(yè),、行業(yè)組織和網(wǎng)民多方參與的治理機(jī)制。一是明確政府監(jiān)管職責(zé),?！兑?guī)定》明確國(guó)家網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國(guó)算法推薦服務(wù)治理和監(jiān)督管理工作，工信,、公安,、市場(chǎng)監(jiān)管等有關(guān)部門依據(jù)各自職責(zé)負(fù)責(zé)監(jiān)督管理工作,，同時(shí)通過《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》建立網(wǎng)信、宣傳,、教育,、科技等多部門協(xié)同聯(lián)動(dòng)長(zhǎng)效機(jī)制，共同開展算法安全治理工作,；二是強(qiáng)化企業(yè)主體責(zé)任,。《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任,，建立健全算法安全管理制度和技術(shù)措施,，配備相應(yīng)的專業(yè)人員和技術(shù)支撐；三是鼓勵(lì)行業(yè)自律,?！兑?guī)定》鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全行業(yè)準(zhǔn)則,，督促指導(dǎo)算法推薦服務(wù)提供者接受社會(huì)監(jiān)督,；四是倡導(dǎo)社會(huì)監(jiān)督?！兑?guī)定》鼓勵(lì)廣大網(wǎng)民積極參與算法安全治理工作,，要求算法推薦服務(wù)提供者設(shè)置公眾投訴舉報(bào)入口，及時(shí)處理網(wǎng)民投訴舉報(bào)請(qǐng)求,。
（二）創(chuàng)新技術(shù)監(jiān)管模式,，建立事前事中事后的算法推薦服務(wù)監(jiān)管措施
《規(guī)定》提出貫穿算法推薦服務(wù)事前事中事后的監(jiān)管體系。一是分級(jí)分類安全管理,?！兑?guī)定》根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、用戶規(guī)模,、處理的數(shù)據(jù)敏感程度等對(duì)服務(wù)提供者實(shí)施分級(jí)分類管理，并對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者提出更嚴(yán)格的管理要求,；二是建立算法備案制度,。《規(guī)定》要求具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者在提供服務(wù)之日起十個(gè)工作日內(nèi),，對(duì)服務(wù)提供者的名稱,、服務(wù)形式、應(yīng)用領(lǐng)域等信息進(jìn)行備案,；三是建立算法安全評(píng)估機(jī)制,。《規(guī)定》要求具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估,；四是開展算法監(jiān)督檢查,?！兑?guī)定》規(guī)定網(wǎng)信部門會(huì)同有關(guān)部門開展算法安全評(píng)估和監(jiān)督檢查工作，同時(shí)嚴(yán)厲打擊算法推薦違法違規(guī)行為,。
三,、小結(jié)
互聯(lián)網(wǎng)信息服務(wù)算法安全管理以《規(guī)定》為基礎(chǔ)，打造政府監(jiān)管,、企業(yè)履責(zé),、行業(yè)自律、社會(huì)監(jiān)督的算法安全多元共治局面,，在促進(jìn)算法健康,、有序、繁榮發(fā)展,，營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)空間,，弘揚(yáng)社會(huì)主義核心價(jià)值觀的道路上邁出了重要的一步。下一步為貫徹落實(shí)《規(guī)定》可開展以下措施：
一是大力加強(qiáng)《規(guī)定》宣傳貫徹培訓(xùn),。做好《規(guī)定》宣傳推廣,、普及培訓(xùn)，面向互聯(lián)網(wǎng)企業(yè),、人工智能企業(yè),、重點(diǎn)行業(yè)企業(yè)等開展針對(duì)性宣傳解讀，形成共識(shí),；鼓勵(lì)行業(yè)組織制定行業(yè)自律規(guī)則,，指導(dǎo)會(huì)員加強(qiáng)算法推薦行業(yè)自律；針對(duì)廣大網(wǎng)民當(dāng)前最關(guān)心,、反映最強(qiáng)烈的算法安全問題,，積極開展算法安全科普培訓(xùn)，形成國(guó)家,、企業(yè),、個(gè)人共同參與算法安全治理工作的良好局面。
二是建立算法安全檢查評(píng)估機(jī)制,。盡快建立《規(guī)定》配套的算法安全檢查評(píng)估機(jī)制,，推動(dòng)算法推薦服務(wù)提供者開展算法安全自評(píng)估，督促具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)者按照國(guó)家有關(guān)規(guī)定開展算法安全評(píng)估,，建設(shè)安全檢查評(píng)估力量,，支撐有關(guān)部門對(duì)算法推薦服務(wù)進(jìn)行安全檢查，督促算法推薦服務(wù)提供者及時(shí)發(fā)現(xiàn)和整改相關(guān)問題,。
三是開展算法安全技術(shù)能力建設(shè),。算法推薦技術(shù)作為一種新技術(shù)模式，面臨一些新型技術(shù)安全,、應(yīng)用安全甚至倫理安全風(fēng)險(xiǎn),，為支撐《規(guī)定》落地實(shí)施,，亟需加強(qiáng)算法安全技術(shù)能力建設(shè)，深入研究生成合成,、個(gè)性化推薦,、排序精選、檢索過濾,、調(diào)度決策等算法的安全問題,，建設(shè)算法推薦服務(wù)備案、算法安全評(píng)估,、算法安全風(fēng)險(xiǎn)監(jiān)測(cè)等平臺(tái),，提升互聯(lián)網(wǎng)信息服務(wù)算法推薦技術(shù)監(jiān)管能力。
四是加強(qiáng)算法安全標(biāo)準(zhǔn)化工作,?；趩栴}導(dǎo)向、急用先行原則,，加快推動(dòng)算法相關(guān)技術(shù)標(biāo)準(zhǔn)發(fā)布,，研究制定算法安全評(píng)估、算法分級(jí)分類安全管理等標(biāo)準(zhǔn),，進(jìn)一步發(fā)揮標(biāo)準(zhǔn)對(duì)算法安全評(píng)估等工作的支撐作用,；積極開展新技術(shù)新應(yīng)用標(biāo)準(zhǔn)化前瞻研究，圍繞人工智能,、區(qū)塊鏈等新技術(shù)新應(yīng)用帶來(lái)的安全問題和風(fēng)險(xiǎn)挑戰(zhàn),，開展標(biāo)準(zhǔn)化前沿研究和標(biāo)準(zhǔn)化技術(shù)文件研制，不斷提升標(biāo)準(zhǔn)化工作的引領(lǐng)性,、前瞻性,。
加強(qiáng)算法治理 建設(shè)未成年人友好型的網(wǎng)絡(luò)空間
作者：林維 中國(guó)社會(huì)科學(xué)院大學(xué)副校長(zhǎng)、教授,、互聯(lián)網(wǎng)法治研究中心主任
習(xí)近平總書記指出：網(wǎng)絡(luò)空間是億萬(wàn)民眾共同的精神家園,，網(wǎng)絡(luò)空間天朗氣清、生態(tài)良好,，符合人民利益,。網(wǎng)絡(luò)空間烏煙瘴氣、生態(tài)惡化,，不符合人民利益,。未成年人的網(wǎng)絡(luò)生態(tài)建設(shè)是這一精神家園建設(shè)中的重要任務(wù)之一,。
十余年來(lái),，未成年網(wǎng)民的規(guī)模呈現(xiàn)不斷增長(zhǎng)的趨勢(shì)。據(jù)中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心第48次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示,，截至2021年6月,，我國(guó)網(wǎng)民規(guī)模為10.11億,，6－19歲網(wǎng)民占15.7％，共1.58億人,。同時(shí)根據(jù)第十次中國(guó)未成年人互聯(lián)網(wǎng)運(yùn)用調(diào)查顯示,，我國(guó)未成年人互聯(lián)網(wǎng)普及率為99.2％，顯著高于71.6％的全國(guó)平均普及率,。
網(wǎng)絡(luò)為未成年人帶來(lái)了嶄新的生存方式,，也引發(fā)了未成年人網(wǎng)絡(luò)保護(hù)的挑戰(zhàn)問題，未成年人的網(wǎng)絡(luò)生活,、交往成為其生活交往中無(wú)法擺脫,、無(wú)法分割的一部分，線上線下的二元化生活加快了一元融合的節(jié)奏,。未成年人的網(wǎng)絡(luò)參與行為成為社會(huì)網(wǎng)絡(luò)行為的重要構(gòu)建內(nèi)容,，其在網(wǎng)絡(luò)生態(tài)建設(shè)中的主體地位勢(shì)必應(yīng)當(dāng)?shù)玫匠姓J(rèn)和確立。網(wǎng)絡(luò)強(qiáng)國(guó)的未來(lái)主體必定是一代又一代成長(zhǎng)中的未成年人,。無(wú)論是網(wǎng)絡(luò)新技術(shù)的發(fā)展,，還是網(wǎng)絡(luò)新生活的構(gòu)建，乃至網(wǎng)絡(luò)新文化的傳承,，都依賴一代又一代已經(jīng)成為網(wǎng)絡(luò)原住民的未成年人的發(fā)展與成長(zhǎng),。因此，網(wǎng)絡(luò)生態(tài)建設(shè)的任務(wù)之一就是要建設(shè)一個(gè)未成年人友好型的網(wǎng)絡(luò)空間,。
《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）的制定和實(shí)施,，為我國(guó)未成年人網(wǎng)絡(luò)權(quán)益保護(hù)的制度框架提供了重要的組成部分，繼《未成年人保護(hù)法》《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律文件之后,，在算法領(lǐng)域構(gòu)建了未成年人網(wǎng)絡(luò)權(quán)益保護(hù)的基本綱領(lǐng),，提供了保護(hù)和發(fā)展并行的中國(guó)方案。
首先,，《規(guī)定》制定了未成年人保護(hù)專條（第十八條）,，專門針對(duì)未成年人權(quán)益保護(hù)規(guī)定了算法推薦服務(wù)提供者的一系列義務(wù)，要求向未成年人提供服務(wù)時(shí),，“應(yīng)當(dāng)依法履行未成年人網(wǎng)絡(luò)保護(hù)義務(wù),，并通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點(diǎn)的服務(wù)等方式,，便利未成年人獲取有益身心健康的信息,。”在具體禁止性義務(wù)層面,，該條進(jìn)一步規(guī)定,，“算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德的行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò),?！?/p>
未成年人保護(hù)專條從積極義務(wù)和消極義務(wù)兩個(gè)方面，構(gòu)建了算法推薦服務(wù)提供者的未成年人保護(hù)義務(wù)體系,。這意味著,，算法推薦服務(wù)提供者不僅需要筑起保護(hù)未成年人免受不良信息侵害的防護(hù)墻，還需要為未成年人獲取有益信息承擔(dān)積極主動(dòng)的社會(huì)責(zé)任,，通過在未成年人模式等專門模式下,，建設(shè)并不斷充實(shí)健康向上、適合未成年人身心特點(diǎn),、具備良好使用體驗(yàn)和充分吸引力的內(nèi)容池,，保護(hù)和發(fā)展并重，為未成年人積極構(gòu)建風(fēng)清氣朗的網(wǎng)絡(luò)空間,，保證未成年人可以通過網(wǎng)絡(luò)繼續(xù)拓展視野,、發(fā)展自我，建設(shè)未成年人友好型的網(wǎng)絡(luò)空間,。
特別需要指出的是,，《規(guī)定》強(qiáng)調(diào)了《未成年人保護(hù)法》網(wǎng)絡(luò)保護(hù)專章中確認(rèn)的不得誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)的規(guī)定。算法作為移動(dòng)互聯(lián)網(wǎng)時(shí)代的重要技術(shù)創(chuàng)新,，算法推薦服務(wù)的重要特點(diǎn)即在于能夠通過判斷和預(yù)測(cè)用戶偏好,，向用戶推送個(gè)性化的服務(wù)內(nèi)容。未成年人存在認(rèn)知,、判斷能力較弱,，價(jià)值觀尚未成型等特點(diǎn)，針對(duì)性過強(qiáng)的算法推送內(nèi)容有可能引發(fā)各種不良效果,，亦可能導(dǎo)致沉迷網(wǎng)絡(luò)現(xiàn)象,。針對(duì)這一重點(diǎn)問題做出明確的強(qiáng)調(diào)和規(guī)定，體現(xiàn)了《規(guī)定》強(qiáng)化落實(shí)算法領(lǐng)域防沉迷義務(wù)的堅(jiān)定態(tài)度,。
其次,，在未成年人保護(hù)專條之外，《規(guī)定》從內(nèi)容生態(tài)治理,、用戶標(biāo)簽管理,、用戶權(quán)益保護(hù)多個(gè)層面對(duì)于算法推薦服務(wù)構(gòu)建全流程、深層次的監(jiān)管框架,，為未成年人權(quán)益保護(hù)構(gòu)建了多重屏障,。
從內(nèi)容生態(tài)治理角度，《規(guī)定》不僅提出了原則性要求,，更是對(duì)于算法技術(shù)實(shí)現(xiàn)的全過程進(jìn)行重點(diǎn)環(huán)節(jié)干預(yù),，例如要求“建立健全用于識(shí)別違法和不良信息的特征庫(kù),，完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序”,，以及對(duì)于算法生成合成信息的顯著標(biāo)識(shí)義務(wù)，從源頭對(duì)于信息內(nèi)容的技術(shù)控制提出要求（第九條）,。從用戶標(biāo)簽管理角度,，《規(guī)定》要求“加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則,，不得將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)或者作為用戶標(biāo)簽并據(jù)以推送信息”,，這對(duì)于防范未成年人接觸違法和不良信息尤其重要。與之相對(duì)應(yīng)的是用戶權(quán)益保護(hù)領(lǐng)域,，《規(guī)定》在《個(gè)人信息保護(hù)法》關(guān)于自動(dòng)化決策的規(guī)定基礎(chǔ)之上,，進(jìn)一步要求算法推薦服務(wù)提供者“應(yīng)當(dāng)向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能”（第十七條）。這一規(guī)定在行業(yè)合規(guī)中需要結(jié)合不同場(chǎng)景和服務(wù)功能進(jìn)行分別落實(shí),，在未成年人保護(hù)領(lǐng)域則應(yīng)采取最為嚴(yán)格的落實(shí)水準(zhǔn),，應(yīng)當(dāng)為未成年人和其監(jiān)護(hù)人提供充分了解、選擇,、刪除的機(jī)制,，使其對(duì)于針對(duì)未成年人自身個(gè)人特征的用戶標(biāo)簽掌握較為全面的控制和干預(yù)的權(quán)利，確保未成年人不會(huì)因?yàn)椴磺‘?dāng)?shù)臉?biāo)簽設(shè)置以及據(jù)此進(jìn)行的算法推薦服務(wù)而遭受侵害,。
《規(guī)定》作為中國(guó)首個(gè)針對(duì)算法推薦服務(wù)制定的專門規(guī)定,，在算法治理領(lǐng)域?yàn)閲?guó)際社會(huì)提供了中國(guó)道路和方案，在未成年人網(wǎng)絡(luò)保護(hù)領(lǐng)域,，也構(gòu)建了保護(hù)和發(fā)展并重的雙重路徑,，強(qiáng)化和完善了體系化的制度構(gòu)建，有助于提升網(wǎng)絡(luò)空間治理體系和治理能力現(xiàn)代化,，為建設(shè)未成年人友好型的網(wǎng)絡(luò)空間提供了重要的制度基石,。
健全算法推薦治理機(jī)制? 推動(dòng)新技術(shù)安全可信發(fā)展
作者：王愛華 中國(guó)信息通信研究院副總工程師
近年來(lái)，大數(shù)據(jù),、物聯(lián)網(wǎng),、云計(jì)算等新一代信息技術(shù)快速發(fā)展，數(shù)字化,、網(wǎng)絡(luò)化,、智能化加速推進(jìn)，新技術(shù)新應(yīng)用新業(yè)態(tài)蓬勃興起,。作為數(shù)字經(jīng)濟(jì)時(shí)代的重要底層架構(gòu),，算法逐步成為影響內(nèi)容分發(fā)、服務(wù)提供,、資源配置的基礎(chǔ)性力量,，與此同時(shí),，算法也引發(fā)了群體歧視、算法合謀,、信息繭房等一系列問題,，給公眾利益、社會(huì)穩(wěn)定和國(guó)家安全帶來(lái)巨大挑戰(zhàn),。習(xí)近平總書記多次強(qiáng)調(diào),，要依法加強(qiáng)網(wǎng)絡(luò)社會(huì)管理，加強(qiáng)網(wǎng)絡(luò)新技術(shù)新應(yīng)用的管理,，確?；ヂ?lián)網(wǎng)可管可控。2021年12月31日,，國(guó)家網(wǎng)信辦聯(lián)合工業(yè)和信息化部,、公安部、市場(chǎng)監(jiān)管總局出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）,，針對(duì)當(dāng)前突出問題,，全面搭建了算法綜合治理機(jī)制，邁出我國(guó)新技術(shù)新應(yīng)用立法的重要一步,。
一,、堅(jiān)持問題導(dǎo)向，聚焦人民群眾反映強(qiáng)烈的算法問題
堅(jiān)持以人民為中心,，是習(xí)近平新時(shí)代中國(guó)特色社會(huì)主義思想的重要內(nèi)容,，貫穿于習(xí)近平新時(shí)代中國(guó)特色社會(huì)主義思想的各個(gè)方面。全面貫徹落實(shí)以人民為中心,，要求突出問題導(dǎo)向,、目標(biāo)導(dǎo)向，積極回應(yīng)群眾強(qiáng)烈訴求和急難愁盼問題,。當(dāng)前,，算法技術(shù)廣泛滲入互聯(lián)網(wǎng)應(yīng)用，深入貼近人民生活,，由算法引發(fā)的信息繭房,、算法歧視、未成年人網(wǎng)絡(luò)沉迷,、騎手安全,、不正當(dāng)競(jìng)爭(zhēng)等新問題層出不窮，引發(fā)社會(huì)廣泛關(guān)注,。
《規(guī)定》聚焦重點(diǎn),、抓綱帶目，對(duì)上述新問題,、新挑戰(zhàn)進(jìn)行了全面,、系統(tǒng)和具體回應(yīng),，進(jìn)一步細(xì)化用戶權(quán)利，切實(shí)維護(hù)用戶自主權(quán)利,。一是強(qiáng)化算法透明度,，保障用戶知情權(quán)。算法透明是實(shí)施算法監(jiān)督,、自主選擇的重要前提,，也是在損害發(fā)生后用戶進(jìn)行權(quán)利救濟(jì)的必要保障?！兑?guī)定》明確了平臺(tái)應(yīng)用算法的告知義務(wù)，對(duì)算法基本原理,、目的意圖和主要運(yùn)行機(jī)制等的公示義務(wù),，并鼓勵(lì)平臺(tái)優(yōu)化對(duì)檢索、排序,、選擇,、推送、展示等規(guī)則的透明度和可解釋性,。二是賦予用戶退出個(gè)性化推薦的權(quán)利,。與《個(gè)人信息保護(hù)法》《電子商務(wù)法》相銜接，《規(guī)定》第十七條規(guī)定了平臺(tái)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng),，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)選項(xiàng)的義務(wù),。三是創(chuàng)新性提出對(duì)用戶標(biāo)簽的管理權(quán)，確保用戶對(duì)輸入數(shù)據(jù)的適當(dāng)干預(yù),。根據(jù)《規(guī)定》的要求,，用戶可選擇或刪除用于算法推薦服務(wù)的針對(duì)其個(gè)人特征的用戶標(biāo)簽，從輸入數(shù)據(jù)層面實(shí)現(xiàn)更大自主權(quán),。此外,，《規(guī)定》重點(diǎn)強(qiáng)化對(duì)未成年人、老年人,、勞動(dòng)者,、消費(fèi)者等特定群體的權(quán)益保護(hù)。
二,、堅(jiān)持底線思維,，夯實(shí)平臺(tái)算法安全治理的主體責(zé)任
當(dāng)前，人工智能,、大數(shù)據(jù)等新技術(shù)新應(yīng)用體現(xiàn)出重大國(guó)家戰(zhàn)略意義,，關(guān)系國(guó)家安全和公共利益，這更加要求我們堅(jiān)持底線思維,，著力防范化解算法帶來(lái)的政治安全,、意識(shí)形態(tài)安全,、社會(huì)秩序等方面重大風(fēng)險(xiǎn)。在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等頂層立法框架下,，《規(guī)定》與近年國(guó)家網(wǎng)信辦出臺(tái)的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)用戶公眾賬號(hào)信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》等互聯(lián)網(wǎng)信息服務(wù)相關(guān)法律規(guī)范有效銜接,、一脈相承。例如,，《規(guī)定》對(duì)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第十二條個(gè)性化算法推薦技術(shù)的人工干預(yù)和自主選擇機(jī)制,，以及《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第十條有關(guān)深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用的安全評(píng)估義務(wù)等制度,，均作了進(jìn)一步規(guī)定,。
基于網(wǎng)絡(luò)平臺(tái)的技術(shù)、數(shù)據(jù)優(yōu)勢(shì),，強(qiáng)化網(wǎng)絡(luò)平臺(tái)在算法運(yùn)行中的全流程主體責(zé)任,，成為《規(guī)定》的重要內(nèi)容。一是《規(guī)定》以基于風(fēng)險(xiǎn)的規(guī)制為基本理念,，確立了算法定期審核,、評(píng)估等要求。重點(diǎn)強(qiáng)調(diào)對(duì)算法相關(guān)的數(shù)據(jù),、模型等進(jìn)行評(píng)估審查,，規(guī)定平臺(tái)應(yīng)當(dāng)定期審核、評(píng)估,、驗(yàn)證算法機(jī)制機(jī)理,、模型、數(shù)據(jù)和應(yīng)用結(jié)果等內(nèi)容,，應(yīng)當(dāng)建立健全安全評(píng)估監(jiān)測(cè),、安全事件應(yīng)急處置等管理制度。二是《規(guī)定》注重技術(shù)治理手段,，并確立了負(fù)面清單制度,。鼓勵(lì)平臺(tái)綜合運(yùn)用內(nèi)容去重、打散干預(yù)等技術(shù)策略,，積極化解信息繭房,，實(shí)現(xiàn)信息多樣性，同時(shí)在不正當(dāng)競(jìng)爭(zhēng),、勞動(dòng)保障,、大數(shù)據(jù)殺熟等方面確立了多項(xiàng)禁止性行為，為算法推薦服務(wù)劃定底線紅線,。三是《規(guī)定》重點(diǎn)強(qiáng)調(diào)在網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理中的主體責(zé)任,。要求平臺(tái)建立健全算法機(jī)制機(jī)理審核、科技倫理審查,、用戶注冊(cè),、信息發(fā)布審核等管理制度,，不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn),，在各個(gè)重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息等,。
三、堅(jiān)持良法善治,，推進(jìn)新技術(shù)新應(yīng)用監(jiān)管的中國(guó)路徑
當(dāng)前,，算法等新技術(shù)新應(yīng)用已經(jīng)成為推動(dòng)企業(yè)數(shù)字化轉(zhuǎn)型和國(guó)家治理能力現(xiàn)代化的重要力量，推動(dòng)算法技術(shù)應(yīng)用中的良法善治意義重大,。良法善治意味著應(yīng)堅(jiān)持從中國(guó)實(shí)際出發(fā),，立足我國(guó)基本國(guó)情，統(tǒng)籌考慮經(jīng)濟(jì)社會(huì)發(fā)展?fàn)顩r,、法治建設(shè)總體進(jìn)程,、人民群眾需求變化等綜合因素，借鑒國(guó)際社會(huì)有益經(jīng)驗(yàn),，確保各項(xiàng)制度設(shè)計(jì)有效落實(shí),?！兑?guī)定》在借鑒國(guó)外經(jīng)驗(yàn)基礎(chǔ)上,，提出事前監(jiān)管、區(qū)分監(jiān)管,、系統(tǒng)監(jiān)管等思路,，貢獻(xiàn)了新技術(shù)新應(yīng)用監(jiān)管的中國(guó)智慧和中國(guó)方案。
一是事前監(jiān)管,，確立算法備案,、算法評(píng)估等制度?！兑?guī)定》對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者提出了備案要求,，要求通過算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式,、應(yīng)用領(lǐng)域,、算法類型、算法自評(píng)估報(bào)告,、擬公示內(nèi)容等信息,，有效應(yīng)對(duì)算法黑箱問題。針對(duì)變更備案信息的要求進(jìn)一步體現(xiàn)了監(jiān)管靈活性和敏捷性優(yōu)勢(shì),。二是區(qū)分監(jiān)管,，確立分級(jí)分類的思路?！兑?guī)定》從全局角度出發(fā),，在復(fù)雜多變局面下統(tǒng)籌發(fā)展和安全,、效率和公平、活力和秩序,，引導(dǎo)技術(shù)向上向善發(fā)展,。其中，第二十三條確立了算法分級(jí)分類的標(biāo)準(zhǔn),，要求根據(jù)算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力,、內(nèi)容類別、用戶規(guī)模,、算法推薦技術(shù)處理的數(shù)據(jù)重要程度,、對(duì)用戶行為的干預(yù)程度等，對(duì)算法推薦服務(wù)提供者進(jìn)行差異化管理,。三是系統(tǒng)監(jiān)管,，建立多元共治的局面?！兑?guī)定》著力完善治理體系,，統(tǒng)籌各方建立完整制度鏈條。優(yōu)化監(jiān)管框架,，實(shí)現(xiàn)事前事中事后全流程,、全鏈條監(jiān)管，增強(qiáng)監(jiān)管系統(tǒng)性和權(quán)威性,；注重充實(shí)算法監(jiān)管力量,，培育算法治理的社會(huì)性支撐力量，如第三方評(píng)估機(jī)構(gòu),、外部專家團(tuán)隊(duì),，推動(dòng)行業(yè)自律和出臺(tái)標(biāo)準(zhǔn)指南；推進(jìn)公眾監(jiān)督,，暢通社會(huì)監(jiān)督和申訴渠道,，并切實(shí)有效處理公眾訴求。
整體來(lái)看,，在立法目的上,，《規(guī)定》注重推動(dòng)算法安全可信和技術(shù)創(chuàng)新之間的有效平衡。一方面建立健全算法安全治理機(jī)制,，構(gòu)建完善的算法安全監(jiān)管體系,，另一方面，注重推進(jìn)算法自主創(chuàng)新,，促進(jìn)算法健康,、有序、繁榮發(fā)展。在治理理念上,，《規(guī)定》體現(xiàn)個(gè)人賦權(quán)和系統(tǒng)治理相結(jié)合的算法治理趨勢(shì),。在賦予用戶算法知情權(quán)、自主選擇權(quán)等權(quán)利的同時(shí),，注重從事前,、事中、事后全流程對(duì)輸入數(shù)據(jù),、算法邏輯等全要素進(jìn)行系統(tǒng)治理,。在行為規(guī)范上，注重堅(jiān)持正確導(dǎo)向和底線思維,。強(qiáng)調(diào)算法應(yīng)遵循技術(shù)倫理,，以主流價(jià)值觀為引領(lǐng)，強(qiáng)化算法透明度義務(wù)規(guī)范,；同時(shí)建立算法運(yùn)行的負(fù)面清單,，禁止利用算法影響網(wǎng)絡(luò)輿論、實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)等行為,。下一步,，建議進(jìn)一步健全算法安全治理機(jī)制，強(qiáng)化監(jiān)管執(zhí)法和多元協(xié)同治理,，落實(shí)平臺(tái)主體責(zé)任,，推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展行穩(wěn)致遠(yuǎn)。
加強(qiáng)算法安全科研攻關(guān) 推進(jìn)算法綜合治理
作者：程學(xué)旗 中國(guó)科學(xué)院計(jì)算技術(shù)研究所副所長(zhǎng)
人類社會(huì)正加速進(jìn)入智能化時(shí)代,，數(shù)據(jù)是關(guān)鍵生產(chǎn)要素,，算法是核心生產(chǎn)力,。隨著人工智能,、大數(shù)據(jù)等新型信息技術(shù)的快速發(fā)展，算法與互聯(lián)網(wǎng)信息服務(wù)深度融合,，為用戶提供個(gè)性化,、精準(zhǔn)化、智能化的信息服務(wù),?；ヂ?lián)網(wǎng)信息服務(wù)算法在加速互聯(lián)網(wǎng)信息傳播、繁榮數(shù)字經(jīng)濟(jì),、促進(jìn)社會(huì)發(fā)展的同時(shí),，其不合理應(yīng)用也影響了正常的傳播秩序、市場(chǎng)秩序和社會(huì)秩序,，給維護(hù)意識(shí)形態(tài)安全,、社會(huì)公平公正和網(wǎng)民合法權(quán)益帶來(lái)挑戰(zhàn)。
為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用生態(tài)，國(guó)家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部,、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）,?！兑?guī)定》是目前我國(guó)針對(duì)互聯(lián)網(wǎng)信息服務(wù)算法推薦出臺(tái)的最為系統(tǒng)的專門性部門規(guī)章，為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng),、促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展,、推進(jìn)網(wǎng)絡(luò)空間治理提供了重要的制度保障，意義重大,，影響深遠(yuǎn),。
一、堅(jiān)持主流價(jià)值導(dǎo)向,，管理好使用好發(fā)展好算法應(yīng)用
《規(guī)定》著眼于網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理,，防范互聯(lián)網(wǎng)信息服務(wù)算法濫用風(fēng)險(xiǎn)，保障用戶合法權(quán)益,，充分發(fā)揮算法服務(wù)正能量傳播作用,，營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)空間?！兑?guī)定》從以下三個(gè)方面明確了算法治理的總體方向,。
（一）堅(jiān)持正確導(dǎo)向，算法向上向善,?！兑?guī)定》鼓勵(lì)算法推薦服務(wù)提供者使用算法積極傳播正能量、抵制違法和不良信息,?！兑?guī)定》鼓勵(lì)算法正向應(yīng)用和創(chuàng)新發(fā)展，通過人工干預(yù)優(yōu)化算法推薦服務(wù)機(jī)制,，將網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理和算法治理有機(jī)結(jié)合,，弘揚(yáng)社會(huì)主義核心價(jià)值觀。
（二）堅(jiān)持風(fēng)險(xiǎn)防控,，推進(jìn)算法規(guī)制,。《規(guī)定》著眼互聯(lián)網(wǎng)信息服務(wù)中潛在的算法影響網(wǎng)絡(luò)輿論,、算法誘導(dǎo)用戶沉迷或過度消費(fèi),、算法共謀和不正當(dāng)競(jìng)爭(zhēng)等算法應(yīng)用風(fēng)險(xiǎn)，由此引出治理對(duì)象,，通過算法規(guī)制規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng),，維護(hù)國(guó)家安全和社會(huì)公共利益。
（三）堅(jiān)持規(guī)范發(fā)展，防止算法濫用,?！兑?guī)定》倡導(dǎo)，提供算法推薦服務(wù)應(yīng)遵循公正公平,、公開透明,、科學(xué)合理和誠(chéng)實(shí)信用的原則，四個(gè)基本原則為算法規(guī)范發(fā)展框定了邊界,?！兑?guī)定》在信息服務(wù)規(guī)范和用戶權(quán)益保護(hù)部分，設(shè)置了算法應(yīng)用的應(yīng)當(dāng)行為和禁止行為,，明確了算法應(yīng)用的底線,。
二、建立健全科學(xué)的監(jiān)管體系,，形成算法治理長(zhǎng)效機(jī)制
《規(guī)定》明確了互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的監(jiān)管體系,，構(gòu)建了涵蓋算法分級(jí)分類、算法備案管理,、算法安全評(píng)估,、算法風(fēng)險(xiǎn)監(jiān)測(cè)等舉措的科學(xué)監(jiān)管體系，逐步形成算法治理長(zhǎng)效機(jī)制,。具體體現(xiàn)在三個(gè)方面：
（一）算法分級(jí)分類,，科學(xué)精細(xì)治理?！兑?guī)定》明確了算法治理的對(duì)象,，即應(yīng)用算法推薦技術(shù)向用戶提供信息的算法推薦服務(wù)提供者?！兑?guī)定》將互聯(lián)網(wǎng)信息服務(wù)推薦算法分為生成合成類,、個(gè)性化推送類、排序精選類,、檢索過濾類,、調(diào)度決策類等五大類,，并分別設(shè)置了針對(duì)性的差異化條款,。例如，對(duì)于生成合成類算法推薦服務(wù),，強(qiáng)調(diào)“應(yīng)做出顯著標(biāo)識(shí)”,；對(duì)于個(gè)性化推送類，突出用戶的自主選擇權(quán)等用戶權(quán)益保護(hù),；對(duì)于決策調(diào)度類,，關(guān)注算法自動(dòng)化決策對(duì)勞動(dòng)者、消費(fèi)者等造成的影響。對(duì)算法推薦服務(wù)的分級(jí)分類管理,，體現(xiàn)了科學(xué)化,、精細(xì)化的算法治理基本思路。
（二）算法備案先行,，治理有章可循,。《規(guī)定》要求具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)履行算法備案手續(xù),，并在對(duì)外提供服務(wù)的網(wǎng)站,、應(yīng)用程序等的顯著位置標(biāo)明其備案編號(hào)。算法備案是《規(guī)定》提出的一個(gè)重要舉措,，以算法推薦服務(wù)為切入點(diǎn)對(duì)其使用的互聯(lián)網(wǎng)信息服務(wù)算法進(jìn)行備案,，將算法和服務(wù)作為一個(gè)有機(jī)整體進(jìn)行治理。算法自評(píng)估報(bào)告是算法備案的一項(xiàng)亮點(diǎn)內(nèi)容,，為國(guó)家監(jiān)管部門和算法推薦服務(wù)提供者協(xié)同推動(dòng)算法治理工作提供了重要抓手,。
（三）算法安全評(píng)估，力求標(biāo)本兼治,?！兑?guī)定》明確了網(wǎng)信部門和電信、公安,、市場(chǎng)監(jiān)管等有關(guān)部門對(duì)算法推薦服務(wù)依法開展安全評(píng)估和監(jiān)督檢查的工作職責(zé),，并要求算法推薦服務(wù)提供者對(duì)安全評(píng)估和監(jiān)督檢查工作提供必要的數(shù)據(jù)、技術(shù)等支持或協(xié)助,。算法安全評(píng)估著眼于治本,，從算法推薦服務(wù)的基本原理、目的意圖,、主要運(yùn)行機(jī)制等方面入手,，以“事前”評(píng)估的方式排除算法在模型、數(shù)據(jù),、策略,、人工干預(yù)等方面的安全隱患；算法監(jiān)督檢查以事中監(jiān)測(cè)的方式發(fā)現(xiàn)算法使用過程中的安全風(fēng)險(xiǎn)及算法濫用帶來(lái)的算法亂象,。算法安全評(píng)估和監(jiān)督檢查工作覆蓋了算法應(yīng)用的全生命周期,，二者相互促進(jìn)，力求算法治理做到標(biāo)本兼治,。
三,、建設(shè)算法治理技術(shù)支撐體系，促進(jìn)算法健康有序發(fā)展
《規(guī)定》的出臺(tái),，是進(jìn)一步提升網(wǎng)絡(luò)綜合治理能力的應(yīng)時(shí)應(yīng)勢(shì)之舉,，具有很強(qiáng)的探索性和前瞻性,，也標(biāo)志著我國(guó)網(wǎng)絡(luò)空間治理邁入新的發(fā)展階段。但是,，算法綜合治理目前仍處于起步階段,，在技術(shù)支撐和能力建設(shè)方面有待進(jìn)一步加強(qiáng)。加快推進(jìn)算法綜合治理技術(shù)支撐體系建設(shè),，是切實(shí)保障算法綜合治理工作有力有序推進(jìn)的關(guān)鍵,。同時(shí)，算法安全既是國(guó)家重大需求,，也是國(guó)際科技前沿,，國(guó)家科研機(jī)構(gòu)應(yīng)加大算法安全方面的科技攻關(guān)，建設(shè)算法安全評(píng)估和風(fēng)險(xiǎn)監(jiān)測(cè)的科研創(chuàng)新平臺(tái),，建設(shè)支撐互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的技術(shù)體系,。建議加強(qiáng)如下工作：
（一）優(yōu)化算法安全科研布局，構(gòu)建算法治理關(guān)鍵技術(shù)聯(lián)合攻關(guān)體系,。圍繞智能算法安全這一重大創(chuàng)新領(lǐng)域,，組建國(guó)家重點(diǎn)實(shí)驗(yàn)室，形成引領(lǐng)算法安全基礎(chǔ)研究的戰(zhàn)略力量,；充分調(diào)動(dòng)“政產(chǎn)學(xué)研用”各方優(yōu)勢(shì)力量,，探索共建新型研發(fā)機(jī)構(gòu)，加大科研攻關(guān)力度,，研究算法安全內(nèi)生機(jī)理,、算法安全風(fēng)險(xiǎn)評(píng)估、算法全生命周期安全監(jiān)測(cè)等關(guān)鍵技術(shù)問題,。
（二）完善算法人才隊(duì)伍結(jié)構(gòu),，建立算法安全治理人才隊(duì)伍培養(yǎng)體系。鼓勵(lì)高校設(shè)置并加強(qiáng)算法安全相關(guān)專業(yè)學(xué)科建設(shè),，擴(kuò)大招生和培養(yǎng)規(guī)模,，加大算法安全治理基礎(chǔ)人才培養(yǎng)力度;完善算法安全治理領(lǐng)域成果評(píng)價(jià)和人才激勵(lì)機(jī)制，提供良好科研生態(tài)環(huán)境,，政策導(dǎo)向與市場(chǎng)優(yōu)化雙管齊下,，培養(yǎng)一支高素質(zhì)算法安全人才隊(duì)伍。
（三）加強(qiáng)基礎(chǔ)科研設(shè)施建設(shè),，提升算法自主創(chuàng)新和安全可控能力,。建設(shè)算法安全基礎(chǔ)科研設(shè)施，促進(jìn)算法研發(fā)工作,，支持算法與社會(huì),、經(jīng)濟(jì)各領(lǐng)域深度結(jié)合。加強(qiáng)知識(shí)產(chǎn)權(quán)保護(hù),，提高自研算法產(chǎn)品的推廣和使用,，增強(qiáng)算法核心競(jìng)爭(zhēng)力。推進(jìn)算法安全科學(xué)普及工作,，提升企業(yè)和社會(huì)公眾的算法安全風(fēng)險(xiǎn)意識(shí),，引導(dǎo)社會(huì)各界積極參與社會(huì)監(jiān)督，共同推進(jìn)算法綜合治理,。
相關(guān)鏈接
當(dāng)前位置：