聊城市互聯(lián)網(wǎng)違法和不良信息舉報(bào)平臺歡迎您
國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,，3月1日起正式施行。對于普通用戶而言,，算法摸不著也看不懂,，卻在廣泛影響著我們通過各種平臺獲取互聯(lián)網(wǎng)信息服務(wù)。
算法無處不在 濫用問題不斷
算法推薦技術(shù)通過抓取用戶日常的使用數(shù)據(jù),，分析得出人們的行為,、習(xí)慣和喜好，進(jìn)而精準(zhǔn)化地提供信息,、娛樂,、消費(fèi)等各類服務(wù)。提供便利的同時(shí),，近年來,，“大數(shù)據(jù)殺熟”、流量造假,、誘導(dǎo)沉迷等不合理應(yīng)用也給我們的生活帶來煩惱,。由北京大學(xué)互聯(lián)網(wǎng)發(fā)展研究中心與互聯(lián)網(wǎng)公司聯(lián)合發(fā)布的《中國大安全感知報(bào)告（2021）》顯示，有七成受訪者感到算法能獲取自己的喜好,、興趣從而“算計(jì)”自己,，近五成受訪者表示，在算法束縛下想要逃離網(wǎng)絡(luò),、遠(yuǎn)離手機(jī),。
中國信息安全研究院副院長 左曉棟：這些服務(wù)的推送是網(wǎng)絡(luò)服務(wù)提供者給我們定制的，那么定制就容易產(chǎn)生濫用,，輕則損害我們個(gè)人的權(quán)益,，嚴(yán)重的就會(huì)危害國家安全，因此算法推薦必須要進(jìn)行規(guī)范,。
《規(guī)定》明確,，應(yīng)用算法推薦技術(shù)，是指利用生成合成類,、個(gè)性化推送類,、排序精選類、檢索過濾類,、調(diào)度決策類等算法技術(shù)向用戶提供信息,。各類提供算法推薦服務(wù)的互聯(lián)網(wǎng)公司幾乎都在監(jiān)管范圍內(nèi),，如各類短視頻平臺、電商平臺,、社交平臺及餐飲外賣平臺等,。
為了打破算法摸不著也看不懂的“黑箱”，《規(guī)定》明確要求保障用戶的算法知情權(quán)和算法選擇權(quán),，應(yīng)當(dāng)向用戶提供不針對其個(gè)人特征的選項(xiàng),，或者便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。
《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向,，積極傳播正能量,，建立完善人工干預(yù)和用戶自主選擇機(jī)制，不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論,、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競爭行為,。
不得實(shí)施差別待遇 劍指大數(shù)據(jù)“殺熟”
近年來,，一些企業(yè)利用個(gè)人信息搞大數(shù)據(jù)“殺熟”,，對不同群體進(jìn)行差別定價(jià)，實(shí)行“價(jià)格歧視”,，讓消費(fèi)者十分反感,。對此，《規(guī)定》又將如何破解呢,？
浙江紹興的胡女士通過某商旅平臺定購了一家酒店房間,，結(jié)賬時(shí)發(fā)現(xiàn)，通過平臺支付的房費(fèi)比該酒店實(shí)際房價(jià)高近一倍,，而她是該商旅平臺的高級會(huì)員,，本該享受8.5折優(yōu)惠。胡女士懷疑商旅平臺通過她此前的消費(fèi)行為,，存在“大數(shù)據(jù)殺熟”的行為,，將商旅平臺告上法庭。去年7月,，法院一審對原告退一賠三的請求予以準(zhǔn)許,。這起案件被眾多媒體稱為“大數(shù)據(jù)殺熟”第一案。
同樣的送餐時(shí)間,、地點(diǎn),、訂單、外賣平臺,，會(huì)員卻比非會(huì)員多付錢,；同時(shí)同地打同類型車到同一目的地，某打車平臺曾被用戶發(fā)現(xiàn)熟客反而收費(fèi)更高,，類似的消費(fèi)投訴多有發(fā)生,。對此,，《規(guī)定》提出，算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的,，應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利,，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征,，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為,。
中國信息安全研究院副院長 左曉棟：有的平臺就會(huì)說，這個(gè)算法是我的知識產(chǎn)權(quán),，是我的商業(yè)秘密,，我不能公開。這些說辭都不能成立了,，平臺的算法要保證必要的透明性,。
專家強(qiáng)調(diào)，《規(guī)定》還明確保障用戶的選擇權(quán),、刪除權(quán)等權(quán)益,。通過向用戶提供不針對其個(gè)人特征的選項(xiàng)，或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng),，并提供選擇或刪除針對其個(gè)人特征的用戶標(biāo)簽的功能,，避免消費(fèi)者被算法“算計(jì)”。
保護(hù)勞動(dòng)者合法權(quán)益 避免被算法所“困”
此外,，在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中要求,，算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)保護(hù)勞動(dòng)者取得勞動(dòng)報(bào)酬,、休息休假等合法權(quán)益,，相關(guān)情況，再來了解一下,。
2020年9月,，一篇名為《外賣騎手，困在系統(tǒng)里》的文章備受關(guān)注,。文章描述了在外賣平臺系統(tǒng)的算法與數(shù)據(jù)驅(qū)動(dòng)下,，外賣騎手的配送時(shí)間不斷被壓縮，而騎手在強(qiáng)大的系統(tǒng)驅(qū)動(dòng)下,，為避免差評,、維持收入，不得不在現(xiàn)實(shí)中選擇逆行,、闖紅燈等做法,。不少外賣騎手表示，幾十層的高層樓宇，電梯一等就是十幾分鐘甚至更長,，但這樣的客觀情況,，并沒有被“算法系統(tǒng)”考慮進(jìn)去。
清華大學(xué)人工智能國際治理研究院副院長 梁正：由于機(jī)器還在發(fā)展階段當(dāng)中,，針對一些勞動(dòng)工作場景,，把決定權(quán)力交給機(jī)器，有很大的潛藏的公平性,、可靠性的風(fēng)險(xiǎn),。
互聯(lián)網(wǎng)平臺優(yōu)化算法主要通過大數(shù)據(jù)分析算法模型計(jì)算出業(yè)務(wù)經(jīng)營的最佳策略，與此同時(shí),，與算法相配合的還有一整套嚴(yán)格的績效考核機(jī)制,，一旦違背部分算法規(guī)則，則會(huì)在考核中失去“優(yōu)勢”,，并可能帶來了一些惡性應(yīng)對行為,。對此《規(guī)定》專門提出，算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的,，應(yīng)當(dāng)保護(hù)勞動(dòng)者取得勞動(dòng)報(bào)酬,、休息休假等合法權(quán)益，建立完善平臺訂單分配,、報(bào)酬構(gòu)成及支付,、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法,。
確保算法公開透明 嚴(yán)防刷量控評影響輿論
雇傭網(wǎng)絡(luò)“水軍”實(shí)施流量造假，鼓動(dòng)“飯圈”粉絲互撕,，刷量控評,，一些算法推薦服務(wù)提供者干預(yù)熱搜，影響網(wǎng)絡(luò)輿論的現(xiàn)象讓人詬病,。3月1日施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》將給這類影響網(wǎng)絡(luò)輿論的“黑手”戴上“緊箍咒”,。
在娛樂行業(yè)，部分流量明星動(dòng)輒可以拿到上億甚至十幾億的商業(yè)回報(bào),，明星商業(yè)平臺無所不用其極地制作話題,、進(jìn)行炒作，任何可以引發(fā)粉絲關(guān)注討論的行為,，甚至是粉絲之間的網(wǎng)絡(luò)罵戰(zhàn),，都是商業(yè)團(tuán)隊(duì)常規(guī)的策劃內(nèi)容。品牌方也深諳此道,，甚至運(yùn)用手段刻意制造不同粉絲的矛盾,，掀起罵戰(zhàn)來博眼球、拉流量。
3月1日正式實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,，要求算法推薦服務(wù)應(yīng)遵循公開透明的原則,，鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略,，優(yōu)化規(guī)則透明度和可解釋性,。建立健全算法機(jī)制機(jī)理審核、科技倫理審查,、用戶注冊,、信息發(fā)布審核等管理制度，不得利用算法操縱榜單,、控制熱搜等干預(yù)信息呈現(xiàn),。
中國信息安全研究院副院長 左曉棟：我們看到的內(nèi)容有可能會(huì)越來越偏離公正，偏離中立,，被人為地或者是背后有算法在引導(dǎo)的情況,，那么就需要進(jìn)行必要地干預(yù)。
對外經(jīng)貿(mào)大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任 張欣：原則上告訴我們說這些設(shè)計(jì)人員不能去開發(fā)這樣的算法,，如果進(jìn)行了這樣相應(yīng)的行為怎么辦,？這一次的管理規(guī)定當(dāng)中非常明確提出要去承擔(dān)相應(yīng)的責(zé)任。
防止誘導(dǎo)沉迷消費(fèi) 保護(hù)特殊群體利益
如何防止誘導(dǎo)用戶沉迷,、過度消費(fèi),，保護(hù)未成年人等特殊群體的權(quán)益？針對這些訴求,，3月1日施行的《規(guī)定》也進(jìn)行了精細(xì)化的規(guī)定,。多位專家表示，建立健全科學(xué)的監(jiān)管體系,，形成算法治理長效機(jī)制,，將是確保《規(guī)定》落到實(shí)處的核心要義,。
《規(guī)定》提出,，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評估,、驗(yàn)證算法機(jī)制機(jī)理,、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,，不得設(shè)置誘導(dǎo)用戶沉迷,、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型。
針對未成年人,，《規(guī)定》提出,，算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò),?！兑?guī)定》還要求，算法推薦服務(wù)提供者向老年人提供服務(wù)的,，應(yīng)當(dāng)保障老年人依法享有的權(quán)益,，充分考慮老年人出行、就醫(yī),、消費(fèi),、辦事等需求，按照國家有關(guān)規(guī)定提供智能化適老服務(wù),。
監(jiān)管如何落地落實(shí),？《規(guī)定》明確，事前監(jiān)管,，確立算法備案,、算法評估等制度；區(qū)分監(jiān)管,，確立分級分類的思路,；系統(tǒng)監(jiān)管，建立多元共治的局面,。專家認(rèn)為,，《規(guī)定》著力完善治理體系，實(shí)現(xiàn)事前事中事后全流程,、全鏈條監(jiān)管,。算法推薦服務(wù)提供者如違反相關(guān)規(guī)定，會(huì)被處以警告,、通報(bào)批評,、罰款等，必要時(shí)還將給予治安管理處罰和追究刑事責(zé)任,。
中國信息安全研究院副院長 左曉棟：強(qiáng)調(diào)主體責(zé)任非常重要，因?yàn)槠脚_是算法推薦的使用者,，因此只有把平臺的責(zé)任壓實(shí),，那么平臺才有自覺性去落實(shí)法律法規(guī)的要求。
當(dāng)前位置：