原標(biāo)題：算法監(jiān)管元年開啟：劍指“大數(shù)據(jù)殺熟”，新聞推薦平臺(tái)需獲服務(wù)資質(zhì)
南方財(cái)經(jīng)全媒體記者 吳立洋 21世紀(jì)經(jīng)濟(jì)報(bào)道記者 張雅婷 廣州報(bào)道
1月4日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），自2022年3月1日起施行。
在此前征求意見稿的基礎(chǔ)上，《規(guī)定》新增禁止“大數(shù)據(jù)殺熟”，要求不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇；算法推薦服務(wù)提供者提供互聯(lián)網(wǎng)新聞信息服務(wù)的，應(yīng)當(dāng)依法取得服務(wù)許可，不得傳播非國(guó)家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息；保障老年人依法享有的權(quán)益，便利老年人安全使用算法推薦服務(wù)等要求。
“加強(qiáng)數(shù)據(jù)和算法的立法和監(jiān)管，是和數(shù)字經(jīng)濟(jì)的發(fā)展同步的?！笔垒x律師事務(wù)所合伙人王新銳表示?？紤]到絕大多數(shù)經(jīng)濟(jì)體之前均已有成體系的個(gè)人信息保護(hù)立法，如果說(shuō)我國(guó)的個(gè)人信息保護(hù)監(jiān)管主要是“補(bǔ)課”的話，算法監(jiān)管某種程度上是優(yōu)等生才需要做的“加分題”。
當(dāng)前，對(duì)互聯(lián)網(wǎng)行業(yè)的監(jiān)管步入深水區(qū)，從對(duì)行業(yè)的規(guī)范、企業(yè)的約束逐漸走向?qū)ヂ?lián)網(wǎng)運(yùn)行邏輯、運(yùn)行規(guī)則的治理，多位受訪專家表示，《規(guī)定》的公布，或?qū)㈤_啟2022算法監(jiān)管元年。
劍指“大數(shù)據(jù)殺熟”與“二選一”
《規(guī)定》保障用戶權(quán)益，禁止“大數(shù)據(jù)殺熟”，要求不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等。相較征求意見稿，《規(guī)定》新增第十五條規(guī)定，要求不得利用算法實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)的行為，劍指“二選一”與自我優(yōu)待。對(duì)于電商、外賣、旅行、搜索類平臺(tái)，需密切關(guān)注，及時(shí)予以預(yù)防與制止。
《規(guī)定》第十五條提到，算法推薦服務(wù)提供者不得利用算法對(duì)其他互聯(lián)網(wǎng)信息服務(wù)提供者進(jìn)行不合理限制，或者妨礙、破壞其合法提供的互聯(lián)網(wǎng)信息服務(wù)正常運(yùn)行，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為。
“此條款延續(xù)的是《反不正當(dāng)競(jìng)爭(zhēng)法》的思路，無(wú)論什么規(guī)模平臺(tái)，實(shí)施這種行為都會(huì)被禁止。”清華大學(xué)國(guó)家戰(zhàn)略研究院特約研究員劉旭表示?！斗床徽?dāng)競(jìng)爭(zhēng)法》第十二條對(duì)利用網(wǎng)絡(luò)從事生產(chǎn)經(jīng)營(yíng)活動(dòng)的經(jīng)營(yíng)者行為進(jìn)行規(guī)制，要求經(jīng)營(yíng)者不得利用技術(shù)手段，通過影響用戶選擇或者其他方式，實(shí)施相關(guān)妨礙、破壞其他經(jīng)營(yíng)者合法提供的網(wǎng)絡(luò)產(chǎn)品或者服務(wù)正常運(yùn)行的行為。
北京師范大學(xué)網(wǎng)絡(luò)法治國(guó)際中心執(zhí)行主任吳沈括指出，“二選一”的隱蔽形式還體現(xiàn)在平臺(tái)利用算法對(duì)信息推薦進(jìn)行有傾向性的集中展示，即對(duì)某種競(jìng)爭(zhēng)對(duì)手的集中負(fù)面展示，而對(duì)平臺(tái)自身與自己生態(tài)圈內(nèi)合作伙伴的集中贊頌展示，通過內(nèi)容的曝光度給予優(yōu)待，新增的第十五條也是對(duì)此類行為進(jìn)行規(guī)制。
對(duì)于利用算法實(shí)施壟斷的行為，在國(guó)家市場(chǎng)監(jiān)督管理總局2021年4月10日公布對(duì)阿里巴巴的處罰決定書中已有涉及。該處罰決定書提到，在阿里巴巴采取多種獎(jiǎng)懲措施保障“二選一”要求時(shí)，其憑借市場(chǎng)力量、平臺(tái)規(guī)則和數(shù)據(jù)、算法等技術(shù)手段，對(duì)不執(zhí)行阿里巴巴相關(guān)要求的平臺(tái)內(nèi)經(jīng)營(yíng)者實(shí)施處罰，包括搜索降權(quán)等?？梢?，如果具有市場(chǎng)支配地位的經(jīng)營(yíng)者通過推薦算法實(shí)施這類行為，會(huì)按照《反壟斷法》予以查處。
國(guó)家市場(chǎng)監(jiān)督管理總局反壟斷局2021年9月發(fā)布的《中國(guó)反壟斷執(zhí)法年度報(bào)告（2020）》中也提到，互聯(lián)網(wǎng)平臺(tái)存在利用平臺(tái)規(guī)則、數(shù)據(jù)、算法、技術(shù)實(shí)施壟斷行為的風(fēng)險(xiǎn)。例如，互聯(lián)網(wǎng)平臺(tái)可能濫用其在數(shù)據(jù)、算法、技術(shù)和平臺(tái)規(guī)則方面的優(yōu)勢(shì)實(shí)施“算法共謀”“大數(shù)據(jù)殺熟”?；诖髷?shù)據(jù)和算法，根據(jù)交易相對(duì)人的支付能力、消費(fèi)偏好、使用習(xí)慣等，實(shí)行差異性交易價(jià)格或者其他交易條件等行為，可能構(gòu)成濫用市場(chǎng)支配地位行為。
今日頭條等平臺(tái)需取得許可并審核信息發(fā)布者資質(zhì)
信息化時(shí)代，互聯(lián)網(wǎng)推薦算法最受詬病的問題之一，就是以大量同質(zhì)化內(nèi)容占據(jù)受眾訊息接收渠道，導(dǎo)致用戶長(zhǎng)期只能獲取有限來(lái)源和單一傾向性的信息，在平臺(tái)內(nèi)容信息提供者魚龍混雜，信息質(zhì)量層次不齊的環(huán)境中，極易形成個(gè)體用戶的“信息繭房”。
本次公布的規(guī)定延續(xù)了征求意見稿中關(guān)于算法內(nèi)容分布優(yōu)化的規(guī)定，第十二條指出，鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略。
8月27日，在該規(guī)定征求意見稿公布當(dāng)日，網(wǎng)信辦就曾發(fā)布加強(qiáng)“飯圈”亂象治理的通知，提出“取消明星藝人榜單”“優(yōu)化調(diào)整排行規(guī)則”等10條工作措施。網(wǎng)信辦指出，在音樂作品、影視作品等排行中，降低簽到、點(diǎn)贊、評(píng)論等指標(biāo)權(quán)重，增加作品導(dǎo)向及專業(yè)性評(píng)價(jià)等指標(biāo)權(quán)重。不得設(shè)置誘導(dǎo)粉絲打榜的相關(guān)功能，引導(dǎo)粉絲更多關(guān)注文化產(chǎn)品質(zhì)量。
此外，《規(guī)定》要求賦予用戶選擇權(quán)。其第十七條要求，算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉的，應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。這與去年11月1日正式落地的《個(gè)人信息保護(hù)法》中，關(guān)于個(gè)人信息權(quán)及撤回同意的相關(guān)內(nèi)容保持了一致。
值得注意的是，本次正式發(fā)布的規(guī)定在征求意見稿基礎(chǔ)上，新增第十三條，要求算法推薦服務(wù)提供者提供互聯(lián)網(wǎng)新聞信息服務(wù)的，應(yīng)當(dāng)依法取得服務(wù)許可，規(guī)范開展新聞信息采編發(fā)布服務(wù)、轉(zhuǎn)載服務(wù)和傳播平臺(tái)服務(wù)，不得生成合成虛假新聞信息，不得傳播非國(guó)家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息。
王新銳表示，該法規(guī)與《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》一脈相承，之前該規(guī)定列舉了“互聯(lián)網(wǎng)站、應(yīng)用程序、論壇、博客、微博客、公眾賬號(hào)、即時(shí)通信工具、網(wǎng)絡(luò)直播等形式”，這次把算法推薦也納入其中。
上海申倫律師事務(wù)所律師夏海龍則指出，除媒體自建的APP、新聞網(wǎng)站外，該條款主要針對(duì)今日頭條等不從事新聞采編業(yè)務(wù)的各類信息聚合、分發(fā)服務(wù)提供者：“這要求相關(guān)平臺(tái)在推送內(nèi)容前需要對(duì)新聞內(nèi)容、發(fā)布者資質(zhì)進(jìn)行一定審核，否則有可能推送違規(guī)新聞信息?！?/p>
突出用戶選擇、刪除標(biāo)簽權(quán)
除進(jìn)一步明確和強(qiáng)化互聯(lián)網(wǎng)平臺(tái)算法監(jiān)管在反不正當(dāng)競(jìng)爭(zhēng)、反壟斷與規(guī)范內(nèi)容來(lái)源等方面的合規(guī)要求，正式發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也對(duì)先前征求意見稿進(jìn)行了一些精細(xì)化、人性化的調(diào)整與補(bǔ)充。
記者注意到，本次發(fā)布《規(guī)定》的第十七條在征求意見稿第十五條的基礎(chǔ)上，刪去了“算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶標(biāo)簽的功能”中，向用戶提供“修改”用戶標(biāo)簽功能的表述，只要求其向用戶提供“選擇或者刪除用于算法推薦服務(wù)的針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能”。
北京航空航天大學(xué)法學(xué)院助理教授趙精武認(rèn)為，刪除“修改”主要有兩點(diǎn)原因：一是平衡用戶和平臺(tái)之間的權(quán)益訴求，眾多用戶不同的修改需無(wú)疑會(huì)大幅增加企業(yè)運(yùn)營(yíng)成本，也會(huì)存在過度干預(yù)企業(yè)自主經(jīng)營(yíng)活動(dòng)的風(fēng)險(xiǎn)；二是允許用戶修改用戶標(biāo)簽在技術(shù)層面實(shí)現(xiàn)難度較大。
當(dāng)前，國(guó)外在算法監(jiān)管層面主要賦予用戶知情權(quán)、反對(duì)權(quán)等權(quán)益，如歐盟《通用數(shù)據(jù)保護(hù)條例》賦予用戶知情權(quán)、免受自動(dòng)化決策權(quán)等權(quán)利。
趙精武指出，刪除“修改”反映了算法監(jiān)管層面的穿透式監(jiān)管思路，即穿透推送服務(wù)的表面特征，直接對(duì)可能影響用戶權(quán)益的技術(shù)方案、信息服務(wù)內(nèi)容進(jìn)行實(shí)質(zhì)監(jiān)管，同時(shí)兼顧平臺(tái)服務(wù)者的權(quán)益訴求，突出“安全與使用并用”的監(jiān)管特征。
“如果賦予用戶對(duì)算法服務(wù)的反向修改權(quán)，實(shí)際上突破了算法服務(wù)單向化、自動(dòng)化的基礎(chǔ)運(yùn)行邏輯，因而會(huì)不適當(dāng)?shù)卦黾铀惴ǚ?wù)者作為義務(wù)。”夏海龍表示，保障用戶對(duì)算法服務(wù)享有充分的選擇權(quán)、拒絕權(quán)，既足以保障用戶不因算法受到損失，又不會(huì)明顯加重算法服務(wù)者的義務(wù)，能夠?qū)崿F(xiàn)雙方利益的合理平衡，明顯降低了新規(guī)對(duì)行業(yè)的限制效果，說(shuō)明監(jiān)管思路更加符合行業(yè)實(shí)際，也更加科學(xué)、合理。
值得注意的是，在此前征求意見稿有關(guān)算法對(duì)未成年人提供服務(wù)的相關(guān)規(guī)定基礎(chǔ)上，本次正式發(fā)布的《規(guī)定》新增第十九條，要求算法推薦服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求，按照國(guó)家有關(guān)規(guī)定提供智能化適老服務(wù)，依法開展涉電信網(wǎng)絡(luò)詐騙信息的監(jiān)測(cè)、識(shí)別和處置，便利老年人安全使用算法推薦服務(wù)。
夏海龍表示，關(guān)注青少年、老人等社會(huì)若是群體的條款體現(xiàn)出監(jiān)管積極回應(yīng)社會(huì)關(guān)切、人性化的趨勢(shì)，也是對(duì)尊老愛幼等傳統(tǒng)美德的發(fā)揚(yáng)。大部分老年人在視力、聽力、新興事物理解力等方面要弱于青壯年用戶，因此算法適老化改進(jìn)，應(yīng)盡可能突出與簡(jiǎn)化聯(lián)系家人、就醫(yī)、緊急呼救等相關(guān)服務(wù)功能的使用步驟和理解難度，同時(shí)防止老年在算法推薦信息中接觸到電信詐騙等內(nèi)容。
王新銳指出，本次新規(guī)中提出的建立健全算法機(jī)制機(jī)理審核、科技倫理審查等要求，未來(lái)都會(huì)陸續(xù)成為大型平臺(tái)公司的標(biāo)配，而對(duì)算法的評(píng)估和調(diào)整，在企業(yè)內(nèi)部至少涉及到技術(shù)、產(chǎn)品、法務(wù)等多個(gè)業(yè)務(wù)部門，如何統(tǒng)一認(rèn)識(shí)，保證全流程合規(guī)，考驗(yàn)著互聯(lián)網(wǎng)大型平臺(tái)企業(yè)的管理水平。
“從推薦算法的技術(shù)邏輯和商業(yè)邏輯來(lái)說(shuō)，更加精準(zhǔn)都是其天然的導(dǎo)向，但這和保護(hù)個(gè)人信息、公平競(jìng)爭(zhēng)有時(shí)并不天然兼容，甚至可能激烈沖突。”他續(xù)稱，這就需要立法和監(jiān)管有限度介入。