算法推薦“強監(jiān)管”終于來了！
近日，國家互聯網信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯合發(fā)布《互聯網信息服務算法推薦管理規(guī)定》（以下簡稱《規(guī)定》），自2022年3月1日起施行。
隨著算法推薦技術在互聯網領域興起，算法歧視、“大數據殺熟”、誘導沉迷等算法不合理應用的問題也頻繁進入公眾視野。
如今，新規(guī)即將落地實施，能否進一步杜絕算法推薦亂象？又會給字節(jié)跳動等基于算法推薦的互聯網公司帶來哪些影響？
1．可約束平臺不公平獲取商業(yè)利益的行為
打開今日頭條，會發(fā)現“你關注的才是頭條”；閑暇時刷刷短視頻，系統(tǒng)不斷推送感興趣的內容，讓人不知不覺陷入了“時間黑洞”；在淘寶上瀏覽，關聯商品都與曾看過或購買的寶貝相關，購物欲望不知不覺中大增……
互聯網正在重塑人們的生活。2021年8月27日，中國互聯網絡信息中心（CNNIC）發(fā)布第48次《中國互聯網絡發(fā)展狀況統(tǒng)計報告》（以下簡稱《報告》），截至2021年6月，我國網民總體規(guī)模達10.11億。
不過，當用戶增速放緩時，互聯網也會陷入存量競爭，增加用戶粘性就成了關鍵。
記者注意到，算法推薦已經廣泛應用于短視頻、微博、新聞、電商、外賣等APP中，算法技術也成為互聯網公司的強大競爭力。
制圖：方紫薇
算法到底是什么？《規(guī)定》明確，應用算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息。
算法是如何留住你的注意力的？以抖音的推薦機制為例，用戶的點贊、評論、分享等行為，都會成為抖音算法為用戶描摹畫像的依據，影響著內容的分發(fā)。
算法也能將注意力轉化為收益。抖音電商聯合巨量算數首發(fā)《2021抖音電商生態(tài)發(fā)展報告》顯示，2021年1月，通過內容+算法優(yōu)勢，抖音的興趣電商實現商品交易總額同比增長了50倍。
字節(jié)跳動副總裁楊震原也曾公開表示，今日頭條第一筆訂單就是推薦算法。
2021年6月，字節(jié)跳動首次披露了公司的業(yè)績，2020年營收2366億元，同比增長111%；而產品的用戶活躍數量更是從2013年的0做到了2020年的月活19億。
“新規(guī)的落地，至少在如何更為公平、合理的使用算法推薦方面提供了基本的指引，在一定程度上可以約束平臺利用算法不公平獲取商業(yè)利益的行為?！鄙虾Ｘ斀洿髮W電子商務研究所執(zhí)行所長崔麗麗對中國城市報記者說道。在她看來，這意味著從國家政策文件的層面，對互聯網平臺合理使用算法推薦功能進行了規(guī)制，明確對“大數據殺熟”等不合理獲取商業(yè)利益的行為亮出了紅牌。對于算法推薦的個性化服務以及對個人特征標簽的使用等方面的選擇權，將交由消費者決定。
2．攜程被罰：“大數據殺熟”第一案維權成功
技術本身并無善惡。但如果利用方式出了錯，就會成為商家“割韭菜”的工具，讓用戶不知不覺陷入到“大數據”陷阱中。
2021年12月31日，紹興市中級人民法院就胡某某訴上海攜程商務有限公司侵權責任糾紛一案依法作出終審判決，“大數據殺熟”第一案維權成功。
此前據新華網報道，胡女士多次通過攜程APP預定機票、酒店，在攜程平臺上消費了10余萬元，成為該平臺的鉆石貴賓客戶。
2020年，胡女士像往常一樣通過攜程APP訂購了舟山某高端酒店的一間豪華湖景大床房，支付價款2889元，卻在退房時發(fā)現，酒店的掛牌房價加上稅金總價僅1377.63元。胡女士隨后與攜程反應，攜程僅退還了部分差價。
大數據“殺熟”反映出了典型的價格歧視，較真的胡女士將攜程告上法庭。
2021年7月7日，紹興市柯橋區(qū)人民法院一審判令攜程公司退還胡女士訂房差價，并按差額房費的三倍支付賠償金；判令攜程公司在APP中增加不同意其現有《服務協(xié)議》和《隱私政策》仍可繼續(xù)使用的選項等。攜程公司不服，提起上訴。
據北京青年報報道，紹興市中級人民法院審理認為，攜程公司構成欺詐，判令攜程公司退還胡女士訂房差價并按差額房費的三倍支付賠償金；對胡女士其余訴訟請求不予支持。
制圖：方紫薇
記者發(fā)現，目前在許多互聯網APP上，用戶已經可以自主選擇關閉個性化推薦設置。
比如打開淘寶APP，可以在隱私欄關閉個性化推薦；同樣，在餓了么APP中，也可以在通用設置里關閉個性化推薦設置。再刷新之后，APP首頁的推薦都發(fā)生了變化。
淘寶個性化推薦關閉頁面。
餓了么個性化推薦關閉頁面。
但是關閉了個性化推薦后，獲得的信息有時并不盡如人意。
比如知乎網友“King James”就指出：“其實現在已經有部分APP存在關閉個性化推薦或廣告的功能了。我關閉了淘寶的推薦功能后，發(fā)現各大推薦模塊仍然存在，整個信息流里面都是一些冷門商品，完全沒有想逛的欲望。以淘寶的技術能力，不至于推薦的商品如此令人反感，感覺在反向推薦。我懷疑，淘寶是希望通過這種做法來促使我重新開啟個性化推薦?！?/p>
因此關于“大數據殺熟”“個性化推薦”等方面，《規(guī)定》進行了相關限制：
《規(guī)定》第二十一條提出，算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者公平交易的權利，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。
《規(guī)定》第十七條提出，算法推薦服務提供者應當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。
算法推薦服務提供者應當向用戶提供選擇或者刪除用于算法推薦服務的針對其個人特征的用戶標簽的功能。算法推薦服務提供者應用算法對用戶權益造成重大影響的，應當依法予以說明并承擔相應責任。
3．保護被算法困住的“平臺勞工”
2021年4月28日，在北京衛(wèi)視的紀錄片鏡頭下，北京市人社局勞動關系處副處長王林體驗了一天做外賣騎士的感覺，送單12小時完成5單送餐，只賺了41塊，他感嘆這個錢太不好掙，引起社會對外賣騎士的關注。
4月29日，美團與餓了么相繼做出正式回應，明確表示已逐步取消對騎士逐單處罰，并將繼續(xù)努力提升騎士體驗。
對此《規(guī)定》也提出，算法推薦服務提供者向勞動者提供工作調度服務的，應當保護勞動者取得勞動報酬、休息休假等合法權益，建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關算法。
山東大學新聞傳播學院教授倪萬告訴中國城市報記者：“治理算法的本質問題，是算法終歸要為誰服務的問題，說到底要為人民服務，不是為算法背后的資本服務。不要讓算法異化人，把人困進冰冷的算法里?！?/p>
4．或削弱平臺企業(yè)因算法帶來的流量紅利
“我在刷B站的時候，會選擇一些有價值的知識分享類視頻點贊收藏，這樣下次刷新時，算法就會推送我感興趣的視頻?！?0后網民阿煒向記者分享他“馴服”算法的小技巧，他表示，偶爾他也會看一些不動腦的搞笑視頻，但很快，他的首頁推薦就被“污染”了。
“想要對沖‘信息繭房’，我必須要同時關注很多領域，可我的每一次喜歡與分享都是選擇，也許我自以為沒有陷入‘繭房’，卻已經身在其中了?！卑樃杏X十分無奈。
制圖：方紫薇
信息繭房概念最初由哈佛大學法學院教授凱斯·桑斯坦提出。
他認為，在信息傳播中，因公眾自身的信息需求并非全方位的，公眾只注意自己選擇的東西和使自己愉悅的通訊領域，久而久之，會將自身桎梏于像蠶繭一般的繭房中。
微博網友評論。
因此《規(guī)定》提出了以下指導意見：
第十二條指出，鼓勵算法推薦服務提供者綜合運用內容去重、打散干預等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性，避免對用戶產生不良影響，預防和減少爭議糾紛。
第十四條指出，算法推薦服務提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或者虛假點贊、評論、轉發(fā)，不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現，實施影響網絡輿論或者規(guī)避監(jiān)督管理行為。
值得注意的是，本次正式發(fā)布的規(guī)定在征求意見稿基礎上，新增第十三條，要求算法推薦服務提供者提供互聯網新聞信息服務的，應當依法取得服務許可，規(guī)范開展新聞信息采編發(fā)布服務、轉載服務和傳播平臺服務，不得生成合成虛假新聞信息，不得傳播非國家規(guī)定范圍內的單位發(fā)布的新聞信息。
對此上海申倫律師事務所律師夏海龍在接受媒體采訪時認為，除媒體自建的APP、新聞網站外，該條款主要針對今日頭條等不從事新聞采編業(yè)務的各類信息聚合、分發(fā)服務提供者，“這要求相關平臺在推送內容前需要對新聞內容、發(fā)布者資質進行一定審核，否則有可能推送違規(guī)新聞信息?！毕暮｝堈f。
長遠來看，《規(guī)定》的實施，會給字節(jié)跳動等基于算法推薦的互聯網公司帶來哪些影響？
對此崔麗麗認為，過去以算法見長的互聯網平臺，可能由純粹的技術型驅動轉為受人工控制的技術型驅動。在某種程度上，可能削弱從純技術優(yōu)勢角度由算法帶來的流量紅利。另外她提到，內容類平臺特別是一些涉及到國家和社會民生信息的發(fā)布和傳播將更需要獲得授權，不得利用算法獲取的受眾喜好對內容信息進行有偏向性的信息加工和傳播。這也是從某種程度上杜絕了對于新聞類內容產品根據受眾喜好編輯片面信息的可能性。
不過崔麗麗也表示，《規(guī)定》若要進一步落實到位，未來可能還需要一定的技術監(jiān)管+抽查+投訴舉報等多種手段的配合。
記者：方紫薇 張阿嬙