影響網(wǎng)絡(luò)輿論、大數(shù)據(jù)“殺熟”、誘導(dǎo)沉迷……伴隨著科技的發(fā)展，互聯(lián)網(wǎng)算法的陰暗面開始暴露。如今，這些問題將迎來嚴(yán)苛的監(jiān)管。1月4日，國(guó)家網(wǎng)信辦等多部門聯(lián)合修訂的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡(jiǎn)稱《規(guī)定》)發(fā)布，提出不得利用算法推薦影響網(wǎng)絡(luò)輿論，不得利用算法殺熟等要求。
“殺熟”或成過去式
從內(nèi)容來看，對(duì)比征求意見稿，正式發(fā)布的《規(guī)定》共35條，增加了5條內(nèi)容，涉及信息服務(wù)規(guī)范、用戶權(quán)益保護(hù)等方面。今年3月1日，《規(guī)定》將正式施行。這是我國(guó)首個(gè)互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域具有針對(duì)性的算法推薦規(guī)章制度。
何為算法推薦?《規(guī)定》首先給出定義，是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。
其中，算法推薦信息服務(wù)提供者扮演了重要角色?！兑?guī)定》明確，利用生成合成、個(gè)性化推送、排序精選、檢索過濾、調(diào)度決策等技術(shù)，向用戶提供信息服務(wù)的平臺(tái)，都?xì)w為算法推薦信息服務(wù)商。
一直以來，算法是效率的代名詞。算法根據(jù)用戶的年齡職業(yè)、興趣習(xí)慣、消費(fèi)水平等特征繪制不同的畫像，從而在海量信息中精準(zhǔn)甄別，把用戶一心想看的信息、接受需求的服務(wù)直接推到用戶面前。出行、網(wǎng)購、娛樂，這些滲透進(jìn)日常生活中的算法推薦應(yīng)用讓用戶感受到了便捷。
但不知何時(shí)起，算法的發(fā)展開始變味了。與精心推薦隨之而來的，是價(jià)格壟斷、大數(shù)據(jù)“殺熟”等用戶最常吐槽的問題。
“打車軟件上同樣的起始地，不同設(shè)備價(jià)格卻顯示不一。”“根本不感興趣的商品，不小心誤點(diǎn)進(jìn)去，之后卻頻繁出現(xiàn)在推薦界面，甚至出現(xiàn)了‘貼心’的跨平臺(tái)廣告。”網(wǎng)友吐槽的經(jīng)歷看似五花八門，卻又大同小異。
“幾乎所有的網(wǎng)絡(luò)公司都是由算法操縱的，區(qū)別只在于算法的先進(jìn)程度。”北京高勤律師事務(wù)所合伙人王源告訴北京商報(bào)記者，簡(jiǎn)單而言，算法推薦能夠通過一系列專業(yè)的數(shù)據(jù)計(jì)算產(chǎn)生內(nèi)容，進(jìn)而影響人的思維乃至行為。
針對(duì)上述問題，《規(guī)定》要求，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇。這也意味著，利用大數(shù)據(jù)“殺熟”或?qū)⒊蔀檫^去式。
不得影響網(wǎng)絡(luò)輿論
大數(shù)據(jù)“殺熟”是看得見的操控，而算法推薦失控帶來的問題遠(yuǎn)不止如此。
“不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競(jìng)爭(zhēng)行為。”《規(guī)定》明確的一系列細(xì)節(jié)中，“不得影響網(wǎng)絡(luò)輿論”格外顯眼。
算法控制下的榜單就是輿論被算法影響的典例之一。北京商報(bào)記者了解到，當(dāng)前在諸多資訊信息及短視頻平臺(tái)，引流限流、操縱榜單已成為內(nèi)容呈現(xiàn)的常規(guī)操作。
對(duì)此，《規(guī)定》指出，算法推薦服務(wù)提供者不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實(shí)施影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為。
“針對(duì)算法推薦信息服務(wù)提供者進(jìn)行管制還是很有必要的，要明晰哪些是國(guó)家規(guī)定范圍內(nèi)的單位，哪些不是，防止別有用心的人狐假虎威，利用公共資源達(dá)成私人目的。”自媒體從業(yè)者姚女士坦言。
除了不經(jīng)意間通過榜單等形式誘導(dǎo)思維、通過大數(shù)據(jù)“殺熟”影響行為，對(duì)于互聯(lián)網(wǎng)弱勢(shì)人群，諸如未成年人、老年人群體，算法的影響也更直接深入，比如短視頻平臺(tái)利用算法接連不斷推送令人上癮的視頻，而不法分子則鉆空子誘導(dǎo)老年人落入消費(fèi)陷阱。
對(duì)此，《規(guī)定》也作出了明確規(guī)定，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)，應(yīng)當(dāng)便利老年人安全使用算法推薦服務(wù)。應(yīng)當(dāng)建立完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法。
擴(kuò)展到所有群體，《規(guī)定》在用戶權(quán)益保護(hù)方面明確了相關(guān)要求，具體包括保障用戶算法知情權(quán)及選擇權(quán)，告知用戶其提供算法推薦服務(wù)的情況，向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者便捷地關(guān)閉算法推薦服務(wù)的選項(xiàng)。
落地仍需多方發(fā)力
《規(guī)定》實(shí)施在即，但具體落地仍需要多方協(xié)同，讓監(jiān)管滲透全流程、更公正透明。
王源對(duì)北京商報(bào)記者表示，“算法推薦是一項(xiàng)新技術(shù)，針對(duì)這項(xiàng)技術(shù)相關(guān)部門出臺(tái)的相關(guān)法律法規(guī)也很嚴(yán)格，但目前苦于沒有落地抓手。就信息提供服務(wù)平臺(tái)而言，如何分類、分級(jí)尚且缺乏標(biāo)準(zhǔn)指引”。行業(yè)實(shí)踐往往走在前頭，相對(duì)而言，監(jiān)管則呈現(xiàn)一定的滯后性，但“野蠻生長(zhǎng)”之后，算法推薦正在呼喚規(guī)制。
根據(jù)《規(guī)定》，提供互聯(lián)網(wǎng)新聞信息服務(wù)的算法推薦平臺(tái)，應(yīng)當(dāng)依法取得服務(wù)許可，這或許為算法推薦規(guī)制提供了一劑解藥。
除此之外，“備案手續(xù)”也成為一道有力枷鎖?！兑?guī)定》明確，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者，應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)履行備案手續(xù)，并按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估。同時(shí)，應(yīng)當(dāng)依法留存網(wǎng)絡(luò)日志，配合網(wǎng)信部門和電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門開展安全評(píng)估和監(jiān)督檢查工作，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。
“算法推薦服務(wù)治理需要政府、企業(yè)、社會(huì)、網(wǎng)民等多方主體共同參與，推動(dòng)算法推薦服務(wù)公正公平、規(guī)范透明，促進(jìn)算法推薦服務(wù)向上向善，營(yíng)造更加清朗的網(wǎng)絡(luò)空間。”國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，當(dāng)前，國(guó)家和地方網(wǎng)信辦正牽頭統(tǒng)籌協(xié)調(diào)全國(guó)算法推薦服務(wù)治理和相關(guān)監(jiān)督管理工作。
國(guó)家法律也提供了強(qiáng)有力的支撐。記者了解到，2021年11月1日起正式施行的個(gè)人信息保護(hù)法，對(duì)于公眾所關(guān)注的過度收集個(gè)人信息、大數(shù)據(jù)“殺熟”、敏感個(gè)人信息的處理等問題作出系統(tǒng)規(guī)制。
“在行政監(jiān)管之外，檢察院及消協(xié)都可以代表個(gè)人向侵權(quán)行為提起訴訟?？傮w來看，權(quán)力是越來越集中的，在國(guó)家網(wǎng)信辦的統(tǒng)籌作用下，各行業(yè)各司其職。”王源說。
