國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下稱《規(guī)定》)于今日起正式施行?!兑?guī)定》明確,應(yīng)用算法推薦技術(shù)是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。
寶新金融首席經(jīng)濟(jì)學(xué)家鄭磊對《證券日報》記者表示,《規(guī)定》從信息服務(wù)規(guī)范、用戶權(quán)益保護(hù)、監(jiān)督管理、法律責(zé)任等方面,細(xì)致地對近年來反映強(qiáng)烈的問題進(jìn)行規(guī)范,解決了算法推薦擾民、窺探個人隱私、殺熟等問題,是我國大數(shù)據(jù)人工智能服務(wù)行業(yè)規(guī)范管理的系列制度之一。
可以預(yù)見,《規(guī)定》出臺后,用戶“數(shù)據(jù)裸奔”“大數(shù)據(jù)殺熟”等問題將成為歷史。
七成用戶擔(dān)憂算法陷阱
“我一直都覺得自己是在互聯(lián)網(wǎng)上‘裸奔’?!币晃换ヂ?lián)網(wǎng)深度用戶師先生告訴《證券日報》記者,經(jīng)常會出現(xiàn)在社交軟件中談及一款產(chǎn)品后,電商平臺立刻就會進(jìn)行相關(guān)推薦的現(xiàn)象。
過去幾年中,移動互聯(lián)網(wǎng)飛速發(fā)展,互聯(lián)網(wǎng)企業(yè)通過算法對于用戶貼標(biāo)簽,從而分析出其喜好、習(xí)慣等精準(zhǔn)的私人信息,進(jìn)而提供更細(xì)致的推送。無論是短視頻的興趣推薦,還是電商的“千人千面”,均是在算法推薦技術(shù)衍生而來。
算法陷阱也就此產(chǎn)生,“如果你喜歡做飯,視頻平臺就會不斷推送美食視頻;如果你喜歡舞蹈,視頻平臺就會推送跳舞視頻。長此以往,用戶獲取新信息的渠道便會被截斷,沉寂在自己的世界中?!币晃换ヂ?lián)網(wǎng)行業(yè)分析師對《證券日報》記者表示,
此外,通過算法判斷,“大數(shù)據(jù)殺熟”現(xiàn)象也屢見不鮮。例如,同一款打車軟件、同樣的路程,不同用戶標(biāo)價卻不同。
“在同一電商平臺中搜索同一款商品,不同用戶的搜索結(jié)果也不一樣,消費水平較高的用戶,搜索出來的產(chǎn)品價格更貴,而消費水平略低的搜索出來的產(chǎn)品則更便宜?!鄙鲜龇治鰩煾嬖V記者,這也是算法精準(zhǔn)判斷的結(jié)果。
據(jù)《中國大安全感知報告(2021)》顯示,公眾最擔(dān)心對于個人信息的保護(hù),有七成公眾感到算法能獲取自己的喜好、興趣,進(jìn)而進(jìn)行精準(zhǔn)“算計”;有五成公眾擔(dān)心下載的App不安全。
國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人答記者問時表示,算法應(yīng)用日益普及深化,在給經(jīng)濟(jì)社會發(fā)展等方面注入新動能的同時,算法歧視、“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷等算法不合理應(yīng)用導(dǎo)致的問題也深刻影響著正常的傳播秩序、市場秩序和社會秩序,給維護(hù)意識形態(tài)安全、社會公平公正和網(wǎng)民合法權(quán)益帶來挑戰(zhàn),迫切需要對算法推薦服務(wù)建章立制、加強(qiáng)規(guī)范,著力提升防范化解算法推薦安全風(fēng)險的能力,促進(jìn)算法相關(guān)行業(yè)健康有序發(fā)展。
電商、社交等賽道將受影響
國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,《規(guī)定》明確了對于算法推薦服務(wù)提供者的用戶權(quán)益保護(hù)要求。一是算法知情權(quán),要求告知用戶其提供算法推薦服務(wù)的情況,并公示服務(wù)的基本原理、目的意圖和主要運行機(jī)制等;二是算法選擇權(quán),要求向用戶提供不針對其個人特征的選項,或者便捷的關(guān)閉算法推薦服務(wù)的選項;三是針對向未成年人、老年人、勞動者、消費者等主體提供服務(wù)的算法推薦服務(wù)提供者作出具體規(guī)范。
無錫數(shù)字經(jīng)濟(jì)研究院執(zhí)行院長吳琦對《證券日報》記者表示,《規(guī)定》的出臺有利于推動算法推薦服務(wù)公正公平、規(guī)范透明,促進(jìn)算法推薦服務(wù)向上向善和健康發(fā)展,保護(hù)國家安全和社會公共利益以及用戶的合法權(quán)益。
“《規(guī)定》出臺后,對網(wǎng)絡(luò)銷售、生活服務(wù)、社交娛樂、信息資訊、金融服務(wù)、計算應(yīng)用等領(lǐng)域影響較大。”吳琦進(jìn)一步表示。
值得一提的是,《規(guī)定》提出,用戶選擇關(guān)閉算法推薦服務(wù)時,服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。同時,服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對其個人特征的用戶標(biāo)簽功能。