Soul創(chuàng)新用戶共治新模式第四季度生態(tài)安全治理再交亮眼成績(jī)單

2023-01-12 17:49:03來(lái)源：中關(guān)村在線

日均攔截95%以上的導(dǎo)流欺詐行為、日均識(shí)別打壓搬運(yùn)抄襲帖2.9萬(wàn)條，日均3000+用戶參與平臺(tái)眾裁活動(dòng)……近期，新型開放式社交平臺(tái)SoulApp發(fā)布了《Soul第四季度生態(tài)安全報(bào)告》。

(相關(guān)資料圖)

報(bào)告顯示，Soul通過(guò)AI識(shí)別和黑灰產(chǎn)識(shí)別技術(shù)上線動(dòng)態(tài)查重功能和多項(xiàng)反詐機(jī)制，從技術(shù)研發(fā)、產(chǎn)品設(shè)計(jì)及多方協(xié)同打擊方面著手，建立嚴(yán)密的風(fēng)控機(jī)制，并打造了由辨識(shí)真?zhèn)?、平臺(tái)打擊、用戶宣導(dǎo)和治理眾裁四部分組成的循環(huán)反饋雙擎生態(tài)安全治理模式。2022年第四季度，Soul重點(diǎn)圍繞導(dǎo)流詐騙治理、綠色生態(tài)共建、虛假內(nèi)容打擊、一鍵防網(wǎng)暴等四大用戶安全生態(tài)專項(xiàng)開展治理，再次交出一份亮眼的成績(jī)單。憑借在生態(tài)安全治理方面的領(lǐng)先實(shí)踐，Soul受邀參與由中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)調(diào)解工作委員會(huì)主辦的“2022網(wǎng)絡(luò)安全治理機(jī)制高峰論壇”，并入選《2022網(wǎng)絡(luò)安全運(yùn)營(yíng)服務(wù)機(jī)制及網(wǎng)絡(luò)反詐應(yīng)對(duì)報(bào)告》。

重拳出擊新型詐騙，配合公安機(jī)關(guān)成功打擊導(dǎo)流詐騙團(tuán)伙

報(bào)告顯示，2022年四季度，Soul通過(guò)站內(nèi)官方賬號(hào)Soul反詐中心，在私信、廣場(chǎng)等多場(chǎng)景對(duì)用戶進(jìn)行反詐安全提示，曝光達(dá)800余萬(wàn)次。四季度，Soul上線1000多項(xiàng)風(fēng)控策略，處罰100萬(wàn)人次，導(dǎo)流外溢案件發(fā)案下降50%以上，日均攔截95%以上的導(dǎo)流欺詐行為，獲得用戶正向反饋超10萬(wàn)次。另外，通過(guò)主動(dòng)發(fā)現(xiàn)線索，Soul還配合公安機(jī)關(guān)成功打擊站內(nèi)導(dǎo)流詐騙團(tuán)伙2個(gè)。

由于Soul本身不具備轉(zhuǎn)賬功能，因此，有一些不法分子想方設(shè)法將用戶吸引至第三方平臺(tái)，再實(shí)施詐騙。針對(duì)這一情況，Soul嚴(yán)厲打擊通過(guò)欺騙性手段，騙取用戶信任導(dǎo)流到站外的行為。特別是對(duì)于“投資”“刷單”“轉(zhuǎn)賬”和與支付相關(guān)的高危敏感字眼，Soul會(huì)在用戶對(duì)話頁(yè)面上及時(shí)彈出警示標(biāo)志，甚至?xí)o用戶發(fā)短信、打電話，通過(guò)及時(shí)提醒讓用戶遠(yuǎn)離詐騙。同時(shí)，Soul還會(huì)在第一時(shí)間響應(yīng)用戶的舉報(bào)，核查并封禁涉嫌詐騙的賬號(hào)。

值得一提的是，Soul通過(guò)企業(yè)與政府多部門聯(lián)動(dòng)，實(shí)現(xiàn)預(yù)警、勸阻、黑庫(kù)、情報(bào)等能力共享、協(xié)同打擊。及時(shí)阻斷和叫醒用戶，持續(xù)加強(qiáng)警企合作走訪提醒，提升平臺(tái)安全感。

在防范網(wǎng)絡(luò)詐騙方面，Soul還因勢(shì)而動(dòng)，不斷升級(jí)，建立了更嚴(yán)密的風(fēng)控體系，對(duì)不同群體“殺豬盤”詐騙實(shí)現(xiàn)精準(zhǔn)打擊。同時(shí)，Soul還通過(guò)優(yōu)化用戶端及時(shí)提醒機(jī)制，防范用戶上當(dāng)受騙。

創(chuàng)新安全生態(tài)治理新模式，日均3000+用戶參與共治眾裁

報(bào)告顯示，2022年第四季度，Soul在廣場(chǎng)治理中日均攔截1.8萬(wàn)條軟色情內(nèi)容，日均處理違規(guī)用戶1000人次，日均帖子、評(píng)論舉報(bào)量較上季度下降30%，在群聊派對(duì)治理中，Soul日均中斷5000余條違規(guī)語(yǔ)音消息，日均攔截違規(guī)文字消息1.4萬(wàn)條，日均梯度處罰違規(guī)2000多用戶。在低俗內(nèi)容和不良價(jià)值觀集中治理方面，Soul交出一份亮眼成績(jī)單。

構(gòu)建清朗的網(wǎng)絡(luò)空間，需要傳遞正確的價(jià)值觀。為了給用戶提供綠色清朗的社交環(huán)境，Soul長(zhǎng)期對(duì)擦邊低俗、拜金炫富、挑唆男女對(duì)立等不良價(jià)值觀內(nèi)容開展專項(xiàng)整治，從內(nèi)容廣場(chǎng)、文字群組、群聊派對(duì)等多場(chǎng)景進(jìn)行集中優(yōu)化，讓平臺(tái)充滿溫暖、友善的氛圍。

在Soul上，平臺(tái)用戶群體大部分是以95后、00后為代表的Z世代。對(duì)Z世代來(lái)說(shuō)，一方面，他們反對(duì)說(shuō)教式強(qiáng)制管束，另一方面，他們受教育程度越來(lái)越高、正能量十足，愿意承擔(dān)起社區(qū)自治責(zé)任。

針對(duì)年輕一代的特點(diǎn)，Soul上線風(fēng)紀(jì)委活動(dòng)，邀請(qǐng)用戶對(duì)不良價(jià)值觀內(nèi)容進(jìn)行打分，實(shí)施眾裁，風(fēng)紀(jì)委活動(dòng)得到用戶的積極響應(yīng)。數(shù)據(jù)顯示，目前已有2萬(wàn)余名用戶成為風(fēng)紀(jì)委成員，日均超3000成員參與其中。此外，針對(duì)低俗內(nèi)容，Soul在此前軟色情識(shí)別模型以及低俗色情識(shí)別模型的基礎(chǔ)上，于四季度又上線超過(guò)20條不良低俗內(nèi)容打壓策略，進(jìn)一步精準(zhǔn)識(shí)別，有效保護(hù)用戶。

升級(jí)“動(dòng)態(tài)查重”功能，用戶對(duì)虛假內(nèi)容處理滿意度提升20%

在網(wǎng)絡(luò)空間，虛假不實(shí)內(nèi)容就像一顆顆煙幕彈，嚴(yán)重影響網(wǎng)絡(luò)安全生態(tài)治理。為更好地治理虛假不實(shí)內(nèi)容，2022年第三季度Soul在業(yè)內(nèi)首創(chuàng)“動(dòng)態(tài)查重”功能，還發(fā)起《尊重原創(chuàng) 分享真實(shí)》公約（又稱《SoulReal》公約），呼吁用戶參與原創(chuàng)內(nèi)容保護(hù)。

2022年第四季度，Soul對(duì)“動(dòng)態(tài)查重”功能進(jìn)行升級(jí)。例如，如果發(fā)布者的圖片曾在站內(nèi)廣場(chǎng)出現(xiàn)過(guò)，Soul不僅在其個(gè)人主頁(yè)對(duì)應(yīng)的內(nèi)容帖下方提示“該內(nèi)容曾在站內(nèi)出現(xiàn)過(guò)”，還在廣場(chǎng)詳情頁(yè)帖子下增加相應(yīng)展示，讓虛假、跟風(fēng)內(nèi)容處處現(xiàn)形。此外，Soul還增加舉報(bào)入口，通過(guò)消息提醒原創(chuàng)作者對(duì)搬運(yùn)內(nèi)容進(jìn)行舉報(bào)維權(quán)，更好地保護(hù)原創(chuàng)者的合法權(quán)益。

報(bào)告顯示，四季度Soul官方風(fēng)紀(jì)球長(zhǎng)發(fā)布“保護(hù)原創(chuàng)、鼓勵(lì)真實(shí)”相關(guān)的宣傳科普內(nèi)容14篇，涉及違規(guī)處罰公示、安全標(biāo)準(zhǔn)宣導(dǎo)、真實(shí)公約等方面，總計(jì)曝光量達(dá)5252萬(wàn)。該季度，Soul日均識(shí)別打壓搬運(yùn)抄襲帖2.9萬(wàn)，搬運(yùn)抄襲相關(guān)舉報(bào)日均下降30%，用戶對(duì)虛假內(nèi)容處理的滿意度提升20%。

實(shí)現(xiàn)“一鍵防網(wǎng)暴”，強(qiáng)化“友善評(píng)論引導(dǎo)”

“惡語(yǔ)傷人六月寒”。在社交網(wǎng)絡(luò)中，時(shí)時(shí)出現(xiàn)的網(wǎng)絡(luò)暴力，成為傷人利器，也成為網(wǎng)絡(luò)生態(tài)的“毒瘤”。在網(wǎng)絡(luò)暴力治理方面，Soul打出了防治相輔的組合拳。

2022年第四季度，Soul上線了一鍵防網(wǎng)暴功能。在用戶遇到攻擊辱罵、低俗色情騷擾等情況下，Soul自動(dòng)觸發(fā)“今日自閉”開啟提醒。用戶選擇開啟“今日自閉”功能后，將不再收到靈魂匹配、奇遇鈴和內(nèi)容廣場(chǎng)等場(chǎng)景中的陌生人信息。據(jù)統(tǒng)計(jì)，新功能上線后，每天嘗試使用自閉功能的用戶超3萬(wàn)人。此外，Soul還在私聊對(duì)話、內(nèi)容廣場(chǎng)、游戲等不同場(chǎng)景與功能板塊，對(duì)辱罵攻擊、挑唆男女對(duì)立、地域歧視等網(wǎng)暴行為重拳出擊。

此外，當(dāng)用戶因?yàn)槿松砉舯慌e報(bào)多次以后，Soul將限制用戶的評(píng)論功能并引導(dǎo)用戶簽署“友善互動(dòng)聲明”，只有簽署后才能繼續(xù)發(fā)表評(píng)論，并且Soul在廣場(chǎng)內(nèi)容的發(fā)布中還啟動(dòng)禁止評(píng)論功能，發(fā)布者可以自定義選擇可評(píng)論的用戶群體。

通過(guò)防治結(jié)合，Soul在網(wǎng)絡(luò)暴力治理方面也取得碩果，日均避免用戶遭受網(wǎng)暴與頻繁騷擾5000多次，日均處理私聊不文明行為用戶300多人，日均提醒引導(dǎo)私聊文明發(fā)言20萬(wàn)次，日均發(fā)送友善評(píng)論提示900多次，累計(jì)簽署友善互動(dòng)聲明的用戶達(dá)5萬(wàn)余人。

在互聯(lián)網(wǎng)平臺(tái)，集聚著很多充滿活力、熱衷探索的青年人。對(duì)青年群體來(lái)說(shuō)，他們是互聯(lián)網(wǎng)的深度參與者，也是互聯(lián)網(wǎng)清朗網(wǎng)絡(luò)空間的重要構(gòu)建者。Soul相關(guān)負(fù)責(zé)人表示，“對(duì)社交平臺(tái)來(lái)說(shuō)，要肩負(fù)主體責(zé)任，通過(guò)積極的自治措施，增強(qiáng)用戶安全意識(shí)、引導(dǎo)網(wǎng)絡(luò)良好風(fēng)氣。同時(shí)，提升平臺(tái)管控效率，強(qiáng)化用戶權(quán)益維護(hù)。”Soul定期發(fā)布《Soul季度生態(tài)安全治理報(bào)告》，不僅是向社會(huì)公示平臺(tái)安全與生態(tài)治理的舉措與階段性進(jìn)展，也為互聯(lián)網(wǎng)平臺(tái)提供了網(wǎng)絡(luò)安全生態(tài)治理的寶貴經(jīng)驗(yàn)。

標(biāo)簽：新聞資訊