面對政策法規(guī)、用戶體驗，直播內(nèi)容安全危機重重

饒曉艷認為，包括直播在內(nèi)的所有互聯(lián)網(wǎng)UGC產(chǎn)品的內(nèi)容運營風險主要來自于兩方面：一是政策法規(guī)，目前很多國家法規(guī)里面已經(jīng)明確了對互聯(lián)網(wǎng)產(chǎn)品中相關(guān)內(nèi)容的要求——彈幕必須是要做到先審后發(fā);直播間必須有水印標識;直播內(nèi)容必須要有二十四小時的審核監(jiān)管;表演者必須實名注冊等。

二是涉及到用戶體驗，“現(xiàn)在大家實際看到的云音樂評論是特別有故事性，或者經(jīng)常特別耐看，其實我們每天從云音樂的原創(chuàng)歌單或者評論區(qū)刪掉的內(nèi)容也非常多”，饒曉艷說，“不同的粉絲群經(jīng)常也會出現(xiàn)掐架或者撕逼的狀態(tài)，分分鐘人身攻擊到比較嚴重的程度，這些情況都需要過濾和處理”。

從直播類產(chǎn)品痛點案例來看，目前直播類碰到的內(nèi)容監(jiān)管有四個比較明顯的難點：首先是彈幕聊天室的實時審核;然后是色情審核，現(xiàn)在仍然有秀場類的主播通過衣服脫下去再馬上穿上的秒錄行為打“擦邊球”，如果監(jiān)管不及時，很難抓到;再次是用戶突發(fā)通過平臺直播一個群體事件或者不良事件，平臺需要擔責;最后則是成本和技術(shù)方面的持續(xù)積累和投入負擔過重。

網(wǎng)易云安全(易盾)如何在實戰(zhàn)中解決內(nèi)容安全問題?

面對專業(yè)黑產(chǎn)、政策法規(guī)規(guī)范、用戶體驗差等風險，饒曉艷解釋說，網(wǎng)易云安全(易盾)在給內(nèi)部產(chǎn)品或者外部產(chǎn)品提供內(nèi)容安全服務(wù)時，首先會從文本、圖片、視頻和語音等方面入手，來一次全面的檢測;在為做直播類產(chǎn)品提供服務(wù)時，網(wǎng)易云安全(易盾)還會從彈幕實時過濾、用戶頭像/昵稱過濾、聊天區(qū)文本/圖片過濾、直播間電視墻監(jiān)控等方面來做內(nèi)容安全解決方案。