“毒動(dòng)畫(huà)”悄然流入國(guó)內(nèi)，多個(gè)視頻平臺(tái)著手專項(xiàng)清理。對(duì)這些披著卡通外衣的“精神垃圾”，國(guó)內(nèi)外監(jiān)管有哪些難點(diǎn)和短板？如何在視頻網(wǎng)站和家長(zhǎng)之間形成合力，讓它們無(wú)處遁形？

　　專家建議，視頻平臺(tái)方面，強(qiáng)化人工智能“算法”的同時(shí)應(yīng)加強(qiáng)人工審核，以至開(kāi)設(shè)讓家長(zhǎng)完全放心的全人工過(guò)濾兒童視頻精選頻道；家長(zhǎng)方面，應(yīng)對(duì)孩子經(jīng)由電子產(chǎn)品接觸的媒體內(nèi)容做到心中有數(shù)，別把孩子扔給“電子保姆”。

　　【疲于“打地鼠”　篩查有難度】

　　在西方，“毒動(dòng)畫(huà)”獲稱“艾莎門(mén)”，主要指視頻分享網(wǎng)站“優(yōu)兔”(YouTube)上的兒童不宜視頻。它們大多由成年人制作，以經(jīng)典卡通形象誘使兒童點(diǎn)擊觀看，內(nèi)容卻包含血腥、暴力、色情或詭異情節(jié)。2013年，迪士尼動(dòng)畫(huà)片《冰雪奇緣》女主角艾莎公主常出現(xiàn)在這類視頻中，因而有人把艾莎與用以描述丑聞事件的后綴詞“門(mén)”(gate)組成新詞，即“艾莎門(mén)”(ElsaGate)。

　　“毒動(dòng)畫(huà)”通常在未獲法律許可的情形下使用經(jīng)典卡通形象，由匿名用戶上傳，內(nèi)容粗制濫造。為進(jìn)入搜索結(jié)果并引起用戶注意，這類視頻的標(biāo)題和描述常包含卡通形象名稱及“教育”“學(xué)習(xí)色彩”“童謠”等關(guān)鍵詞。一些時(shí)候，它們能規(guī)避優(yōu)兔內(nèi)置的兒童安全算法，進(jìn)入頗受家長(zhǎng)信任的優(yōu)兔兒童頻道。

　　“‘艾莎門(mén)’欺騙性地讓兒童、家長(zhǎng)和管理工具相信它們是‘兒童友好型’內(nèi)容，讓人相當(dāng)不安，”美國(guó)技術(shù)倫理學(xué)者戴維·瑞安·波爾格22日接受新華社記者采訪時(shí)說(shuō)，“兒童在觀看他們喜愛(ài)的卡通形象作出猥褻或暴力行為后，可能遭受心理創(chuàng)傷?！?/p>

　　長(zhǎng)期以來(lái)，技術(shù)企業(yè)嘗試借助審核人員和人工智能算法篩查并刪除兒童不宜視頻。但是，波爾格解釋，這就像玩“打地鼠”游戲，要逐一打掉那些冒出頭的不良視頻，作業(yè)量相當(dāng)大。

　　“優(yōu)兔每分鐘上傳的內(nèi)容達(dá)到300小時(shí)，一秒一秒地審查每部視頻不可能，”波爾格說(shuō)，“為簡(jiǎn)化流程，優(yōu)兔等主要平臺(tái)結(jié)合使用人工智能工具、用戶報(bào)告和版主。然而，不少家長(zhǎng)可能會(huì)想當(dāng)然地認(rèn)為優(yōu)兔兒童頻道等完全由人工挑選并審查，壞人正是利用這個(gè)漏洞，故意把不良內(nèi)容標(biāo)記為看似適合兒童的內(nèi)容。”

　　【潛藏利益鏈　投入需加大】

　　對(duì)“艾莎門(mén)”的批評(píng)聲最早2016年年中出現(xiàn)。一年后，它成為美國(guó)社交媒體“推特”上熱門(mén)的主題標(biāo)簽。美國(guó)社交網(wǎng)站“紅迪”(Reddit)創(chuàng)建“艾莎門(mén)”社區(qū)討論平臺(tái)，吸引數(shù)以萬(wàn)計(jì)用戶參與。

　　作家詹姆斯·布萊德?tīng)柸ツ?1月發(fā)表博客文章，題為“互聯(lián)網(wǎng)上一些地方出錯(cuò)了”，指認(rèn)“某些人、某些東西或某些人與物的混合體正在利用優(yōu)兔，成規(guī)模和系統(tǒng)化地恐嚇、傷害和虐待兒童。這讓我質(zhì)疑自己對(duì)互聯(lián)網(wǎng)的信仰，對(duì)各方面都產(chǎn)生質(zhì)疑?！?/p>

　　不得不說(shuō)，“毒動(dòng)畫(huà)”的惡意背后潛藏一條外人難見(jiàn)的利益鏈條。

　　視頻網(wǎng)站業(yè)內(nèi)人士說(shuō)，優(yōu)兔等國(guó)內(nèi)外視頻網(wǎng)站通行規(guī)則是，只要視頻點(diǎn)擊達(dá)到一定數(shù)量，就可以在視頻上附加“貼片廣告”，上傳者獲得一定分成，網(wǎng)站自身同樣可以獲利。

　　爭(zhēng)議中，一些廣告商發(fā)現(xiàn)自身廣告出現(xiàn)在“毒動(dòng)畫(huà)”上，與品牌定位相悖，開(kāi)始暫停向優(yōu)兔投放廣告。壓力之下，優(yōu)兔總裁蘇珊·武伊齊茨基去年12月宣布，將投入更多人力篩查視頻內(nèi)容。2018年，優(yōu)兔所屬谷歌公司的內(nèi)容審核人員將增至至少1萬(wàn)人，同時(shí)開(kāi)發(fā)新的人工智能算法，與兒童安全機(jī)構(gòu)合作。

　　優(yōu)兔一名發(fā)言人22日回復(fù)新華社記者提問(wèn)，在電子郵件中聲稱：“過(guò)去幾個(gè)月，我們有意識(shí)地采取措施，解決優(yōu)兔家庭內(nèi)容視頻面臨的諸多新挑戰(zhàn)，包括更嚴(yán)格執(zhí)行我們的社區(qū)指南、對(duì)不當(dāng)定位至家庭的內(nèi)容‘去貨幣化’并采取年齡限制，同時(shí)把這些內(nèi)容從優(yōu)兔兒童頻道中刪除?！?/p>

　　這名發(fā)言人說(shuō)，優(yōu)兔將致力于“正確解決難題”，投入人力和工程資源，以應(yīng)對(duì)不斷變化的環(huán)境。

　　【標(biāo)準(zhǔn)待調(diào)整　各方應(yīng)協(xié)力】

　　波爾格說(shuō)，沒(méi)有任何自動(dòng)識(shí)別工具能做到百分百準(zhǔn)確。由于以圖像和音樂(lè)作偽裝，“艾莎門(mén)”更難識(shí)別；所以，為凈化視頻內(nèi)容，“我們需要負(fù)責(zé)任、積極響應(yīng)的技術(shù)平臺(tái)與家長(zhǎng)和孩子齊心協(xié)力……一旦有內(nèi)容被標(biāo)記為具有攻擊性，視頻網(wǎng)站必須快速反應(yīng)”。

　　他說(shuō)，家長(zhǎng)自然希望所有兒童頻道的視頻完全經(jīng)由人工篩查，“優(yōu)兔依照人人都是內(nèi)容創(chuàng)作者并能上傳視頻的想法構(gòu)建，但可能會(huì)隨時(shí)間推移發(fā)生變化”?！叭绻沂莾?yōu)兔運(yùn)營(yíng)者，”波爾格告訴記者，“我會(huì)創(chuàng)建一些類似優(yōu)兔兒童精選的內(nèi)容，完全人工策劃和過(guò)濾，讓家長(zhǎng)完全放心?！?/p>

　　騰訊視頻23日回應(yīng)，打擊“毒動(dòng)畫(huà)”，騰訊應(yīng)用了音視頻指紋、ES搜索等技術(shù)，以快速處置有害視頻。“針對(duì)少兒內(nèi)容，我們將重新制定審核標(biāo)準(zhǔn)和尺度，”騰訊視頻表示，“我們將運(yùn)用人工智能(AI)學(xué)習(xí)有害的視頻樣本，打擊后續(xù)有害內(nèi)容的上傳和傳播?！?/p>

　　至少暫時(shí)無(wú)法實(shí)現(xiàn)全人工過(guò)濾，家長(zhǎng)該如何應(yīng)對(duì)？從事兒童發(fā)展心理學(xué)和早期教育研究的心理咨詢師高璇告訴新華社記者，低幼兒童接觸“毒動(dòng)畫(huà)”的風(fēng)險(xiǎn)可以防控，家長(zhǎng)必須擔(dān)負(fù)呵護(hù)責(zé)任，不應(yīng)把孩子交給“電子保姆”。

　　高璇建議，如果發(fā)現(xiàn)孩子接觸過(guò)這類視頻，家長(zhǎng)要注意孩子是否有恐懼情緒，詢問(wèn)孩子感受，告訴孩子“如果遇到讓自己害怕的事情應(yīng)該怎么做”，如調(diào)整呼吸、向父母傾訴，既轉(zhuǎn)移孩子對(duì)恐怖畫(huà)面的注意力，也教給孩子正確應(yīng)對(duì)恐懼的方法。另外，家長(zhǎng)可以帶孩子欣賞美好畫(huà)面、到戶外游玩，以驅(qū)逐、替代丑惡畫(huà)面給孩子留下的印象。（林小春　周舟）（新華社專特稿）

【糾錯(cuò)】

責(zé)任編輯： 徐海知