“毒動畫”悄然流入國內(nèi),多個視頻平臺著手專項清理。對這些披著卡通外衣的“精神垃圾”,國內(nèi)外監(jiān)管有哪些難點和短板?如何在視頻網(wǎng)站和家長之間形成合力,讓它們無處遁形?
專家建議,視頻平臺方面,強化人工智能“算法”的同時應(yīng)加強人工審核,以至開設(shè)讓家長完全放心的全人工過濾兒童視頻精選頻道;家長方面,應(yīng)對孩子經(jīng)由電子產(chǎn)品接觸的媒體內(nèi)容做到心中有數(shù),別把孩子扔給“電子保姆”。
【疲于“打地鼠” 篩查有難度】
在西方,“毒動畫”獲稱“艾莎門”,主要指視頻分享網(wǎng)站“優(yōu)兔”(YouTube)上的兒童不宜視頻。它們大多由成年人制作,以經(jīng)典卡通形象誘使兒童點擊觀看,內(nèi)容卻包含血腥、暴力、色情或詭異情節(jié)。2013年,迪士尼動畫片《冰雪奇緣》女主角艾莎公主常出現(xiàn)在這類視頻中,因而有人把艾莎與用以描述丑聞事件的后綴詞“門”(gate)組成新詞,即“艾莎門”(ElsaGate)。
“毒動畫”通常在未獲法律許可的情形下使用經(jīng)典卡通形象,由匿名用戶上傳,內(nèi)容粗制濫造。為進入搜索結(jié)果并引起用戶注意,這類視頻的標(biāo)題和描述常包含卡通形象名稱及“教育”“學(xué)習(xí)色彩”“童謠”等關(guān)鍵詞。一些時候,它們能規(guī)避優(yōu)兔內(nèi)置的兒童安全算法,進入頗受家長信任的優(yōu)兔兒童頻道。
“‘艾莎門’欺騙性地讓兒童、家長和管理工具相信它們是‘兒童友好型’內(nèi)容,讓人相當(dāng)不安,”美國技術(shù)倫理學(xué)者戴維·瑞安·波爾格22日接受新華社記者采訪時說,“兒童在觀看他們喜愛的卡通形象作出猥褻或暴力行為后,可能遭受心理創(chuàng)傷?!?/p>
長期以來,技術(shù)企業(yè)嘗試借助審核人員和人工智能算法篩查并刪除兒童不宜視頻。但是,波爾格解釋,這就像玩“打地鼠”游戲,要逐一打掉那些冒出頭的不良視頻,作業(yè)量相當(dāng)大。
“優(yōu)兔每分鐘上傳的內(nèi)容達到300小時,一秒一秒地審查每部視頻不可能,”波爾格說,“為簡化流程,優(yōu)兔等主要平臺結(jié)合使用人工智能工具、用戶報告和版主。然而,不少家長可能會想當(dāng)然地認為優(yōu)兔兒童頻道等完全由人工挑選并審查,壞人正是利用這個漏洞,故意把不良內(nèi)容標(biāo)記為看似適合兒童的內(nèi)容?!?/p>
【潛藏利益鏈 投入需加大】
對“艾莎門”的批評聲最早2016年年中出現(xiàn)。一年后,它成為美國社交媒體“推特”上熱門的主題標(biāo)簽。美國社交網(wǎng)站“紅迪”(Reddit)創(chuàng)建“艾莎門”社區(qū)討論平臺,吸引數(shù)以萬計用戶參與。
作家詹姆斯·布萊德爾去年11月發(fā)表博客文章,題為“互聯(lián)網(wǎng)上一些地方出錯了”,指認“某些人、某些東西或某些人與物的混合體正在利用優(yōu)兔,成規(guī)模和系統(tǒng)化地恐嚇、傷害和虐待兒童。這讓我質(zhì)疑自己對互聯(lián)網(wǎng)的信仰,對各方面都產(chǎn)生質(zhì)疑?!?/p>
不得不說,“毒動畫”的惡意背后潛藏一條外人難見的利益鏈條。
視頻網(wǎng)站業(yè)內(nèi)人士說,優(yōu)兔等國內(nèi)外視頻網(wǎng)站通行規(guī)則是,只要視頻點擊達到一定數(shù)量,就可以在視頻上附加“貼片廣告”,上傳者獲得一定分成,網(wǎng)站自身同樣可以獲利。
爭議中,一些廣告商發(fā)現(xiàn)自身廣告出現(xiàn)在“毒動畫”上,與品牌定位相悖,開始暫停向優(yōu)兔投放廣告。壓力之下,優(yōu)兔總裁蘇珊·武伊齊茨基去年12月宣布,將投入更多人力篩查視頻內(nèi)容。2018年,優(yōu)兔所屬谷歌公司的內(nèi)容審核人員將增至至少1萬人,同時開發(fā)新的人工智能算法,與兒童安全機構(gòu)合作。
優(yōu)兔一名發(fā)言人22日回復(fù)新華社記者提問,在電子郵件中聲稱:“過去幾個月,我們有意識地采取措施,解決優(yōu)兔家庭內(nèi)容視頻面臨的諸多新挑戰(zhàn),包括更嚴(yán)格執(zhí)行我們的社區(qū)指南、對不當(dāng)定位至家庭的內(nèi)容‘去貨幣化’并采取年齡限制,同時把這些內(nèi)容從優(yōu)兔兒童頻道中刪除?!?/p>
這名發(fā)言人說,優(yōu)兔將致力于“正確解決難題”,投入人力和工程資源,以應(yīng)對不斷變化的環(huán)境。
【標(biāo)準(zhǔn)待調(diào)整 各方應(yīng)協(xié)力】
波爾格說,沒有任何自動識別工具能做到百分百準(zhǔn)確。由于以圖像和音樂作偽裝,“艾莎門”更難識別;所以,為凈化視頻內(nèi)容,“我們需要負責(zé)任、積極響應(yīng)的技術(shù)平臺與家長和孩子齊心協(xié)力……一旦有內(nèi)容被標(biāo)記為具有攻擊性,視頻網(wǎng)站必須快速反應(yīng)”。
他說,家長自然希望所有兒童頻道的視頻完全經(jīng)由人工篩查,“優(yōu)兔依照人人都是內(nèi)容創(chuàng)作者并能上傳視頻的想法構(gòu)建,但可能會隨時間推移發(fā)生變化”?!叭绻沂莾?yōu)兔運營者,”波爾格告訴記者,“我會創(chuàng)建一些類似優(yōu)兔兒童精選的內(nèi)容,完全人工策劃和過濾,讓家長完全放心?!?/p>
騰訊視頻23日回應(yīng),打擊“毒動畫”,騰訊應(yīng)用了音視頻指紋、ES搜索等技術(shù),以快速處置有害視頻。“針對少兒內(nèi)容,我們將重新制定審核標(biāo)準(zhǔn)和尺度,”騰訊視頻表示,“我們將運用人工智能(AI)學(xué)習(xí)有害的視頻樣本,打擊后續(xù)有害內(nèi)容的上傳和傳播。”
至少暫時無法實現(xiàn)全人工過濾,家長該如何應(yīng)對?從事兒童發(fā)展心理學(xué)和早期教育研究的心理咨詢師高璇告訴新華社記者,低幼兒童接觸“毒動畫”的風(fēng)險可以防控,家長必須擔(dān)負呵護責(zé)任,不應(yīng)把孩子交給“電子保姆”。
高璇建議,如果發(fā)現(xiàn)孩子接觸過這類視頻,家長要注意孩子是否有恐懼情緒,詢問孩子感受,告訴孩子“如果遇到讓自己害怕的事情應(yīng)該怎么做”,如調(diào)整呼吸、向父母傾訴,既轉(zhuǎn)移孩子對恐怖畫面的注意力,也教給孩子正確應(yīng)對恐懼的方法。另外,家長可以帶孩子欣賞美好畫面、到戶外游玩,以驅(qū)逐、替代丑惡畫面給孩子留下的印象。(林小春 周舟)(新華社專特稿)
-
澳中學(xué)誤發(fā)色情網(wǎng)站鏈接 家長驚出一身冷汗
【新華社微特稿】澳大利亞一所私立高中因疏忽大意,誤把色情網(wǎng)站鏈接群發(fā)給學(xué)生,驚出家長一身冷汗。2017-09-08 06:50:57
-
美猶他州簽新法案:色情片是“健康公害”
美國猶他州州長赫伯特(中)當(dāng)?shù)貢r間19日簽署了新法案,將色情作品列為“公共健康危機”,該法案為全美首例。有美國成人娛樂組織批評,這項法案過于守舊,但有議員認為法案出臺很有必要,“民眾不可沉迷在色情信息里”。2016-04-21 07:23:21
-
英議會電腦每日嘗試訪問色情網(wǎng)站約160次
報紙聯(lián)合社獲得的數(shù)據(jù)顯示,去年6月議會選舉以來,連接議會網(wǎng)絡(luò)的設(shè)備嘗試訪問色情網(wǎng)站的次數(shù)累積約2.4萬次。2018-01-10 06:47:33
-
征集丨2018“我向總理說句話”網(wǎng)民建言
2018-01-14 10:53:24
-
老人"退而不休"帶孩子,該不該給報酬?
2018-01-23 08:35:49
-
因為"老戲骨",娛樂文化才不至于荒腔走板
2018-01-23 08:47:34
-
吳曉波:區(qū)塊鏈到底是誰的機會?
2018-01-23 08:47:34
-
自信心爆棚!有一種奇跡,叫中國速度!
2018-01-23 09:07:44