第285期

鎖定孩童族群 YouTube惡意影片

【色世未深 未成年網路時代】專題

YouTube惡意孩童頻道的流通猖獗,本篇透過探討審查制度的問題,以及家長該如何辨識惡意影片,預防不當內容影響孩童的身心。

鎖定孩童族群 YouTube惡意影片

蔡亞融 文  2018/04/15

YouTube的全球使用者人數已超越10億人、涵蓋三分之一的上網人口,每日觀看影片的總時數高達十億小時。然而在YouTube龐大的使用者背後,伴隨而來產生許多誤導、操縱甚至傷害他人的影片,有系統地被上傳且廣為流通。其中有許多的頻道為了規避審查系統,甚至鎖定兒童影片當包裝,但實際上散播猥褻、暴力等惡意內容,以賺取點擊率與廣告費。雖目前尚未有一致的說法確認這些惡意頻道的目的,但是長期下來的確會對孩童產生不良的認知影響。

兒童不宜的兒童頻道

這些用來吸引兒童點閱影片的惡意頻道,多利用著名卡通人物、英雄人物來做連結,例如愛爾莎、蜘蛛人、佩佩豬等關鍵字。影片中會以兒童教學、認識顏色等,搭配活潑的音樂來包裝,因此家長也不易察覺。實際上卻是充斥色情、暴力等扭曲意象,傳達懷孕受虐、性暴力、吃排泄物、斷肢流血、注射藥物、吃蟲生病等令人不安的內容,例如對迪士尼公主做性暗示的動作,或是米老鼠躺在血泊之中。影片結束後根據YouTube的系統演算法會推薦其他類似影片,讓這些看似「正常」的影片滲透到兒童的觀看清單中。

黏土版本的蜘蛛人對冰雪奇緣的艾爾莎公主撒尿。(圖片來源/Testing Now Youtube頻道影片截圖

審查制度到底行不行?

這種以兒童為目標的惡意影片雖然已被披露,並且也有許多人警告家長,務必把關孩子所觀看的影片內容,但是目前仍有大量惡意影片正在迅速散播。由於YouTube的用戶開放性與審查團隊有限,無法全面性地去審核每個影片的內容,許多被下架的惡意影片會將名稱改變後以其它頻道重新上架。因此目前只能透過社群檢舉、AI機器學習技術偵測、人工審查等等,讓不當的影片刪除、加上年齡分級或是無法分配廣告營利來減少不當影片的流通。

面對惡意兒童影片猖獗的批評聲浪,YouTube承諾在2018年新增一萬名人力在人工審查制度上,刪除違反內容政策的影片和評論,並且提升AI機器學習算法的效率來審查不當的內容,例如暴力極端主義的影片在上傳八小時內,即可被演算法識別並且下架70%。然而明顯色情、虐待的影片可被識別並且快速下架,但利用卡通包裝、遊走灰色地帶的頻道卻不易被系統發現。10億的用戶卻僅幾十萬人進行人工審查,著實鞭長莫及。

儘管YouTube有推出YouTube Kids頻道來推薦家長適合給學齡小孩看的影片。但是根據Common Sense Media的一項調查,有71%的家長表示家中孩童在使用Youtube時,僅24%孩童透過YouTube Kids進行影片觀賞。此外,許多國家地區尚未開通YouTube Kids,例如台灣目前仍無上架。因此要同時兼具網路影片自由的開放性與處理惡意影片內容流通的問題,成為YouTube當務之急的燙手山芋。

YouTube Kids為專門給孩童觀賞的影片平台,家長擁有監督功能,可以限制孩子觀看的時間、是否開放孩子搜尋關鍵字等。目前台灣區尚未上架。(圖片來源/YouTube Kids網頁截圖

不當內容可能造成孩童的影響

YouTube惡意影片其暗藏的色情內容,可能帶給兒童不良影響。兒童接觸網路色情,目前已知可能會產生厭惡、震驚、尷尬、憤怒、害怕和難過等情緒,甚至造成憂鬱症、焦慮症,或是沉迷於模仿他們所看見的成人性行為。十二歲以下曾經看過色情內容的兒童,在統計上更有可能對交往對象進行性攻擊。綜上述而言,若任意放置兒童長期處在網路色情底下,可能引發適應不良行為與精神病理學的風險。

此外,許多以卡通人物包裝的暴力行為在YouTube影片中被合理化。由於兒童的認知行為尚未發育完全,因此在接受卡通等暴力媒體內容時,較難以判斷其虛構性與真實性的差別。甚至可能產生學習、模仿甚至強化、合理化其暴力行為,並且增加其口語以及肢體上面的攻擊程度。這種侵略性常促使兒童反覆去觀賞暴力內容,形成一種惡性循環。

這些被著名卡通人物包裝的YouTube惡意兒童影片,其不當內容連部分成人觀賞都會感到不適,長期下來造成兒童身心靈的健康影響難以預估。因此該如何去避免孩童過度接觸這類不當的影片,成為家長與孩童重要的課題。

許多惡意影片以卡通人物包裝其不當內容,形式從原本的盜版動畫,延伸到真人的角色扮演。(圖片來源/frozen elsa binocular影片截圖

如何避免孩童接觸惡意頻道?

YouTube身為全球最大影片使用平台,需要同時兼具網路言論與內容自由,以及對色情與暴力的內容進行年齡管制。儘管YouTube花費18萬人力每週工作40小時審查內容以維護YouTube環境品質,但AI機器辨識與人工審查制度並非萬能,家長可以藉由手動檢舉色情暴力兒童頻道,來讓那些不當的影片下架。此外,也不能夠過度信任那些標榜「兒童學習」的影片,甚至是訂閱人數超越百萬的兒童頻道!因為許多惡意頻道為了換取家長的安心,會先適度安插幾部正常的兒童教學影片,而其它部教學影片則在內容中間,穿插行為不當的畫面以規避審查。

在網路無遠弗屆的時代,完全禁止兒童使用網路或更換影片平台可能無法完全解決問題。透過觀賞影片或許能夠使家長換取孩童短暫的安靜,讓繁忙的家長得以有時間喘口氣,但是孩子的學習發展過程無可取代。為了確保有個乾淨安全的網路環境,教育部中小學網路素養與認知提到,最好的辦法是家長透過主動觀賞後推薦給小孩影片,或是陪同觀賞,較能夠杜絕孩童在無意間觀賞過多不當影片的情況。一來可以在看到不當資訊的時候,予以正確的知識教導,二來增加親子互動,可為兩全其美的方式。

記者 蔡亞融
請給我糖包跟攪拌棒  
編輯 葉宜瑩
消化系統異常好的瘦女孩。
記者 蔡亞融
編輯 葉宜瑩