全文共計(jì)50001字，預(yù)計(jì)閱讀時間8分鐘

在美國，玩電子游戲的人數(shù)達(dá)到了史上前所未有的最高水平。76% 的 18 歲以下的青少年沉迷于電子游戲，這讓家長們擔(dān)心孩子們極有可能接觸到不合時宜或者充滿仇恨的信息。

處理網(wǎng)絡(luò)仇恨言論是一個老生常談的問題。據(jù)悉，在 2016 年至 2021 年間，Meta 花費(fèi)了 130 億美元用于內(nèi)容審查，而 TikTok 聲稱在 2020 年有近萬人從事內(nèi)容審查工作。TikTok 和 Meta 都曾被內(nèi)容管理員起訴，因?yàn)樗麄冊趫D文審查工作中遭受了心理創(chuàng)傷。

隨著元宇宙的火熱以及網(wǎng)絡(luò)游戲生態(tài)系統(tǒng)的迅速發(fā)展，有害信息已經(jīng)從社交媒體蔓延到新的陣地，即網(wǎng)絡(luò)游戲和虛擬世界。

網(wǎng)絡(luò)游戲環(huán)境惡劣，充斥著各種仇恨言論、網(wǎng)絡(luò)霸凌以及故意退出。反誹謗聯(lián)盟的一項(xiàng)研究發(fā)現(xiàn)，在比較受歡迎的多人游戲中，高達(dá) 80% 的玩家都曾受到騷擾。

一些初創(chuàng)公司正著眼于利用 AI 技術(shù)進(jìn)行內(nèi)容審核。Spectrum Labs 稱，其 NLP 平臺可以將音頻和文本的內(nèi)容審核工作減少 50% ，有害信息檢測能力提高 10 倍。

美國初創(chuàng)公司 GGWP 通過 AI 監(jiān)控聊天記錄和游戲數(shù)據(jù)來打擊游戲中的有害行為。此前，這家初創(chuàng)公司已經(jīng)籌集了 1200 萬美元的種子資金，投資者包括 BITKRAFT Esport Ventures、Sony Innovation Fund（索尼創(chuàng)新基金）和 Riot Games。

2021 年 4 月，美國 Hive 公司募集了 5000萬美元的 D 輪融資，估值達(dá)到 20 億美元。Hive 公司成立于 2013 年，是一個專注于 AI 培訓(xùn)數(shù)據(jù)的智能眾包平臺，提供自動內(nèi)容審核服務(wù)，幫助像 HighRise 和 Naver Z 這樣的元宇宙公司解決玩家發(fā)表的仇恨言論、網(wǎng)絡(luò)欺凌等問題。

為了提高審核能力，大型科技公司收購了一些 AI 初創(chuàng)公司。例如，2021 年 10 月，微軟收購了 AI 內(nèi)容審核服務(wù)公司 Two Hat，該公司的客戶包括 Roblox、 Epic Games 和微軟旗下的 Minecraft。

利用 AI 技術(shù)實(shí)現(xiàn)完美的內(nèi)容審核是不可能的。在線用戶能夠不斷適應(yīng)審查規(guī)則，逃避平臺的審查。但是，在 NLP 和基于深度學(xué)習(xí)的圖像分類等關(guān)鍵領(lǐng)域取得的突破，以及以內(nèi)容審查為業(yè)務(wù)方向的 AI 初創(chuàng)企業(yè)獲得多輪融資，在一定程度上表明了 AI 審核將成為未來的方向之一。