對于資訊類產品和內容內產品來說，內容審核是必不可少的環節之一。用戶發布的內容不受平臺控制，而部分內容會給平臺造成風險，審核是阻斷內容風險的主要方式。
“目前市面上的內容平臺主要是采用機審與人工審核相結合的方式，很少有只有單一審核的方式。” 數美科技高級產品經理曉陽告訴記者。
曉陽說，最早出現的審核模式就是人工審核，但人工審核有三個明顯的缺點：監管理解有難度、成本高、時效性差。
“大量腰部的中小型企業往往團隊規模比較小，成立年限比較短而且集中投入在產品上，沒有精力投入到合規研究中。所以在輿情關注以及對新規的理解層面，光靠一個經驗豐富的人來審核是不行的，需要組建一支類似這樣的人工審核團隊，但是這種操作難度較大，一般只有大廠才會有這個能力與資源儲備。其次，人工審核在處理音視頻的時候內容有多長，審核就要多久，甚至更久。這就會產生更多的衍生問題，比如固定的單人審核能效必將導致更加龐大的審核團隊，又或是等待審核時長過長導致的用戶流失。因此這既是效率問題，也是用戶體驗問題，但最終都會回到成本問題。”曉陽說。
2019年1月9日，中國網絡視聽節目服務協會發布了《網絡短視頻平臺管理規范》和《網絡短視頻內容審核標準細則》。其中規定，短視頻平臺發布的節目、評論、彈幕等內容，必須先審后發；并且詳細列出了二十大類，100小條的禁止內容。2022年3月2日，國家網信辦就《互聯網彈窗信息推送服務管理規定（征求意見稿）》公開征求意見。其中擬規定，配備與服務規模相適應的人工力量，健全彈窗信息推送內容管理規范，完善信息篩選、編輯、推送等工作流程，確保彈窗信息推送必須經過人工審核。
審核新規落地，也就意味著互聯網平臺審核需要更細、范圍更廣，擴充審核隊伍成了各大互聯網公司的迫切需求。
資料顯示，2020年B站內容篩選團隊約有2400名員工；小紅書審核員工有1000多人；字節跳動的內容審核員更是超過2萬人。
根據某UGC（用戶原創內容）平臺曾對外公布的武漢審核員的公開招聘信息顯示，審核專員月薪在4000—6000元。按照8%公積金繳納比例測算，用工成本在5344元—8016元之間。
粗略計算，該平臺內容審核團隊一年的用工成本或在1.53億元—2.31億元之間。
不過，曉陽進一步告訴記者，就算監管與成本方面可以通過投入大量的人力以及預算來解決，但時效性差的問題是無法用金錢來解決的。
他以應對輿情的能力為例，當平臺發現某種嚴格管控的風險內容，不僅要處理當下的新發信息，也要同時檢查所有的數千萬甚至數億條歷史存量信息。想要短時間內完成歷史存量的篩查，這是人工審核絕不可能完成的。
所以，在風險和用戶體驗雙重重壓之下，僅依賴人工審核是不現實的，使用機器輔助人工審核才是最優的選擇。
那么，在人工智能飛速發展的當下，為什么還需要這么多內容審核員？用AI技術難道不行嗎？
對此，曉陽表示，實際上現階段機審還有幾個無法逾越的鴻溝，比如目前的模型沒有辦法取代人，它不具備人的深度思考能力、聯想能力、聯系上下文能力等等。再比如機器在某些審核標準上很難把控，因為機器不具備主觀性，像是無法理解軟色情/色情/曖昧色情的定義和區別，這就需要人的介入。
“就目前而言，AI技術并不能完全替代人工審核，平臺還是需要借助人的經驗和判斷來篩選內容。”曉陽說，AI只能起到輔助作用，其重點主要是進行初篩，對明顯違規的問題內容第一時間進行“刪除”，同時通過數據比對、對侵權的內容（圖文、視頻特別是被剪短的影視劇）進行有效遏制。大量內容中的隱藏問題，常人尚且未必能秒懂，何況人工智能。
一些平臺的內容創作者，手法、技巧都更上一層樓，比如將中心思想隱喻在歷史故事、將敏感信息加密等，機器很難識別到，二是這些平臺的影響范圍廣，稍有不慎就會讓輿論偏向，所以大平臺的內容安全審核工作都需要人的協作。
《哈佛商業評論》做過一項涉及1500家企業的研究，結果顯示，當人類和機器一起工作時，企業受益最大，調查同時指出，人類有某些特征，機器無法承擔，反之亦然。一個簡單的例子是，一個人開玩笑諷刺某個人，我們輕易就能搞懂，但機器很難理解，而分析海量的數據對機器來說很容易，對人類來說幾乎是不可能。
“人工智能主要依賴的算法是深度學習的方法，只能從數據來學習，而人類除了歸納學習之外，還可以演繹推理，機器并不具備該能力。因此在很多情況下內容審核必須要依靠人工來完成審核。”曉陽說。
值得一提的是，目前一些低端、重復的審核工作或許很快會被AI技術所取代。2019年7月，今日頭條宣布正式推出新版“靈犬”反低俗助手；2020年9月，小紅書在“啄木鳥”計劃中，就加入了“多維度算法模型”的審核模式；快手也早將AI技術運用進了內容審核中；阿里巴巴則是基于視覺分析技術和深度識別技術從而大幅度降低人工審核成本；2021年9月，數美科技推出了三級風險內容標簽體系，下設1000多個細化標簽并建立糾錯機制。
“各大廠商在機審層面引入AI技術也是為了盡可能精準識別風險，而人機結合的交接部分——人工審核平臺的設計也是非常重要的課題，它兼具重大的商業意義和社會意義。”曉陽說。“現在的人工智能審核技術，仍然處于一個高速發展的時期。如果說AI機審完全能夠代替人工審核，我認為在現在這個階段很難做到，但是用人工智能技術解放人力，還有著十分廣闊的想象空間，值得數美乃至全球AI企業為之不懈努力。”
關鍵詞：
