近日,中國信息通信研究院、內容科技產業推進方陣發布2022內容審核服務系統評測結果,騰訊安全天御內容風控系統在文本、圖像、音頻、視頻四大類型的16項場景評測中均為滿分,斬獲“全五星”最高評級。
(相關資料圖)
本次內容審核服務系統評測基于《網絡治理能力評估規范:第2部分-有害信息內容識別服務系統》,從內容識別系統的圖像、文本、音頻、視頻的智能識別基礎功能、性能兩個維度對產品進行評測,并根據性能測試結果評定星級。其中,5星是本次評測的最高能力標準。
獲得五星認證的難度相較往年有所提升。本次測評中增加了變體測試和對抗測試,同時測評樣本來源也進行更新,極短音頻、邊緣圖片等復雜場景增加,這對參與測評系統的內容識別精準性、識別策略靈活性也提出了更高的要求。騰訊安全天御內容風控系統在四大核心測評場景中均取得五星成績,足見其在內容安全領域的能力優勢。
騰訊安全天御內容風控解決方案依托騰訊20多年黑灰產攻防經驗,以人工智能為核心,通過風控策略的靈活調度,打造覆蓋圖片、文本、音頻、視頻全內容形態的AI智能內容風控服務,為網絡空間清朗保駕護航。
在內容識別樣本維度,騰訊在多年產品運營過程中積累了萬億級違規樣本,覆蓋各個行業的數百種違規類型,并實時跟進監管要求,能夠高效識別過濾涉黃、涉恐等違規內容;在底層算法維度,騰訊安全天御內容風控融合了數十種算法技術構建綜合識別模型體系,避免單一模型誤判,使機器審核識別準確率高達95%以上。
此外,隨著風控標準和內容對抗形態升級,騰訊安全天御內容風控體系也緊跟企業需求迭代升級,配合精細化標簽體系,并支持靈活的策略配置以適配不同的應用場景。
針對越來越多“語音轉文字”的社交場景,如IM聊天消息、多人語音通話、語音聊天室等,天御內容風控體系在精準識別低俗語音等違規內容同時,還可借助語音識別(ASR)引擎,轉譯語音內容,通過文本內容風控系統,幫助用戶進一步處理社交場景中產生的音頻數據。
隨著各內容平臺多元功能和用戶屬性的演變,內容風控還涉及不同語種場景的分類檢測。目前,天御音頻審核系統在常見的普通話、英語外,還支持粵語、蒙語、藏語、維語、日語、韓語等小語種及方言的語音內容識別,大大提升了音頻審核覆蓋的廣度和深度,可有效應對新型對抗變異的內容形態。
資源交易、賬號交易、虛假兼職等廣告信息,往往混雜在海量真實信息中讓人難以分辨,并通過多種手段如同音字轉換、文字轉拼音等生成對抗變異內容。騰訊安全天御內容風控體系可分別提取內容形態中的關鍵元素,綜合視、音、圖、文審核能力進行識別過濾,對風險廣告進行及時的應對和處理。
目前,騰訊安全天御風控已為1500多家平臺提供內容安全服務,共計審核圖片總量已突破3000億條,累計攔截不良內容超5億條,更多次參與護航重大展會、峰會的內容安全。
【廣告】
（免責聲明：此文內容為廣告，相關素材由廣告主提供，廣告主對本廣告內容的真實性負責。本網發布目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，請自行核實相關內容。廣告內容僅供讀者參考。）
關鍵詞： 內容風控
