自ChatGPT發布以來,生成式人工智能研究與應用熱度居高不下。和以往的人工智能技術相比,生成式人工智能(AIGC)體現出強人機交互、強語料依賴等典型特征,在技術發展與風險控制兩方面存在諸多挑戰。

10月18日,為進一步促進AIGC服務健康發展和規范應用,推動高校院所與產業界協同創新,由北京市科學技術協會指導,北京軟件和信息服務業協會主辦,北京人工智能產業聯盟人工智能安全專委會協辦的“生成式人工智能應用與安全”專場活動在北京舉辦,來自信通院、中國政法大學、騰訊等各界專家學者受邀參會。在圓桌交流會上,騰訊安全內容安全總經理王翔圍繞AIGC相關政策、技術趨勢、安全風險與治理等問題作重點分享。

(騰訊安全內容安全總經理王翔在專場活動上發言)

(相關資料圖)

王翔介紹到,隨著《生成式人工智能服務管理暫行辦法》正式施行,我國首次填補在生成式人工智能研發與服務方面的政策空白,這也是全球首部針對生成式人工智能進行監管的法律文件。“《辦法》對生成式人工智能服務實行包容審慎和分類分級監管,規定推動公共數據分類分級有序開放,將促進行業的發展和應用更加健康規范,進一步激發市場活力和社會創造力。”

生成式人工智能的發展,標志著人工智能正在從專用智能發展到通用智能,進入了嶄新的發展階段。相關數據顯示,我國人工智能產業蓬勃發展,核心產業規模達到5000億元,創新成果不斷涌現,AIGC行業將迎來更大的發展機遇。其中,AIGC廠商共有300多家,主要分為應用層、模型層、數據層、算力層。王翔提到,目前應用層廠商占極大比重,主要集中在營銷、客服、辦公、交互設計、數字人、寫作助手等六大場景,因此能夠快速貼合終端用戶的公司仍有機會突破;而模型層、數據層、算力層的技術要求則相對較高,因此這些賽道的企業需重點圍繞效果、成本、服務質量不斷精進,以實現更大的突破。

生成式人工智能的快速發展也存在內容安全、數據安全、AI應用安全等諸多潛在風險。從風險來源來看,基本涵蓋模型訓練階段、生成階段到應用上線之后的全鏈路;從風險類型來看,數據質量和可信度問題、對抗樣本攻擊、信息安全問題、技術濫用和道德風險、用戶隱私和身份安全等問題同樣飽受詬病。此外,由于AIGC的生成能力主要來自數據和模型,而數據來源本身可能就會產生侵犯他人著作權、肖像權、名譽權、個人信息等多項權利的風險,因此全球范圍內關于如何保護人類主體的智力活動呼聲將會越來越高。

王翔提到,AIGC賽道的企業需嚴格把控從模型訓練到上線運營的全鏈路內容安全治理,保障數據源的真實、無害和可用性,同時搭建安全團隊,通過機器審核+人工審核對生成內容進行全方位審核,以滿足監管需求和避免侵權問題。同時,企業也可以尋求外部三方廠商的接入和助力。

針對這些問題,騰訊安全具備AIGC全鏈路的內容安全解決方案,提供包含審校服務、安全專家服務、機器審核服務、版權保護服務四大能力板塊,覆蓋AIGC類應用從模型訓練到內容生成再到事后運營全過程的內容安全建設,可以助力企業更高效地應對挑戰。

該方案可以通過三個層面的風控措施來幫助企業解決AIGC內容風控難題。首先是在輸入端部署相應的風控策略,來判斷輸入指令是否違規,從源頭上避免違規內容的產出。然后再加以屏蔽的措施,例如當輸入的違規詞條觸發部署的風控策略后,該詞條會反饋給客戶,并提示問法有問題,或者是不合規等等,以避免不合規的消息吐出。在輸出端也會進行相應風控,可以通過標記黑樣本并保存至樣本庫,在輸出端匹配關聯特征并攔截,避免模型生成不合規內容。

目前,騰訊安全在AIGC內容安全領域有多個場景實踐落地,為文生文、文生圖、醫療級視頻內容、長小說文本等類型企業提供內容安全服務。從2019年9月起, 騰訊安全就對B站平臺上UP主上傳的原創視頻進行版權監測服務,累計監測作品500余萬部,累計發現侵權鏈接近3000萬條,發起維權近百萬次,維權成功率達98%。此外,依托豐富的版權素材庫,騰訊安全通過“生成圖片”與“圖片庫”的版權比對,成功幫助某文生圖AIGC創作APP消除侵權風險。

王翔提到,“雖然全世界都在積極擁抱AIGC,但其內容安全風險也將給社會、經濟、文化等多個層面帶來影響,如何促進生成式人工智能有序健康發展值得政府、企業等社會各界共同關注。未來,騰訊會秉持科技向善理念,打造安全可信的AIGC技術和應用,助力AIGC時代實現高質量、健康可持續的發展。”

（免責聲明：此文內容為廣告，相關素材由廣告主提供，廣告主對本廣告內容的真實性負責。本網發布目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，請自行核實相關內容。廣告內容僅供讀者參考。）

關鍵詞：