中國科學(xué)院院士何積豐:利用對齊技術(shù)為大模型戴上“緊箍咒”

              2023-09-07 16:47:17    來源:北京商報網(wǎng)


              【資料圖】

              北京商報訊(記者 劉四紅)模型的通用能力讓其能夠應(yīng)用到人類生產(chǎn)生活的各個場景中,可謂“無孔不入”。但AI的發(fā)展也因此帶來了新的安全隱私問題,如何解決這一隱患,9月7日開幕的2023 INCLUSION·外灘大會上,中國科學(xué)院院士何積豐開出了他的“藥方”:利用對齊技術(shù)為大模型戴上緊箍咒。

              何積豐認(rèn)為,大模型的安全問題主要是在未經(jīng)同意的情況下,收集、使用和泄露個人信息。隱私問題既可能發(fā)生在訓(xùn)練過程,也可能發(fā)生在使用過程中,而大模型的生成能力則讓“隱私泄露”的方式變得多樣化,造成隱私保護(hù)更加困難。

              “為了應(yīng)對這些問題,我們需要大模型對齊技術(shù)。”何積豐說,“對齊(alignment)”是指系統(tǒng)的目標(biāo)和人類價值觀一致,使其符合設(shè)計者的利益和預(yù)期,不會產(chǎn)生意外的有害后果。“如果把人工智能看作西游記里的孫悟空,‘對齊’就是唐僧的緊箍咒。有了緊箍咒,就可以保證技術(shù)不會任意使用能力胡作非為。”

              不過,對齊技術(shù)同樣面臨挑戰(zhàn)。首先,對齊的基礎(chǔ),人類的價值觀是多元且動態(tài)變化的,需要保證大模型為人服務(wù)、與人為善;其次,大模型的有用性與無害性之間目標(biāo)也不完全一致。如何對錯誤進(jìn)行有效糾正,設(shè)好大模型的“緊箍咒”也是挑戰(zhàn)。

              因此,對齊技術(shù)已經(jīng)成為了一項令人眼花繚亂的跨學(xué)科研究,不僅考驗技術(shù),也審視文化。

              何積豐介紹,反饋強化學(xué)習(xí)是實現(xiàn)對齊的技術(shù)途徑,目前有兩種方式,一種方式是通過人工反饋給模型不同的獎勵信號,引導(dǎo)模型的高質(zhì)量輸出;另一種方式,事先給大模型提供明確的原則,系統(tǒng)自動訓(xùn)練模型對所有生成的輸出結(jié)果提供初始排序。“這意味著,不僅智能系統(tǒng)需要向人類價值觀對齊,人類的訓(xùn)練方法也要向價值觀對齊。”何積豐說。

              (責(zé)任編輯:董萍萍 )

              關(guān)鍵詞:

              上一篇:機器學(xué)習(xí)泰斗邁克爾·喬丹:AI的本質(zhì)是集體,不會替代人
              下一篇:最后一頁

              熱點話題

              熱點推薦

              頭條

              ? 亚洲伊人久久大香线蕉影院| 亚洲精品色婷婷在线影院| 亚洲成AV人片高潮喷水| 亚洲午夜精品国产电影在线观看| 精品亚洲A∨无码一区二区三区| 亚洲av午夜成人片精品网站| 国产亚洲一区二区三区在线| 亚洲热妇无码AV在线播放| 亚洲中文字幕丝袜制服一区| 亚洲精品偷拍视频免费观看| 亚洲成人国产精品| 亚洲国产成人久久综合区| 亚洲高清国产拍精品青青草原| 五月婷婷亚洲综合| 亚洲国产精品无码久久久久久曰| 亚洲欧洲日产国码高潮αv| 亚洲人成电影网站国产精品| MM131亚洲国产美女久久| 国产亚洲情侣一区二区无码AV| 国产成人亚洲精品影院| 国产亚洲?V无码?V男人的天堂| 亚洲精品无码av天堂| 国产亚洲?V无码?V男人的天堂 | 性xxxx黑人与亚洲| 亚洲字幕AV一区二区三区四区| 亚洲人成网站在线在线观看| 含羞草国产亚洲精品岁国产精品| 在线视频亚洲一区| 综合亚洲伊人午夜网 | 国产AV无码专区亚洲精品| 亚洲AV本道一区二区三区四区| 亚洲欧洲日产国产综合网| 亚洲日本视频在线观看| 久久亚洲精品国产精品婷婷 | 亚洲国产精品无码一线岛国| 一区二区三区亚洲| 亚洲三级视频在线观看| 亚洲国产成人久久精品软件| 亚洲av午夜成人片精品电影| 曰韩亚洲av人人夜夜澡人人爽 | 亚洲AV无码专区国产乱码4SE|