Twitter 宣布了一項(xiàng)新計(jì)劃。
該計(jì)劃被稱為“負(fù)責(zé)任的機(jī)器學(xué)習(xí)”，主要研究 Twitter 所采用的算法的公平性。
計(jì)劃的內(nèi)容之一，就是由來(lái)自公司內(nèi)部的數(shù)據(jù)科學(xué)家和工程師們，研究 Twitter 對(duì)機(jī)器學(xué)習(xí)的使用如何導(dǎo)致算法偏差，并評(píng)估其算法可能造成的“無(wú)意傷害”，再將研究結(jié)果公之于眾。
“我們正在進(jìn)行深入的分析和研究，以評(píng)估我們使用的算法是否存在潛在危害，”Twitter 在官方文件中寫道。
首要任務(wù)之一是評(píng)估 Twitter 圖像裁剪算法中的種族和性別偏見(jiàn)。隨著越來(lái)越多的新聞網(wǎng)站和社交媒體采用 AI 識(shí)別、提取圖片，人們開(kāi)始注意到許多算法，尤其是面部識(shí)別中存在的種族偏見(jiàn)。
此前有 Twitter 用戶指出，在有不同人種的照片中，Twitter 的自動(dòng)圖像裁剪算法會(huì)在選擇預(yù)覽推文呈現(xiàn)的縮略圖區(qū)域時(shí)，更加突出膚色更淺的人像區(qū)域。
去年 9 月，有研究人員發(fā)現(xiàn)，點(diǎn)擊這些原始圖片，可以看到其中包含更多其他膚色的人群，但即使改變了原圖中深色人種和淺色人種出現(xiàn)的位置，預(yù)覽結(jié)果也不會(huì)改變。
也有網(wǎng)友認(rèn)為，出現(xiàn)這一情況是因?yàn)樗惴ǜ鼉A向于提取圖像中的亮度高和色彩密度大的區(qū)域，并不是“歧視”。
針對(duì)算法被指控種族歧視一事，Twitter 當(dāng)時(shí)回應(yīng)稱，將展開(kāi)更多調(diào)查，并承諾將其圖像裁剪的機(jī)器學(xué)習(xí)算法開(kāi)源，接受更多用戶的審查和建議。
首席技術(shù)官 Parag Agarwal 表示，該算法需要不斷改進(jìn)，團(tuán)隊(duì)也渴望從經(jīng)驗(yàn)中學(xué)習(xí)。
從上個(gè)月起，Twitter 開(kāi)始測(cè)試顯示完整圖像而不是裁剪預(yù)覽。
但就算 Twitter 的算法并非“故意”種族歧視，但研發(fā)過(guò)程中很可能會(huì)有一些缺陷導(dǎo)致種族歧視的出現(xiàn)。
NVIDIA 的 AI 研究總監(jiān) Anima Anandkumar 就曾指出，顯著性算法采用的訓(xùn)練集，是異性戀男性的眼球追蹤的數(shù)據(jù)，這顯然會(huì)將受試者的種族偏見(jiàn)轉(zhuǎn)移給算法。
此外，Twitter 還將研究其內(nèi)容建議，包括時(shí)間線信息流在不同種族群體中的差異性等。
Twitter 表示將與第三方學(xué)術(shù)研究人員“緊密合作”，分析結(jié)果后續(xù)將會(huì)分享出來(lái)，并征詢公眾的反饋。
目前尚不清楚這一計(jì)劃將產(chǎn)生多大影響。Twitter 表示，這些研究成果不一定會(huì)體現(xiàn)在肉眼可見(jiàn)的產(chǎn)品變化是，更多時(shí)候是圍繞他們構(gòu)建和應(yīng)用機(jī)器學(xué)習(xí)的方式進(jìn)行重要討論。
Twitter 首席執(zhí)行官杰克?多西(Jack Dorsey)也曾表示，他希望創(chuàng)建一個(gè)算法市場(chǎng)，類似應(yīng)用商店的形式，讓用戶能夠控制自己使用的算法。該公司在其最新的博客文章中說(shuō)，他們正處于探索“算法選擇”的早期階段。
不只是 Twitter，其實(shí)對(duì)各大社交媒體平臺(tái)來(lái)說(shuō)，這是一個(gè)迫在眉睫的問(wèn)題。
受美國(guó)國(guó)內(nèi)一些社會(huì)事件的影響，立法者向 Twitter、YouTube 和 Facebook 施壓，要求他們提高算法的透明度。一些立法者提議立法，要求巨頭們?cè)u(píng)估算法是否存在偏見(jiàn)。
Twitter 決定要分析自己的“算法偏見(jiàn)”，是在 Facebook 等其他社交網(wǎng)絡(luò)之后做出的 ——Facebook 在 2020 年成立了類似的團(tuán)隊(duì)。
此前微軟也曾發(fā)生類似事件：早在 2018 年，微軟在識(shí)別膚色較淺的男性時(shí)，準(zhǔn)確性就已達(dá)到了 100%，但在識(shí)別深色皮膚女性時(shí)，準(zhǔn)確率僅為 79.2%。
去年六月初，微軟也同樣因?yàn)槊娌孔R(shí)別涉及種族歧視，引起了輿論風(fēng)波。
英國(guó)知名女團(tuán) Little Mix 成員 Jade Thirlwall 發(fā)文，猛烈抨擊微軟新聞網(wǎng)站 MSN 在關(guān)于自己的報(bào)道中混淆使用了團(tuán)內(nèi)另一位成員的照片。
該篇報(bào)道證實(shí)是由 AI 抓取并生成，卻在尋找配圖時(shí)把黑皮膚的 Leigh 和阿拉伯裔的 Jade 弄混了。
在收到越來(lái)越多的的用戶投訴，以及反種族歧視浪潮的升溫之后，許多包括 IBM 和 Amazon 在內(nèi)的一大批科技公司被迫反思系統(tǒng)，尤其是面部識(shí)別技術(shù)中存在的偏見(jiàn)。
