近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、中央宣傳部、工業(yè)和信息化部等九部委印發(fā)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》(以下簡(jiǎn)稱(chēng)《意見(jiàn)》)，加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理，促進(jìn)行業(yè)健康有序繁榮發(fā)展。
近年來(lái)，互聯(lián)網(wǎng)信息服務(wù)算法在加速互聯(lián)網(wǎng)信息傳播、繁榮數(shù)字經(jīng)濟(jì)、促進(jìn)社會(huì)發(fā)展等方面發(fā)揮了重要作用。同時(shí)，算法不合理應(yīng)用也影響了正常的傳播秩序、市場(chǎng)秩序和社會(huì)秩序，給維護(hù)意識(shí)形態(tài)安全、社會(huì)公平公正和網(wǎng)民合法權(quán)益帶來(lái)挑戰(zhàn)。對(duì)此，《意見(jiàn)》提出，利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。
算法收窄了用戶(hù)的信息接收范圍
如今，打開(kāi)購(gòu)物APP，想買(mǎi)的東西從推薦商品中就能快速找到;瀏覽新聞或短視頻時(shí)，總能收到自己感興趣的內(nèi)容推薦;選擇餐館時(shí)，在APP點(diǎn)開(kāi)美食欄目就能看到推薦排行榜……作為消費(fèi)者，很多人對(duì)這些體驗(yàn)并不陌生。隨著信息技術(shù)迅猛發(fā)展，涵蓋網(wǎng)絡(luò)購(gòu)物、交通出行、旅游住宿、訂餐外賣(mài)等多個(gè)領(lǐng)域的算法應(yīng)用日漸普及，影響著用戶(hù)的消費(fèi)決策乃至日常生活。
一般來(lái)講，算法是一種技術(shù)手段，即互聯(lián)網(wǎng)平臺(tái)借助消費(fèi)者的個(gè)人信息和使用習(xí)慣等大數(shù)據(jù)，實(shí)現(xiàn)用戶(hù)需求和服務(wù)的快速精確匹配，大大降低了信息傳播和獲取的成本，為消費(fèi)者提供更為豐富、更易獲取的產(chǎn)品和服務(wù)，讓社會(huì)運(yùn)行更加高效。同時(shí)也要看到，市場(chǎng)上還存在一些因算法不當(dāng)應(yīng)用而侵害消費(fèi)者權(quán)益的行為，比如過(guò)度采集用戶(hù)信息侵犯?jìng)€(gè)人隱私、“大數(shù)據(jù)殺熟”、不當(dāng)操縱流量分配干預(yù)平臺(tái)商家經(jīng)營(yíng)等。
“在購(gòu)物APP搜過(guò)一款相機(jī)后，主頁(yè)上相關(guān)產(chǎn)品的推薦就沒(méi)斷過(guò)，不同品牌、不同價(jià)位的產(chǎn)品不斷涌來(lái)。”小李打算買(mǎi)個(gè)相機(jī)，沒(méi)想到一次搜索卻讓相關(guān)廣告“侵入”其他常用APP，變得無(wú)處不在。“感覺(jué)自己的生活被暗中窺視。”這讓小李不堪其擾。
“大數(shù)據(jù)殺熟”、致癮性推薦、影響和誤導(dǎo)消費(fèi)者，賽迪研究院的一份報(bào)告梳理了濫用算法推薦侵害消費(fèi)者合法權(quán)益的主要表現(xiàn)形式。但其負(fù)面效應(yīng)還不止于此。為了取悅用戶(hù)，算法會(huì)不斷推薦其感興趣的內(nèi)容。業(yè)內(nèi)人士認(rèn)為，這種個(gè)性化推薦收窄了用戶(hù)的信息接收范圍，且減少了接受差異化信息的可能性，容易讓人深陷“信息繭房”而不自知，不利于個(gè)人認(rèn)知成長(zhǎng)。同時(shí)，算法取代人工充當(dāng)信息推薦的“編輯”角色，內(nèi)容能否推送、推送什么內(nèi)容、內(nèi)容推送給誰(shuí)，不是由用戶(hù)而是算法決定的。一旦算法推薦的設(shè)計(jì)理念偏離正確導(dǎo)向，劣質(zhì)低俗信息精準(zhǔn)推送的問(wèn)題就隨之而來(lái)。這些做法不僅侵害了消費(fèi)者的知情權(quán)、選擇權(quán)和公平交易權(quán)，也擾亂了市場(chǎng)秩序，不利于平臺(tái)和數(shù)字經(jīng)濟(jì)持續(xù)健康發(fā)展。
多方推動(dòng)算法應(yīng)用規(guī)范有序發(fā)展
《意見(jiàn)》提出，堅(jiān)持正能量是總要求，管得住是硬道理，用得好是真本事，以算法安全可信、高質(zhì)量、創(chuàng)新性發(fā)展為導(dǎo)向，建立健全算法安全治理機(jī)制，構(gòu)建完善算法安全監(jiān)管體系，推進(jìn)算法自主創(chuàng)新，促進(jìn)算法健康、有序、繁榮發(fā)展，為建設(shè)網(wǎng)絡(luò)強(qiáng)國(guó)提供有力支撐。同時(shí)明確，企業(yè)應(yīng)強(qiáng)化責(zé)任意識(shí)，對(duì)算法應(yīng)用產(chǎn)生的結(jié)果負(fù)主體責(zé)任。同時(shí)，將著力解決網(wǎng)民反映強(qiáng)烈的算法安全問(wèn)題，對(duì)算法監(jiān)測(cè)、評(píng)估、備案等工作中發(fā)現(xiàn)的，以及網(wǎng)民舉報(bào)并查實(shí)的涉算法違法違規(guī)行為，予以嚴(yán)厲打擊，堅(jiān)決維護(hù)互聯(lián)網(wǎng)信息服務(wù)算法安全。
《意見(jiàn)》還要求，防范算法濫用風(fēng)險(xiǎn)。維護(hù)網(wǎng)絡(luò)空間傳播秩序、市場(chǎng)秩序和社會(huì)秩序，防止利用算法干擾社會(huì)輿論、打壓競(jìng)爭(zhēng)對(duì)手、侵害網(wǎng)民權(quán)益等行為，防范算法濫用帶來(lái)意識(shí)形態(tài)、經(jīng)濟(jì)發(fā)展和社會(huì)管理等方面的風(fēng)險(xiǎn)隱患。
業(yè)內(nèi)人士認(rèn)為，一系列法規(guī)“組合拳”通過(guò)合理限制防止信息濫用，避免算法推薦“野蠻生長(zhǎng)”，從而達(dá)到個(gè)人信息保護(hù)和數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)發(fā)展的雙重目標(biāo)。那么，面對(duì)法律長(zhǎng)劍，算法推薦未來(lái)該如何發(fā)展?中山大學(xué)傳播與設(shè)計(jì)學(xué)院教授張志安認(rèn)為，算法應(yīng)用、技術(shù)創(chuàng)新背后要有更多思考，讓算法推薦帶來(lái)的弊少一些，利更多一些。
德國(guó)哲學(xué)家韋伯曾經(jīng)區(qū)分了工具理性和價(jià)值理性，前者意味著發(fā)揮技術(shù)的最大效用，后者則強(qiáng)調(diào)價(jià)值、倫理的重要性。社會(huì)的進(jìn)步，離不開(kāi)先進(jìn)技術(shù)的開(kāi)拓者，更離不開(kāi)基本價(jià)值的守望者，畢竟，我們將抵達(dá)的未來(lái)，不僅是信息自由流動(dòng)的豐饒之海，更是構(gòu)筑全新文明的堅(jiān)固之岸。
為此，行業(yè)組織需要加強(qiáng)引領(lǐng)和督導(dǎo)，凈化行業(yè)風(fēng)氣，有效維護(hù)消費(fèi)者合法權(quán)益。消費(fèi)者也應(yīng)增強(qiáng)個(gè)人信息保護(hù)和依法維權(quán)意識(shí)，共同參與治理。作為掌握技術(shù)的企業(yè)，更應(yīng)加強(qiáng)自律，切實(shí)履行應(yīng)盡義務(wù)和責(zé)任，堅(jiān)持正確導(dǎo)向，嚴(yán)格遵守法律規(guī)定，誠(chéng)信應(yīng)用算法。相關(guān)各方各司其職、各盡其責(zé)，才能共同推動(dòng)算法應(yīng)用規(guī)范有序發(fā)展。(劉彤)
