“我們?cè)诹氖裁?，就?huì)刷到與它有關(guān)的網(wǎng)頁(yè)、視頻推薦、購(gòu)買鏈接?！薄吧缃黄脚_(tái)上，哪個(gè)號(hào)我們看得久了，之后就頻繁推送哪個(gè)號(hào)的內(nèi)容?！薄髷?shù)據(jù)時(shí)代，每個(gè)人都在“裸泳”，也在被算法“投喂”，這種“越刷越精準(zhǔn)”的體驗(yàn)，讓不少人陷入了“信息繭房”。

近日，中央網(wǎng)信辦等部門聯(lián)合印發(fā)通知，部署開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)，深入整治“信息繭房”、誘導(dǎo)沉迷等問(wèn)題，以進(jìn)一步深化互聯(lián)網(wǎng)信息服務(wù)算法綜合治理。這一專項(xiàng)行動(dòng)引發(fā)了人們對(duì)算法及其影響的深入反思。如何把算法用好？如何逃離“信息繭房”，擁抱多元信息新世界？如何引導(dǎo)算法向上向善？多位政協(xié)委員和專家在接受記者采訪時(shí)進(jìn)行了深入解讀。

“信息繭房”

可導(dǎo)致認(rèn)知偏見(jiàn)和刻板印象

“‘信息繭房’指人們關(guān)注的信息領(lǐng)域會(huì)習(xí)慣性地被自己的興趣所引導(dǎo)，從而將自己的生活桎梏于像蠶繭一般的‘繭房’中的現(xiàn)象。”全國(guó)政協(xié)委員、金杜律師事務(wù)所高級(jí)合伙人張毅介紹，目前，這一現(xiàn)象主要由社交媒體、搜索引擎及其他在線平臺(tái)的算法推薦所推動(dòng)，從而使用戶在信息選擇上變得越來(lái)越局限。

“從隱私和數(shù)據(jù)保護(hù)風(fēng)險(xiǎn)角度來(lái)講，在‘信息繭房’形成過(guò)程中，平臺(tái)可能需要收集大量的用戶數(shù)據(jù)，如果數(shù)據(jù)收集、管理不當(dāng)，用戶的個(gè)人隱私可能面臨泄露風(fēng)險(xiǎn)?！睆堃惚硎尽?/p>

那么，被桎梏在“信息繭房”內(nèi)，于個(gè)人而言有何影響？

在張毅看來(lái)，首先是知識(shí)局限，影響社會(huì)創(chuàng)新?！啊畔⒗O房’使個(gè)體囿于特定的信息領(lǐng)域，這妨礙了不同領(lǐng)域知識(shí)的碰撞與融合。因用戶缺乏多樣性的信息環(huán)境，也就難以產(chǎn)生創(chuàng)新的靈感?！?/p>

“其次是認(rèn)知偏差，影響社會(huì)和諧?！睆堃惚硎?，在“信息繭房”中，用戶主要接觸與自己興趣愛(ài)好相符的信息，也更傾向于與相似觀點(diǎn)的人群互動(dòng)。長(zhǎng)此以往，可能導(dǎo)致不同群體間的認(rèn)知偏見(jiàn)和刻板印象加深，陷入“我們對(duì)你們”的思維模式。比如，在一些社會(huì)熱點(diǎn)事件中，人們往往只看到符合自己立場(chǎng)的信息，“偏見(jiàn)”可能會(huì)影響個(gè)人判斷，也可能在更大范圍內(nèi)影響社會(huì)輿論。

第十三屆全國(guó)政協(xié)委員、第五空間信息技術(shù)研究院院長(zhǎng)談劍鋒表示，從社會(huì)角度來(lái)說(shuō)，“繭房”之間壁壘森嚴(yán)，使得社會(huì)的“公共性”逐漸消弭，增加人與人之間的社會(huì)交往成本，甚至割裂社會(huì)共識(shí)。

中國(guó)電信研究院戰(zhàn)略發(fā)展研究所高級(jí)顧問(wèn)、高級(jí)經(jīng)濟(jì)師漆晨曦也表示，“信息繭房”的弊端不僅局限于經(jīng)濟(jì)和消費(fèi)層面，更深刻地體現(xiàn)在社會(huì)文化、認(rèn)知與治理的各個(gè)維度。數(shù)字化社會(huì)的高速發(fā)展，依賴各個(gè)節(jié)點(diǎn)之間信息的無(wú)縫共享，需要構(gòu)建基于信任的知識(shí)型網(wǎng)絡(luò)，因此，只有打破信息壁壘，讓用戶在更廣闊的信息海洋中遨游，才能促進(jìn)思想的碰撞與社會(huì)的進(jìn)步。

算法一定會(huì)制造“信息繭房”嗎？

無(wú)論是“信息繭房”誘人沉迷、割裂共識(shí)的問(wèn)題，還是大數(shù)據(jù)對(duì)勞動(dòng)者、對(duì)客戶“殺熟”的問(wèn)題，核心都在于平臺(tái)算法的具體運(yùn)用。

“算法并不意味著信息操縱?！闭剟︿h解釋道，算法作為計(jì)算技術(shù)的關(guān)鍵組成，本質(zhì)上是輸入輸出的轉(zhuǎn)換規(guī)則，簡(jiǎn)單看是運(yùn)算步驟，大處看是解決問(wèn)題的策略機(jī)制。

談劍鋒坦言，算法屬于技術(shù)范疇，也會(huì)受制于人類的認(rèn)知水平，會(huì)有局限性甚至缺陷，而且算法自身也在不斷發(fā)展優(yōu)化中。“如果我們能合理利用算法，不僅能夠享受到個(gè)性化的信息體驗(yàn)，還能打破‘信息繭房’，實(shí)現(xiàn)更加全面和均衡的信息消費(fèi)?！?/p>

如何把算法用好？張毅建議，一是政府應(yīng)從保護(hù)個(gè)人隱私和數(shù)據(jù)安全的角度，進(jìn)一步完善《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等法律法規(guī)，如要求提供給用戶及時(shí)關(guān)閉與自己其他信息相關(guān)聯(lián)的功能。通過(guò)提供切斷渠道，可避免大量個(gè)人信息被濫用。二是隨著“算法備案”逐漸落實(shí)，應(yīng)逐漸引入社會(huì)方面對(duì)算法的監(jiān)督和問(wèn)責(zé)，并培養(yǎng)公眾的算法素養(yǎng)，提高人們對(duì)算法影響的認(rèn)知與批判性思維能力。三是平臺(tái)企業(yè)應(yīng)定期開(kāi)展算法的科普工作，增強(qiáng)算法透明度。此外，也要加強(qiáng)運(yùn)用算法對(duì)謠言與網(wǎng)暴的識(shí)別與打擊力度。

“總之，網(wǎng)絡(luò)平臺(tái)的算法要重點(diǎn)從三點(diǎn)進(jìn)行規(guī)范，一是公平性，確保算法公正，避免助長(zhǎng)偏見(jiàn)和歧視；二是隱私保護(hù)，嚴(yán)格遵循個(gè)人信息保護(hù)法、數(shù)據(jù)安全法等，確保用戶隱私不被侵犯；三是內(nèi)容多樣性，鼓勵(lì)多元化的信息展示，防止單一信源主導(dǎo)。”張毅表示。

“對(duì)網(wǎng)絡(luò)平臺(tái)的算法進(jìn)行規(guī)范，本質(zhì)上是對(duì)算法應(yīng)用的規(guī)制，但并非簡(jiǎn)單意義上的對(duì)‘算法運(yùn)行狀態(tài)’進(jìn)行規(guī)制，而是基于保障國(guó)家安全、維護(hù)社會(huì)經(jīng)濟(jì)秩序及保護(hù)社會(huì)個(gè)體權(quán)益的需要，深入到應(yīng)用平臺(tái)或智能程序所應(yīng)用的算法層面，對(duì)算法進(jìn)行引導(dǎo)、規(guī)范或監(jiān)管。”談劍鋒進(jìn)一步表示。

畫好四條線 助力打破“信息繭房”

與受困“繭房”相對(duì)應(yīng)的，就是“破繭”。

談劍鋒表示，由于“信息繭房”隱蔽性強(qiáng)、形態(tài)繁多、范圍寬廣，尤其是涉及到社會(huì)各方較多，就要求“破繭”這類算法規(guī)制的價(jià)值目標(biāo)體系應(yīng)當(dāng)包容眾多的法益。

“首先，從個(gè)體角度來(lái)說(shuō)，網(wǎng)民應(yīng)提高自我防范能力，改變思維定式，不要被別人帶著跑。其次，從產(chǎn)業(yè)以及監(jiān)管角度來(lái)說(shuō)，要畫好四條線，廠商要有‘底線’，有所為而有所不為；應(yīng)用要有‘界線’，場(chǎng)景設(shè)計(jì)要有規(guī)矩；監(jiān)管要有‘高壓線’，對(duì)安全威脅要積極作為；治理要有‘平行線’，照顧廣泛的社會(huì)群體?！闭剟︿h建議。

對(duì)此，張毅持相同觀點(diǎn)。他進(jìn)一步建議，在行業(yè)層面，企業(yè)要加強(qiáng)自律，提高算法透明度，嚴(yán)格對(duì)標(biāo)此次專項(xiàng)行動(dòng)自糾自查；引入多樣化推薦機(jī)制，比如通過(guò)設(shè)置算法參數(shù)，鼓勵(lì)用戶探索與其興趣完全不一致的內(nèi)容；建立內(nèi)部審核機(jī)制，定期檢查算法的公平性與透明度，打破“信息繭房”，維護(hù)用戶權(quán)益。在政府層面，應(yīng)制定和完善相關(guān)法律法規(guī)，規(guī)范算法使用；同時(shí)，鼓勵(lì)公眾參與對(duì)算法倫理的討論，推動(dòng)算法向優(yōu)，治理向善。此外，也要加強(qiáng)對(duì)信息傳播的監(jiān)管，打擊虛假信息和不良信息的傳播，避免因“信息繭房”導(dǎo)致的群體性認(rèn)知偏差的不良影響擴(kuò)大。

“企業(yè)自我主動(dòng)管理行為是走出‘繭房’更有效的方式。平臺(tái)企業(yè)要重視用戶反饋，可以通過(guò)收集用戶對(duì)算法推薦內(nèi)容的看法和建議，及時(shí)調(diào)整算法，并確保算法與用戶需要保持一致。也可以將企業(yè)內(nèi)部系統(tǒng)中的‘提供興趣標(biāo)簽查看功能，向用戶展示用于內(nèi)容推送的個(gè)人興趣標(biāo)簽’等向用戶開(kāi)放且讓用戶自己管理，對(duì)現(xiàn)有的推薦系統(tǒng)可能會(huì)帶來(lái)較大影響?！睆堃阊a(bǔ)充說(shuō)。

“平臺(tái)在內(nèi)容推送時(shí)，還應(yīng)考慮適齡性和多樣性，針對(duì)未成年人和老年人推送教育型、文化型、娛樂(lè)性內(nèi)容，避免內(nèi)容單一化和一味追求商業(yè)利益，讓特殊人群也能盡享數(shù)字紅利?！逼岢筷嘏e例稱，比如針對(duì)老年人，平臺(tái)可以開(kāi)發(fā)適合的內(nèi)容分區(qū)和友好界面，降低使用門檻，避免沉迷問(wèn)題。

如何引導(dǎo)算法向上向善？

此次“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)，不僅向?yàn)E用算法而導(dǎo)致“信息繭房”、隱私泄露、騎手困在系統(tǒng)里等算法之亂開(kāi)刀，而且對(duì)算法向上向善提出期冀。

如何引導(dǎo)算法向上向善，促進(jìn)網(wǎng)絡(luò)平臺(tái)更好發(fā)展，更好地實(shí)現(xiàn)主流價(jià)值引導(dǎo)？

“算法技術(shù)具有專業(yè)性強(qiáng)、更新速度快等特點(diǎn)，這決定了算法治理是一項(xiàng)長(zhǎng)期工作，需要匯集各界合力?！睘榇?，張毅建議建立政府、企業(yè)、學(xué)術(shù)界的協(xié)作機(jī)制，比如，三方可聯(lián)合發(fā)布重點(diǎn)平臺(tái)企業(yè)的算法白皮書，說(shuō)明算法的設(shè)計(jì)、數(shù)據(jù)來(lái)源和推薦邏輯，讓用戶了解算法如何影響他們的內(nèi)容推薦，也可共同制定算法設(shè)計(jì)和應(yīng)用的行業(yè)標(biāo)準(zhǔn)和倫理規(guī)范，確保算法設(shè)計(jì)應(yīng)用符合社會(huì)公正和公共利益。

“此外，相關(guān)部門也可設(shè)立激勵(lì)機(jī)制，對(duì)于積極推動(dòng)算法向善、促進(jìn)社會(huì)正能量傳播的平臺(tái)給予政策支持和激勵(lì)，促進(jìn)良性競(jìng)爭(zhēng)?！睆堃氵M(jìn)一步建議。

“從平臺(tái)治理角度來(lái)看，通過(guò)監(jiān)督實(shí)現(xiàn)主流價(jià)值引導(dǎo)更有效?！闭剟︿h建議，一是把行之有效、持之以恒的實(shí)踐制度化，讓算法治理形成規(guī)范系統(tǒng)和制度；二是把精確可行的概念和理論制度化。

同時(shí)，談劍鋒表示，在保證控制重大風(fēng)險(xiǎn)底線的基礎(chǔ)上，還要給算法及其應(yīng)用的自由發(fā)展空間，讓一些問(wèn)題在實(shí)踐中進(jìn)行調(diào)適和優(yōu)化。

“數(shù)字化服務(wù)的目標(biāo)應(yīng)是以人為本，服務(wù)社會(huì)?！畔⒗O房’并非不可破解，各方參與，形成合力，將共同推動(dòng)技術(shù)與人性的和諧共舞，塑造一個(gè)多元且包容的數(shù)字新世界?！逼岢筷乇硎尽＃ㄖ茍D：趙慶慶）