Our Latest Work
你知道“momo”嗎？隱姓埋名
近年來(lái)，互聯(lián)網(wǎng)上不知不覺(jué)涌現(xiàn)出一批“momo大軍”，屆年他們用著同一個(gè)昵稱、輕人頂著一模一樣的反抗頭像，混跡于微信、算法收割豆瓣、隱姓埋名小紅書(shū)、屆年微博等各大社交平臺(tái)。輕人
這是反抗許多年輕人隱藏身份的“馬甲”。是算法收割的，曾經(jīng)以個(gè)性十足、隱姓埋名特立獨(dú)行為傲的屆年那批人，現(xiàn)在更在意的輕人是怎樣隱匿自己在網(wǎng)絡(luò)上的言行，而原因是反抗只為了逃脫“算法圍城”。
他們不希望“信息繭房”成為自己的算法收割“人生第一套房”，不想讓社交媒體的分享成為大數(shù)據(jù)窺探的窗口，不愿意付出時(shí)間和健康的代價(jià)，卻被困在一個(gè)看不見(jiàn)的牢籠里。
但他們何嘗不知道，數(shù)字生存如同雪泥鴻爪，數(shù)字互聯(lián)時(shí)代，想要雁過(guò)無(wú)痕，談何容易！
“硬剛”算法的年輕人
不管承不承認(rèn)，我們每個(gè)人都活在算法圍城之中。
同一份外賣(mài)，老顧客要比新會(huì)員多付幾元；同一時(shí)間的相同路程，不同手機(jī)型號(hào)的用戶單價(jià)不一；當(dāng)你拿起另一半的手機(jī)，居然發(fā)現(xiàn)在短視頻平臺(tái)看到的熱搜評(píng)論都不盡相同……
面對(duì)算法圍城，普通人有普通人的痛楚，名人有名人的煩惱。
近一年以來(lái)，農(nóng)夫山泉?jiǎng)?chuàng)始人鐘睒睒以及農(nóng)夫山泉頻上“熱搜”：從產(chǎn)品、環(huán)保議題到個(gè)人家事，不僅農(nóng)夫山泉的股價(jià)應(yīng)聲滑落，鐘睒睒個(gè)人也遭受了前所未有的流量“集火”。
忍無(wú)可忍的鐘睒睒在一場(chǎng)交流活動(dòng)中隔空喊話字節(jié)跳動(dòng)創(chuàng)始人張一鳴，直言有人利用算法“制造單一敘事和惡意對(duì)立”，并稱這種“利用科技手段、技術(shù)能力造成的惡”比普通人造成的惡要大，“是大惡”。
“他們用算法放大情緒，把復(fù)雜的問(wèn)題簡(jiǎn)單化，把不同的聲音屏蔽掉。”鐘睒睒說(shuō)，這種行為不僅破壞了公平的輿論環(huán)境，也讓公眾陷入片面認(rèn)知，而受害者往往都是底層民眾。
在“網(wǎng)暴”面前，絕大部分人不是鐘睒睒。面對(duì)各種算法織就的網(wǎng)，鐘睒睒可以“隔空喊話”，普通人卻只能套上“馬甲”。
于是，越來(lái)越多的年輕人決定主動(dòng)出擊，試圖“反向訓(xùn)練算法”，和平臺(tái)正面“硬剛”。
他們中有人“賽博哭窮”，“機(jī)票太貴了我不去了”“買(mǎi)不起，不買(mǎi)了”“9毛9，我喝得起的咖啡”；有人“喊話威脅”，給某軟件留言，“竟然殺熟，太過(guò)分了，我要卸載”；有人則是行動(dòng)派，移除軟件后故意過(guò)一段時(shí)間再重新下載，以期再次享受大額優(yōu)惠；還有人利用軟件生成的虛擬手機(jī)號(hào)頻繁注冊(cè)平臺(tái)軟件新號(hào)，“薅新人羊毛”。
有網(wǎng)友表示，有些“偏方”好像真的管用，發(fā)牢騷、抱怨價(jià)格、卸載重裝，一套流程走完能省下一筆不小的費(fèi)用。在小某書(shū)，隨處可見(jiàn)諸如“罵機(jī)票專用帖”等熱門(mén)經(jīng)驗(yàn)分享。也有人覺(jué)得這一切都是徒勞，到頭來(lái)還是被平臺(tái)用算法“收割”。但不管怎樣，他們樂(lè)此不疲，并美其名曰“反向馴化大數(shù)據(jù)”“用算法打敗算法”。
“反向馴化”其實(shí)見(jiàn)效甚微
“反向訓(xùn)練算法”有沒(méi)有用？《中國(guó)科學(xué)報(bào)》就此咨詢了算法專家。得到的答案，恐怕要給大家澆一盆冷水。
“‘反向馴化大數(shù)據(jù)’這類做法可能僅僅對(duì)一些簡(jiǎn)單的算法有效果。”中國(guó)科學(xué)院自動(dòng)化研究所副研究員、武漢人工智能研究院算法總監(jiān)吳凌翔說(shuō)，平臺(tái)會(huì)根據(jù)用戶大量的歷史信息、IP地址、社會(huì)關(guān)系、手機(jī)型號(hào)等做算法推薦，如果用戶不了解算法機(jī)制，很難“反向訓(xùn)練”。
中國(guó)傳媒大學(xué)媒體融合與傳播國(guó)家重點(diǎn)實(shí)驗(yàn)室媒體大數(shù)據(jù)中心首席科學(xué)家沈浩則認(rèn)為，用戶通過(guò)主動(dòng)關(guān)閉定位、禁止后臺(tái)調(diào)取通訊錄等方式能起到一定的屏蔽作用，但試圖通過(guò)調(diào)整標(biāo)簽、更換人設(shè)來(lái)“迷惑”算法，可能適得其反，新的“人設(shè)”還會(huì)出現(xiàn)新的“信息繭房”。
事實(shí)上，許多軟件都給了用戶選擇取消“個(gè)性化推薦”的功能，但由于這項(xiàng)功能于平臺(tái)而言太過(guò)重要，往往隱藏較深。
而在沈浩看來(lái)，取消個(gè)性化推薦也不能根治“信息繭房”。
“不推薦、表示‘不感興趣’也是一種推薦?！鄙蚝聘嬖V記者，算法是基于用戶數(shù)據(jù)驅(qū)動(dòng)的，每個(gè)人都或多或少被“困”在“信息繭房”里，只不過(guò)感知程度不同。
北京航空航天大學(xué)計(jì)算機(jī)學(xué)院教授王靜遠(yuǎn)直言，自己雖然沒(méi)有專門(mén)研究過(guò)用戶對(duì)抗算法推薦的做法，但他對(duì)出現(xiàn)的這種現(xiàn)象并不感到意外。
“這反映了一些算法對(duì)用戶信息的收集和利用有些過(guò)分?！蓖蹯o遠(yuǎn)對(duì)《中國(guó)科學(xué)報(bào)》說(shuō)，當(dāng)平臺(tái)逼得用戶連頭像、昵稱這些基礎(chǔ)信息都要隱藏，說(shuō)明用戶的一切痕跡都有可能被作為特征而提取，“用到極致了”。
在采訪中，專家們不止一次提到“算法中立論”，認(rèn)為算法無(wú)罪，罪在利益相關(guān)方。但是，當(dāng)每一次點(diǎn)擊、每一句評(píng)論，甚至每多停留一秒鐘，這些痕跡都成了平臺(tái)訓(xùn)練算法的“養(yǎng)料”；當(dāng)外賣(mài)、網(wǎng)約車(chē)等平臺(tái)被大數(shù)據(jù)操縱，吃什么、去哪里都被“讀心術(shù)”安排得明明白白；那么在被浪費(fèi)的時(shí)間、被挑撥的情緒、被掏走的“冤枉錢(qián)”面前，用戶眼中的算法就不再是“中立”的，而是越來(lái)越大的“牢籠”。
“當(dāng)一切痕跡都在利益驅(qū)使下過(guò)度商業(yè)化時(shí)，自然會(huì)有反抗?！蓖蹯o遠(yuǎn)說(shuō)。
“舊病未愈，又添新疾”
一邊是平臺(tái)利用算法精準(zhǔn)織網(wǎng)，一邊是越來(lái)越多的人開(kāi)始覺(jué)醒與反抗。野蠻生長(zhǎng)的算法亂象，正被社會(huì)全方位審視。
近日，中央網(wǎng)信辦、工信部、公安部、市場(chǎng)監(jiān)管總局四部門(mén)聯(lián)合部署開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)，重點(diǎn)整治“信息繭房”、操縱榜單、利益侵害、大數(shù)據(jù)“殺熟”、算法推薦等典型問(wèn)題。
但如果回溯大數(shù)據(jù)興起之時(shí)，“算法治亂”一直都有。
早在2018年，美國(guó)臉書(shū)首席執(zhí)行官馬克·扎克伯格在美國(guó)國(guó)會(huì)上就數(shù)據(jù)隱私、虛假信息、監(jiān)管等數(shù)個(gè)議題接受訊問(wèn)。當(dāng)時(shí)人們已經(jīng)意識(shí)到，當(dāng)用戶獲得免費(fèi)或者極低費(fèi)用的服務(wù)時(shí)，消費(fèi)者將被要求提供更多的個(gè)人數(shù)據(jù)，而這些數(shù)據(jù)被濫用的可能性會(huì)顯著增加。
我國(guó)也在2021年就出臺(tái)了《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等規(guī)定，明確算法治理的必要性和具體要求。而此次“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)，力度更大、問(wèn)題更加聚焦。
曾經(jīng)，互聯(lián)網(wǎng)努力為不同人群、不同議題提供平等的交流平臺(tái)，打造自由對(duì)話的多元空間。但隨著“流量至上”成了各大平臺(tái)目標(biāo)，它們開(kāi)始借由算法之手不擇手段，用戶隱私信息得不到保護(hù)的問(wèn)題浮出水面。
近年來(lái)，隨著大語(yǔ)言模型技術(shù)進(jìn)步、生成式人工智能服務(wù)興起，若人工智能（AI）技術(shù)不加規(guī)范，會(huì)帶來(lái)許多新問(wèn)題：AI換臉詐騙、AI造謠、AI偏見(jiàn)歧視、AI語(yǔ)言暴力等。尤其是當(dāng)生成式人工智能服務(wù)的對(duì)象是未成年人和老年人時(shí)，將會(huì)面臨更大的風(fēng)險(xiǎn)。
據(jù)外媒報(bào)道，創(chuàng)辦于2021年的Character.AI平臺(tái)，近期就因開(kāi)發(fā)的“情感陪伴聊天機(jī)器人”而官司纏身。今年10月，Character.AI在美國(guó)佛羅里達(dá)州一名青少年自殺事件中“扮演了某種角色”；12月，美國(guó)得克薩斯州一對(duì)父母決定起訴它“教唆未成年人殺害家長(zhǎng)”，他們稱機(jī)器人聊天工具讓未滿18歲的青少年“過(guò)度接觸了色情、血腥暴力等不良內(nèi)容”。
能否打開(kāi)算法“黑箱”？
面對(duì)算法“作惡”，鐘睒睒呼吁“算法應(yīng)該明白無(wú)誤地公之于眾”。他認(rèn)為，沒(méi)有一種標(biāo)準(zhǔn)是不可以公布的，應(yīng)該公布并讓所有使用者評(píng)價(jià)其意義。
但公開(kāi)算法，就能打開(kāi)“黑箱”、制止亂象嗎？
吳凌翔告訴《中國(guó)科學(xué)報(bào)》，算法并不像外界理解的那樣是徹底不透明的，一般都會(huì)通過(guò)發(fā)表論文、學(xué)術(shù)會(huì)議分享、公開(kāi)課等公開(kāi)其原理。但是，即便是常見(jiàn)的推薦系統(tǒng)，背后的算法機(jī)制也非常復(fù)雜，常?！安皇且粌蓚€(gè)部門(mén)的事”，即便是開(kāi)發(fā)者也未必全能搞清楚。反倒是AI檢索增強(qiáng)生成的內(nèi)容，現(xiàn)在的技術(shù)手段可以溯源——通過(guò)關(guān)聯(lián)標(biāo)記能夠獲取它是基于哪些數(shù)據(jù)和信息“習(xí)得”的。
王靜遠(yuǎn)也同意，算法機(jī)制問(wèn)題并不像想象的那樣簡(jiǎn)單?！氨热缟疃葘W(xué)習(xí)本身就是一個(gè)‘黑箱’，即便開(kāi)發(fā)者也不清楚其中原理?！?/p>
事實(shí)上，對(duì)于算法工程師而言，真正的“黑箱”不在算法原理之中，而在數(shù)據(jù)與平臺(tái)機(jī)制的設(shè)置之中——當(dāng)用戶量增大、數(shù)據(jù)變多，平臺(tái)機(jī)制逐漸向利益“妥協(xié)”，久而久之便產(chǎn)生了“算法亂象”。
“算法始終是算法設(shè)計(jì)者意志的反映，是平臺(tái)意志的反映?！北本┐髮W(xué)數(shù)字治理研究中心主任邱澤奇在接受《中國(guó)科學(xué)報(bào)》采訪時(shí)說(shuō)。言外之意，復(fù)雜的算法問(wèn)題背后潛藏的是平臺(tái)“無(wú)形的手”。
就如鐘睒睒?biāo)庥龅哪菢?，“?dāng)你打開(kāi)這些平臺(tái)，看到的總是同樣的內(nèi)容”“很多惡是人為造成的”。
不得不提的是，許多平臺(tái)型軟件在誕生之初，都肩負(fù)著改造社會(huì)的使命。不可否認(rèn)，這些軟件已經(jīng)成為人們數(shù)字生活中的基礎(chǔ)設(shè)施，但在巨大的發(fā)展慣性下，平臺(tái)自發(fā)性選擇了阻力最小、收益最高的方向，輕視乃至忽略了社會(huì)價(jià)值。在這種嬗變之中，算法的用途逐漸跑偏。
“在算法訓(xùn)練中，目標(biāo)導(dǎo)向是關(guān)鍵因素?！蓖蹯o遠(yuǎn)告訴記者，人工智能算法在設(shè)計(jì)時(shí)，會(huì)要求開(kāi)發(fā)者設(shè)置一個(gè)目標(biāo)函數(shù)，訓(xùn)練算法時(shí)會(huì)盡最大可能優(yōu)化這個(gè)目標(biāo)函數(shù)。如果算法以提高調(diào)度效率為目標(biāo)，在模型優(yōu)化過(guò)程中就會(huì)犧牲其他因素來(lái)追求高效；如果以精準(zhǔn)的個(gè)性化推薦為目標(biāo)，就不可避免地出現(xiàn)過(guò)度收集和利用信息的問(wèn)題。
信息大爆炸時(shí)代，算法的篩選和過(guò)濾無(wú)疑迎合了為大腦“降本增效”的剛需。然而，當(dāng)精準(zhǔn)“捕捉”用戶已無(wú)法滿足平臺(tái)的胃口時(shí)，殺熟成了平臺(tái)“向前一步”的試水。王靜遠(yuǎn)提到，平臺(tái)通過(guò)“精準(zhǔn)營(yíng)銷”為不同消費(fèi)水平的顧客推薦不同價(jià)位的產(chǎn)品尚情有可原，但通過(guò)分析用戶經(jīng)濟(jì)能力進(jìn)行“個(gè)性化定價(jià)”的歧視行為就令人難以接受了，這在技術(shù)上能夠且應(yīng)亟須加以規(guī)避。
走向共同治理
在訪談中，幾位專家不約而同談到，除了人為濫用算法制造矛盾和對(duì)立外，算法更多是在復(fù)刻社會(huì)的現(xiàn)實(shí)問(wèn)題。
“坦率地講，算法就是幫你算數(shù)。你寫(xiě)了一套程序，它幫你把一些說(shuō)不清、道不明的規(guī)律從數(shù)據(jù)里‘扒’出來(lái)。我的觀點(diǎn)是，算法不會(huì)作惡。”邱澤奇說(shuō)，問(wèn)題的關(guān)鍵是數(shù)據(jù)和算法的匹配以及算法的調(diào)試，“說(shuō)到底，都是人在忙活”。
他提出，不同的人雖然在使用同一個(gè)軟件平臺(tái)，但每人對(duì)數(shù)據(jù)的貢獻(xiàn)和得到的反饋，在量和質(zhì)上都有差異；而當(dāng)算法應(yīng)用數(shù)據(jù)時(shí)，便會(huì)復(fù)刻現(xiàn)實(shí)社會(huì)的結(jié)構(gòu)，甚至放大現(xiàn)實(shí)社會(huì)的問(wèn)題。
基于此，他認(rèn)為有兩條路可以嘗試解決算法問(wèn)題：一是對(duì)真實(shí)數(shù)據(jù)進(jìn)行權(quán)重配置，二是調(diào)試算法進(jìn)行糾偏。
“算法是人寫(xiě)的，是可以調(diào)整的。在方法意義上，算法是工具。”邱澤奇認(rèn)為，工具是否適用是可以做交叉檢驗(yàn)的，在技術(shù)上并不難實(shí)現(xiàn)。
有研究指出，算法黑箱、算法權(quán)力、算法陷阱等亂象很可能會(huì)成為數(shù)智經(jīng)濟(jì)負(fù)外部性的深層來(lái)源。此時(shí)，“算法向善”就成了全社會(huì)的共同呼喚。
在邱澤奇看來(lái)，“算法向善”包括四個(gè)關(guān)鍵概念：首先是改進(jìn)，這是平臺(tái)承擔(dān)社會(huì)責(zé)任和社會(huì)價(jià)值的必然要求；其次是普惠，利益相關(guān)者的收益不提高，平臺(tái)經(jīng)營(yíng)就是竭澤而漁；再次是包容，關(guān)注數(shù)智弱勢(shì)群體，不只是平臺(tái)的社會(huì)責(zé)任，也是人類價(jià)值的體現(xiàn)；最后是誠(chéng)信，這是數(shù)智社會(huì)的底線規(guī)則，沒(méi)有人類之間的誠(chéng)信，算法只會(huì)成為人類自我欺詐的武器。
他坦承，通往“算法向善”的道路曲折而遙遠(yuǎn)，需要多方共同努力。
“首先需要解決平臺(tái)和算法設(shè)計(jì)者的認(rèn)知問(wèn)題?！鼻駶善嫣岢觯疤崾且塾诒Ｗo(hù)各方的利益：在平臺(tái)內(nèi)部，建立平臺(tái)業(yè)務(wù)的社會(huì)后果評(píng)估機(jī)制，不限于經(jīng)濟(jì)產(chǎn)出評(píng)估；在平臺(tái)與社會(huì)之間，建立與利益相關(guān)者的協(xié)商溝通機(jī)制；在平臺(tái)外部，建立平臺(tái)社會(huì)評(píng)價(jià)機(jī)制，等等。
吳凌翔提出了類似建議，她認(rèn)為算法治理需要搭建一個(gè)用戶、平臺(tái)、專家共同參與、共商機(jī)制的平臺(tái)，促進(jìn)通過(guò)對(duì)話達(dá)成共識(shí)。此外，她認(rèn)為用戶反饋機(jī)制和參與機(jī)制非常重要，這是社會(huì)治理的一種體現(xiàn)。
技術(shù)層面也有施展空間，以推薦算法為例，吳凌翔說(shuō)，不僅要提升數(shù)據(jù)的多樣性和豐富度，還可以對(duì)算法進(jìn)行公平性約束、增加敏感性分析，并通過(guò)評(píng)估監(jiān)測(cè)推薦系統(tǒng)內(nèi)的不同環(huán)節(jié)，增加敏感性分析等方式，從技術(shù)角度對(duì)算法糾偏。
應(yīng)對(duì)生成式內(nèi)容帶來(lái)的合規(guī)需求，王靜遠(yuǎn)提到，現(xiàn)階段重要的議題之一是要發(fā)展負(fù)責(zé)任的AI相關(guān)研究，其中既包括AI可解釋性、公平性、泛化性的研究，也涉及安全可控方面的議題。但目前該領(lǐng)域面臨著社會(huì)關(guān)注度不高、投入較少的尷尬局面。
“只有把蛋糕做大，才有蛋糕可分。”邱澤奇認(rèn)為，治理與發(fā)展本就是一場(chǎng)拉鋸賽，當(dāng)前應(yīng)在促進(jìn)創(chuàng)新的前提下，通過(guò)“問(wèn)責(zé)制”調(diào)整利益分配的邏輯和份額，考慮分配的公平性問(wèn)題，在鼓勵(lì)創(chuàng)新與促進(jìn)平等之間尋求平衡。
“對(duì)于新生事物，制度建設(shè)不宜超前。”邱澤奇強(qiáng)調(diào)，新發(fā)展也會(huì)帶來(lái)新問(wèn)題，算法治理無(wú)法一蹴而就?！耙粋€(gè)簡(jiǎn)單的警示和預(yù)防策略是對(duì)傷害的問(wèn)責(zé)?！彼麖?qiáng)調(diào)，隨著AI深入發(fā)展，算法自身的邏輯網(wǎng)絡(luò)會(huì)越來(lái)越復(fù)雜，試圖就具體問(wèn)題進(jìn)行預(yù)防是沒(méi)有止境的。（中國(guó)科學(xué)報(bào)）
點(diǎn)擊進(jìn)入專題： 每日深觀察
