“網(wǎng)絡(luò)平臺算法治理”系列評

之一：“算法濫用”該清一清了

半月談評論員 烏夢達(dá) 陽娜

這是很多人的共同感受：閱讀某篇新聞或文章后，App就會接連不斷地推送同類內(nèi)容;誤點某條推送鏈接或不經(jīng)意聊到某個話題，App頁面也會頻繁展示相關(guān)信息;養(yǎng)生類信息專挑老年人推送，游戲類內(nèi)容總推送給青少年……當(dāng)前，算法推薦成為網(wǎng)絡(luò)平臺的“標(biāo)配”，在提高信息傳播的效率的同時，也為普通用戶制造了很多信息陷阱。

近日，中央網(wǎng)信辦等四部門啟動“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動。專項行動重點整治同質(zhì)化推送營造“信息繭房”等典型問題，重錘落地，釋放強烈信號：加大對算法濫用的整治力度，清朗網(wǎng)絡(luò)環(huán)境。

算法本質(zhì)是技術(shù)，但其設(shè)計者和規(guī)則本身卻能產(chǎn)生巨大社會影響。公眾享受著算法帶來的諸多便捷，同時也對“算法濫用”詬病已久。

“信息繭房”是算法推薦備受詬病的問題之一。頻繁推送用戶感興趣的同質(zhì)化內(nèi)容，甚至以博人眼球的劣質(zhì)低俗內(nèi)容取悅用戶，在這樣的算法機制下，用戶接收信息的范圍越來越窄，渠道越來越單一，從而陷入“信息繭房”。算法成為網(wǎng)絡(luò)世界的“內(nèi)容編輯”，網(wǎng)絡(luò)世界被分割為不同的“繭房”，不同的人群被割裂在各自的“信息房子”里，難以接收到不同的聲音。

算法推薦一定程度上也助推了網(wǎng)絡(luò)沉迷。被動嵌入“算法黑箱”的公眾不知不覺地被“粘”在了各類手機應(yīng)用中，視頻、電商、社交娛樂等占據(jù)了信息內(nèi)容消費的大頭。受到平臺給予的時長激勵或獎金紅包等誘惑，打卡、久駐平臺成為日常習(xí)慣，“網(wǎng)癮老年”群體正日益擴大;智能設(shè)備和算法推薦導(dǎo)致未成年人網(wǎng)絡(luò)沉迷呈現(xiàn)新特點……長期受困其中的用戶就像“溫水里的青蛙”，沉迷網(wǎng)絡(luò)而不自知。

還有一種常被忽略的算法濫用是算法偏見。女性群體和低收入群體更關(guān)注娛樂八卦內(nèi)容，男性群體和高收入群體更關(guān)注財經(jīng)時政等信息，青少年更愛游戲，老年人更愛養(yǎng)生……在算法的世界里，看似中立的群體劃分標(biāo)準(zhǔn)卻暗含了對用戶群體品味、價值取向、消費能力的偏見。由于存在群體刻板標(biāo)簽，算法很難保持中立和客觀，偏見會不斷被強化。

此次專項行動也針對這些問題出招：提出構(gòu)建“信息繭房”防范機制，提升推送內(nèi)容多樣性豐富性;規(guī)范設(shè)置“不感興趣”等負(fù)反饋功能;持續(xù)優(yōu)化完善面向未成年人、老年人的算法推薦服務(wù)等?？梢哉f，此次專項行動是對平臺算法規(guī)則制定的一次有益糾偏，給互聯(lián)網(wǎng)時代不斷擴張和升級的算法找到合理的邊界和規(guī)則。

除平臺整改外，相關(guān)部門的監(jiān)管也不可缺位。公眾期待，監(jiān)管部門形成事前、事中、事后常態(tài)監(jiān)管機制，構(gòu)建“信息繭房”防范機制，引導(dǎo)和監(jiān)督平臺重塑正確價值導(dǎo)向，提升平臺算法邏輯的透明度。同時，加大技術(shù)在監(jiān)管過程中的應(yīng)用，提高監(jiān)管的高效和精準(zhǔn)度。如有必要，可設(shè)立專門機構(gòu)對算法“黑箱”操作進(jìn)行全面審查，并推進(jìn)技術(shù)問責(zé)制度，強化對算法濫用的追責(zé)。此外，還應(yīng)敦促平臺合規(guī)自治，解除固有標(biāo)簽，提升用戶的選擇權(quán)，豐富用戶的“內(nèi)容池”。

算法要升級，更要回歸服務(wù)公眾的本質(zhì)中來。期待未來在算法和用戶的長期交互中，讓用戶能重新找回信息自主權(quán)，真正“破繭而出”。(完)

之二：對算法加持的大數(shù)據(jù)“殺熟”要精準(zhǔn)打擊

半月談評論員 烏夢達(dá)、陽娜

作為某App會員預(yù)訂機票時，機票價格在填寫信息后卻突然上漲;不同用戶在同一平臺上預(yù)訂房間，價格卻明顯不同……一段時間以來，在網(wǎng)絡(luò)社交平臺、投訴平臺上，備受詬病的大數(shù)據(jù)“殺熟”非但沒消失，反而屢見不鮮。

近日，中央網(wǎng)信辦等四部門開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動。其中鮮明提出，嚴(yán)禁利用算法實施大數(shù)據(jù)“殺熟”，再次對這一亂象敲響了警鐘。

會員價格更高、買得越多越貴、頻繁瀏覽會自動漲價、只提供符合用戶特點的商品或服務(wù)……如今，無論打網(wǎng)約車、訂外賣還是電商購物，算法早已嵌入各個領(lǐng)域。在算法的加持下，大數(shù)據(jù)“殺熟”不斷升級，“千人千價”在網(wǎng)絡(luò)購物中越發(fā)普遍。

從消費者下載一款A(yù)pp并點擊同意“用戶使用協(xié)議”那一刻起，平臺開發(fā)者實時獲取用戶相關(guān)數(shù)據(jù)，以此構(gòu)建清晰的“用戶畫像”，并使用機器學(xué)習(xí)算法進(jìn)行分析，預(yù)測購買意圖和支付能力。購物越頻繁，平臺獲取的訓(xùn)練數(shù)據(jù)就越多，算法就越優(yōu)化，以動態(tài)調(diào)整定價策略，確保獲取更大利潤。

某種程度上，算法正扯下大數(shù)據(jù)“殺熟”的遮羞布。相較過去的線下“宰生客”，現(xiàn)在的線上“殺熟客”套路更多。

大數(shù)據(jù)“殺熟”頑疾為何難以根治?一方面，由于算法具有技術(shù)門檻，算法“黑箱”普遍存在，“算法涉及商業(yè)秘密”成了企業(yè)和平臺規(guī)避責(zé)任和監(jiān)管的“保護(hù)傘”。

另一方面，侵權(quán)判定界限模糊、維權(quán)成本高、取證舉證難，也讓許多被“殺熟”的用戶對維權(quán)望而卻步。平臺的“殺熟”發(fā)放機制往往看上去很隨機，還常常標(biāo)注“時間不同、地點差異導(dǎo)致價格浮動”“新用戶有優(yōu)惠”等字樣，以此為大數(shù)據(jù)“殺熟”行為進(jìn)行開脫。這也是為什么大量基于算法引發(fā)的網(wǎng)購?fù)对V中，鮮有獲賠成功案例的原因。

此次治理對整治大數(shù)據(jù)“殺熟”提出了明確要求：嚴(yán)禁利用用戶年齡、職業(yè)、消費水平等特征，對相同商品實施差異化定價行為;提升優(yōu)惠促銷透明度，清晰說明優(yōu)惠券的領(lǐng)取條件、發(fā)放數(shù)量和使用規(guī)則等內(nèi)容;客觀如實說明優(yōu)惠券領(lǐng)取失敗原因，嚴(yán)禁以“來晚了”“擦肩而過”等提示詞掩蓋真實原因。

算法本身中立，但算法的規(guī)則制定、模型設(shè)計、數(shù)據(jù)分析等并非完全客觀;算法固然是商業(yè)秘密，但算法應(yīng)用涉及的往往是社會公共利益，濫用算法危害的是千千萬萬消費者的合法權(quán)益。

要真正打破算法“黑箱”，需要健全算法定價機制和信息披露機制，提升平臺算法邏輯、定價規(guī)則等的透明度。此外，要暢通消費者的舉報途徑，加大技術(shù)在監(jiān)管過程中的應(yīng)用，提高監(jiān)管的高效和精準(zhǔn)度，真正讓大數(shù)據(jù)“殺熟”行為無處遁形。

企業(yè)追求商業(yè)利益的同時，更要維護(hù)公眾的合法權(quán)益。由此，平臺才能得到長久的良性發(fā)展，算法也才能回歸科技向善的初衷。別讓一時的算法“算計”，弄丟了消費者的長期信任。(完)

之三：讓“困在算法里的勞動者”真正走出來

半月談評論員 烏夢達(dá) 張驍

近日，中央網(wǎng)信辦等四部門聯(lián)合發(fā)布《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動的通知》，明確將盲目追求利益侵害新就業(yè)形態(tài)勞動者權(quán)益列為主要整治任務(wù)之一，同步細(xì)化工作目標(biāo)、安排、要求和治理清單指引。

通知一出即沖上熱搜，原因不難分析：整治行動回應(yīng)網(wǎng)民關(guān)切，彰顯監(jiān)管以人為本的導(dǎo)向，直面平臺經(jīng)濟發(fā)展頑疾，后續(xù)成效值得社會期待。

作為平臺經(jīng)濟運轉(zhuǎn)核心，算法理應(yīng)將公共安全、社會責(zé)任納入考量。一味將算法視為競爭壁壘、盈利工具，這種“算計的方法”必將得出錯誤結(jié)果，自然要接受檢視與糾正。

據(jù)相關(guān)統(tǒng)計，我國外賣員群體近一千萬人，廣大騎手跑出平臺發(fā)展“加速度”，但不少人反映單子越接越多，收入?yún)s沒漲反降;受配送企業(yè)派單系統(tǒng)考核影響，很多騎手為降低超時率鋌而走險，交通違法行為、道路事故頻發(fā)。為了辛勞過后多一些回報，個別“小哥”每天接上百單、只睡四小時，商家一次慢出餐、消費者一次投訴，就可能擊穿一個成年人的心理防線。

算法世界中，勞動者、消費者被“精準(zhǔn)畫像”，全部行為、訂單、路線被轉(zhuǎn)化為商業(yè)模式提質(zhì)增效的數(shù)據(jù)。然而，再精致的算法也評估不了勞動者的身心健康，量化不了無序發(fā)展給城市運行帶來的擾動。不能因為平臺掙錢了、消費者享受了，就忽視串聯(lián)供需兩端的勞動者的境遇感受。

近日召開的國務(wù)院常務(wù)會議明確指出，發(fā)展平臺經(jīng)濟事關(guān)擴內(nèi)需、穩(wěn)就業(yè)、惠民生，事關(guān)賦能實體經(jīng)濟、發(fā)展新質(zhì)生產(chǎn)力，要進(jìn)一步加強對平臺經(jīng)濟健康發(fā)展的統(tǒng)籌指導(dǎo)。說到底，推進(jìn)網(wǎng)絡(luò)平臺算法典型問題治理，不再被算法“困住”，是為了平臺經(jīng)濟長遠(yuǎn)健康發(fā)展，更好造福民生福祉。

讓“困在算法里的勞動者”真正走出來，監(jiān)管要能“拽一把”?！锻ㄖ访鞔_，要嚴(yán)防一味壓縮配送時間導(dǎo)致配送超時率、交通違章率、事故發(fā)生率上升等問題。要看到，在復(fù)雜算法面前，勞動者仍處于弱勢地位，放大監(jiān)管趨利避害作用，將最大程度推動算法“向上向善”。

讓“困在算法里的勞動者”真正走出來，企業(yè)要敢“曬一曬”?！锻ㄖ访鞔_，要詳細(xì)公示時間預(yù)估、費用計算、路線規(guī)劃等算法規(guī)則。目前，有企業(yè)視算法為“商業(yè)機密”，對待監(jiān)管假話不敢說，面向社會真話不全說，如果暗藏違法條款、霸王約定，必須一查到底。

讓“困在算法里的勞動者”真正走出來，小哥要能“說上話”?！锻ㄖ访鞔_，搭建暢通的申訴渠道，及時受理勞動者因交通管制、交通事故、惡劣天氣等不可控因素導(dǎo)致的配送超時等申訴。 保障勞動者基本權(quán)益，持續(xù)改善工作體驗，要多聽聽勞動者本人的意見。

讓“困在算法里的勞動者”真正走出來，公眾也要“出份力”。當(dāng)前，在算法裹挾下，不少配送員習(xí)慣既有配送方式，一些消費者把極速配送視為理所當(dāng)然。推動算法回歸安全、合理、高效軌道，公眾也要多一點理解、做一些轉(zhuǎn)變。(完)

編輯：郝嫻宇