算法歧視等不公平現象存在 全球加強“大數據殺熟”監管力度

數字化時代，消費者拿起智能手機的每一刻，都是在召喚算法。算法可以決定人們在抖音上看到哪些視頻，以及在拼多多上看到哪些商品。

近年來，基于消費者大數據的算法技術的應用，在提升網絡消費體驗、提高經營效率、推動平臺高質量發展等方面發揮著重要作用。但由于“大數據殺熟”、算法歧視等產生的不公平現象存在，也侵害了消費者的合法權益，擾亂了公平競爭的市場秩序。

在這樣的背景下，人工智能倫理倡導者呼吁，應該給消費者決定是否允許自己被算法“操縱”的權利，因為大多數時候，消費者并不清楚自己的行為正在被算法“算計”。

算法經常會被稱為“黑匣子”，科技公司往往只對他們的算法系統如何工作以及它們的用途做出基本解釋，很多時候開發這些算法的技術人員也并不清楚算法為何會得出某些結論。

11月18日，上海率先在電子商務領域出臺地方性指引，制定發布《上海市網絡交易平臺網絡營銷活動算法應用指引(試行)》(以下簡稱《指引》)，規范網絡交易平臺網絡營銷活動算法應用行為，為平臺經營者劃出合規底線。

《指引》明確平臺經營者不得利用算法實施不正當價格行為，不得利用算法對消費者實施不合理的差別待遇。此外，平臺經營者利用消費者個人信息開展網絡營銷活動算法應用時，應當按照《個人信息保護法》的規定，保證算法應用結果的公平、公正，不得對消費者在交易價格、交易機會等交易條件上實行不合理的差別待遇。

《指引》還規定，平臺經營者不得利用算法僅向消費者提供針對其個人特征選項的搜索結果，不得利用算法對平臺內經營者進行不合理限制或附加不合理條件，不得利用算法濫用市場支配地位。

今年8月，國家網信辦就已經出臺了《互聯網信息服務算法推薦管理規定(征求意見稿)》(下稱“征求意見稿”)，多條內容對接《個人信息保護法》。根據《征求意見稿》要求，算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沉迷或者高額消費等違背公序良俗的算法模型。

上海大邦律師事務所高級合伙人游云庭對第一財經記者表示：“除了今日頭條和抖音這樣公認的算法驅動的平臺，新浪微博這樣的用戶生成內容的平臺，以及滴滴、美團、餓了么這樣利用算法管理平臺的公司，也都受新規監管。”

在全球反壟斷的大潮下，各國監管機構近期也加大了對算法不公平的打擊力度。人工智能專家認為，對于創造和使用算法的公司來說，提高透明度至關重要，對AI的特定用途和應用進行監管之前，對于算法透明度的出臺法律是必要的。

在美國，立法者正在重新審視科技公司應該如何改變使用算法的方式。美國眾議院最近提出一項被稱為《過濾氣泡透明度》的立法，要求大型科技公司允許用戶訪問不受算法影響的平臺版本，也就是消費者將有權利選擇打開或者關閉被秘密算法操縱的功能。

雖然《過濾氣泡透明度法案》針對的是大型社交平臺，但它也將不可避免地影響其他公司，例如Spotify和Netflix，這些流媒體巨頭也非常依賴于算法驅動的策略。

立法的變化突顯了人們越來越意識到算法在數字化時代扮演的核心角色。如果該立法通過，也將從根本上改變完全圍繞算法管理建立的公司的商業模式。

算法作為數字世界的運轉規則，目前科技平臺還沒有建立合規、有效的算法倫理體系與機制。業內人士認為，算法合規需要企業自治與協同監管相結合。

中國數字經濟百人會專家委員會委員柳峰對第一財經記者表示：“大多數用戶是很難對企業的算法做出判斷，用戶需要能夠對算法的知情權和選擇權進行控制，也就是選擇打開或者關閉算法推薦。”他強調，應該對算法應用進行綜合性的系統治理。

柳峰對第一財經記者表示，從技術上來看，用戶“一鍵關閉”算法不難實現，但難的是如何監管，法律的規定如何落在具體的監管實施細則中。他認為，這是一個科技巨頭與立法監管博弈的過程。“這樣的監管政策要推動起來也很困難，大公司肯定會游說反對。”柳峰說道，“當然我們也應該承認，算法并不是任何時候都是不好的。”