你被算法歧視了嗎？經濟學家外灘熱議新型壟斷

一方面，算法歧視現象越來越引起決策者的重視；另一方面，如何平衡好科技創新與個人隱私保護問題也成為反壟斷監管中亟待解決的難題。

10月22日至10月24日，第三屆外灘金融峰會在上海召開。峰會期間，多位知名經濟學家、專業學者就金融科技發展監管等問題進行了思想碰撞，涉及算法歧視、數據確權、隱私保護等諸多內容。

綜合來看，與會專家均認為，在數字經濟背景下，“算法霸權”已經嚴重危害了消費者的合法權益，對算法應實施公開透明監管，同時也要兼顧好隱私保護與公平利用等問題。

“積極應對算法歧視等新型壟斷問題，”正如近期央行行長易綱在國際清算銀行（BIS）監管大型科技公司國際會議上講話時所說，“未來將發揮好與反壟斷部門的監管合力，遏制濫用市場優勢地位的壟斷行為。”

算法歧視新型壟斷問題

由于網絡效應的存在，金融科技領域通常會形成“贏家通吃”的局面。為了強化反壟斷監管，我國平臺經濟領域的反壟斷指南出爐，以強化反壟斷和防止資本無序擴張。除了“二選一”等與消費者購買行為密切相關的領域，與算法相關的大數據殺熟也成為我國反壟斷監管的重點之一。

談及反壟斷監管，美國哈佛大學教授、白宮經濟顧問委員會前主席Jason Furman在論壇上表示，從技術的角度來看，隨著行業的不斷發展，反壟斷目標只需監管大型科技企業即可，中小企業可以進一步創新，而不是作為反壟斷目標。但從金融監管角度出發，監管的側重點是要保證金融系統穩定性，保護消費者。因此，金融監管部門需要了解數字技術，數字監管者需要了解金融，二者需要更多資源和能力的建設及投入。

不過，中國金融四十人論壇學術委員會主席、北京大學數字金融研究中心主任黃益平的觀點則有所不同。黃益平認為，在數字時代，當大型科技企業利用大數據開展業務的時候，出現了歧視性定價，雖然不涉及壟斷問題，但也同樣損害到消費者的利益。他認為，行業中存在的很多其他問題才是反壟斷監管需要關注的重點，小型玩家也需要被監管。

近年來，以人工智能算法為基礎的應用滲透到社會的方方面面，隨之而來的算法歧視問題也引發人們的關注。公眾普遍擔憂，自己是否會被數字和模型歧視或操縱。

“實踐中，大型科技公司的算法已在很大程度上影響了用戶的消費行為。”中國金融四十人論壇資深研究員、清華大學五道口金融學院院長張曉慧稱，算法的復雜性以及算法使用者的刻意隱瞞，使得絕大多數人無法理解算法的工作原理，導致作為算法使用者的大型科技公司，特別是那些幾乎控股了所有與個人生活行為相關的數字平臺公司得以處于事實上的支配地位，形成“算法霸權”，從而嚴重危害了算法相對人也就是消費者的合法權益。應該說，算法已經成為大型科技公司控制市場的主要工具。

張曉慧認為，算法打著保護競爭優勢和商業秘密的名義，為大型科技公司故意隱藏規則、操縱消費者和制造歧視，創造了更多的灰色空間。一是通過不公平排名，偏向自家產品或者商業利益伙伴；二是存在算法歧視問題，“大數據殺熟”就是價格歧視的一種表現形式；三是通過誘導性信息與風險隱藏，誘導消費者過度消費和承擔風險。

在算法監管上，確立公開透明原則已迫在眉睫。9月30日，央行發布《征信業務管理辦法》，要求征信公司必須公開個人信用評分算法模型；《互聯網信息服務算法推薦管理規定（征求意見稿）》中，也針對“大數據殺熟”和“算法歧視”等問題，要求從業者完善算法管理制度，優化算法推薦，定期審核和評估算法模型，加強內容管理，促進算法應用向上向善。

近期，易綱在國際清算銀行（BIS）監管大型科技公司國際會議上講話時指出，未來將發揮好與反壟斷部門的監管合力，遏制濫用市場優勢地位的壟斷行為，積極應對算法歧視等新型壟斷問題。

數據治理兼顧隱私保護和公平利用

隨著國內反壟斷監管的深入，數據治理、個人隱私保護等問題也成為國內反壟斷監管的另一重點。

近年來，為了獲得平臺公司的金融服務，中國消費者往往需要向其提供個人信息，過度采集數據的問題比比皆是。

例如，在2016～2017年“現金貸”高速增長期間，出現了買賣借款人信息的情況；甚至一些科技公司隨意將用戶數據在不同的產品條線上混用，加大了隱私保護的難度。

在張曉慧看來，當前中國在數據治理上仍面臨較大挑戰。一方面，大型科技公司過度采集客戶數據，在各產品條線上混用數據，侵犯客戶數據隱私；另一方面，大型科技公司在數據開放利用上存在不足。

數字時代，如何兼顧大數據開發、平衡數據的有效利用和個人信息保護？對此，Jason Furman認為，競爭和隱私應是互補的。消費者可以有更多的選擇；“答案在選擇權，關鍵在于要保留不同服務的豐富性，讓消費者有選擇權。”國際貨幣基金組織（IMF）貨幣及資本市場部主任Tobias Adrian如是說。

黃益平也指出，關鍵的問題是在創新和消費者權利之間取得平衡。一方面，對個人隱私要充分保護，另一方面又不能過度保護導致有害創新，而這條線該劃在哪里還需要整個社會、各行業逐漸討論得出答案，因此，監管需要有一定的靈活性，也要有創新性。

數據價值在創造的過程中，數據的產權歸誰所有，利益如何分配，也是當下數據運用所面臨的一項重大課題。

在復旦大學特聘教授、重慶市原市長黃奇帆看來，數據涉及五項基本權利：管轄權、交易權、所有權、使用權、財產分配權，各類主體基于自身在數據交易環節中的位置來行使相應權利。其中，數據的管轄權、交易權應由國家所有。

值得注意的是，10月20日，《上海市數據條例（草案）》正式結束公開征求意見，上海將按照國家要求在浦東新區設立數據交易所，作為數據資產交易的平臺，開展實質化運營。

黃奇帆在論壇上指出，國家可以成立中央數據部門對國內的數據活動進行統一管理，在確立總的管理規則后，主要城市可以設立定點數據交易所，類似在北京、上海、深圳設立的證券交易所，而其他的一般省會城市、地級市不能設立。同時基于人工智能和區塊鏈技術建立數據可追溯系統，對數據無論是交易、使用、財產分配，有全息的可追溯過程，并且保證是不可更改的，從而保證數據交易安全有序。

在數字治理方面，歐盟走在國際前列，其理念和方法被許多國家和地區所借鑒，包括《通用數據保護條例》《數字服務法案》《數字市場法案》等。

張曉慧認為，歐盟對于數字治理可以概括為：一是對數據隱私進行最嚴格的保護，加強用戶對數據的控制；二是規定大型科技公司不得基于“核心平臺服務”來整合個人數據；三是大型科技公司不得使用商業用戶產生的數據與這些用戶開展競爭；四是大型科技公司要為商業用戶或經其授權的第三方機構提供數據使用便利；五是商業用戶和終端用戶向大型科技公司提供或產生的數據具有可攜帶性。

她認為，中國也應借鑒歐盟做法，在數據治理中努力平衡兼顧好隱私保護和公平利用的關系。不僅要明確區分數據作為私人產品和準公共品、公共品的邊界，也要厘清各類數據的多重性以及數據跨界混合使用可能產生的系統性風險和社會副作用。

實際上，在強化數據保護，保障消費者權益方面，自2016年起，中國陸續出臺了《網絡安全法》《數據安全法》和《個人信息保護法》，著手治理信息收集和“霸王條款”，督促金融機構嚴格按照合法、正當、最小必要原則收集、使用和保管用戶信息，充分保障個人隱私和消費者知情權、同意權、異議權、投訴權等合法權益。

張曉慧強調，應嚴格落實《數據安全法》《個人信息保護法》等法律法規，努力改進和提高監管能力，堅持制度規范和技術防護雙管齊下，嚴防數據誤用、濫用，切實保障金融數據和個人隱私安全。

標簽： 算法 歧視 經濟學家 外灘