警惕人工智能算法陷阱 消費金融領域呼吁加強監管反對歧視|全球熱推薦

4月25日，美國消費者金融保護局、司法部、聯邦貿易委員會等部門官員警告金融公司和其他機構，使用人工智能（AI）會增加偏見和侵犯公民權利的風險，并表示正在監管市場以防止此類歧視。

【資料圖】

隨著人工智能工具的日益普及，美國、歐洲和中國的監管機構都在加強對使用人工智能技術的審查，并呼吁制定新的法律來控制該技術。

美國消費者金融保護局局長喬普拉（Rohit Chopra）表示，在金融領域，如果公司甚至不了解人工智能做出決定的原因，就不能合法地使用這些技術。

4月25日，上海交通大學安泰經濟與管理學院教授，上海交通大學行業研究院“人工智能+”行業團隊負責人史占中在一場媒體沙龍上也提到了類似的話題。他對第一財經記者表示：“新的技術出來之后我們不能恐懼，更不能因噎廢食；我們要積極、及時通過規則優化和有效監管，把它從挑戰人類的最強‘對手’變成人類的最好‘助手’。”

史占中認為，人工智能是由算法推動的，而算法里面有算法的陷阱和算法的誤導，Al算法和模型的偏見設計，如種族、性別歧視等等，將引發社會排斥；Al數據分析、存儲及應用，可能引發造假造謠詐騙、信息泄露、隱私侵犯及數據濫用等，這些問題都將挑戰道德倫理。

“人工智能更大的風險是，AI在治理架構、隱私保護以及風險設計等方面，會對未來的社會穩定、價值觀、法律法規等，形成巨大的挑戰。”史占中說道。

在談到關于人工智能的決策如何定責的時候，史占中認為，人類智能和人工智能在協作過程中，誰處于指導地位，誰的權屬更高一點。“現在法律上確實是一個空白地帶，包括出現問題的時候誰負主要責任，以及AI責任由誰承擔，這也存在法律法規的空白區。”他說道。

本周一，微軟支持的技術倡導組織美國商業軟件聯盟（BSA）建議在美國數據隱私立法中制定管理人工智能使用的規則。BSA代表Adobe、IBM和甲骨文等商業軟件公司。

BSA方面稱，數字化轉型是“經濟議程的重要組成部分”，應該制定一個國家數字化轉型議程，包括關于人工智能的規則、國家隱私標準和強有力的網絡安全政策。

對此，上海交通大學安泰經濟與管理學院經濟系教授陳宏民表示：“數字經濟發展是一個循序漸進的過程，現在所有的信息變成數字化，一秒鐘的時間可以傳千萬里、送達億萬人，背后需要兼顧快速、便利和安全等問題。”

陳宏民認為，數字經濟發展是參差不齊的，有一些行業和企業已經進入到數據驅動的階段，但大部分行業和企業剛剛在數字化起步階段，只有帶著迭代思維不斷學習進步，才能更好地應對不確定性的世界。

標簽：