孫明春：不得不談的ChatGPT︱明言ESG

(資料圖)

ChatGPT的發(fā)布及快速迭代引發(fā)了全球?qū)θ斯ぶ悄埽ˋI）技術(shù)研發(fā)與應(yīng)用的新一輪熱潮。與此同時，AI技術(shù)快速發(fā)展可能給人類社會帶來的風險與挑戰(zhàn)也日益引發(fā)關(guān)注。3月29日，以馬斯克為首的上千名業(yè)界人士聯(lián)合發(fā)出公開信，呼吁“所有人工智能實驗室立即暫停對比GPT-4更強大的人工智能系統(tǒng)的培訓(xùn)至少6個月”，以便給業(yè)界一段時間來“開發(fā)和實施一套高級人工智能設(shè)計和開發(fā)的共享安全協(xié)議”，“并給社會一個適應(yīng)的機會”。

許多業(yè)界人士擔憂，作為一項有可能對各行各業(yè)產(chǎn)生顛覆性影響的技術(shù)，AI除了有可能導(dǎo)致大量就業(yè)崗位消失、加大貧富差距與不平等現(xiàn)象，還會帶來技術(shù)安全、數(shù)據(jù)濫用、隱私泄露、信息造假、算法偏見、技術(shù)洗腦、機器人操縱等諸多問題；有些人甚至擔憂AI會超越人類智慧，進而控制或取代人類，威脅人類社會的生存。雖然對這些風險尚存在爭議和分歧，但AI技術(shù)進步如此之快，很可能會快速超越全球經(jīng)濟、社會、政治、法律乃至倫理規(guī)范的承接與適應(yīng)能力。鑒于AI技術(shù)有可能給人類社會帶來重大風險，也許AI技術(shù)的確有必要放慢創(chuàng)新與應(yīng)用的步伐，給人類社會更多適應(yīng)的時間，以便在認知（包括知識、道德、文化理念等）及制度（如法律、教育、社會保障體系等）等方面抓緊準備和盡快追趕。

其實，各國政府、國際組織、學(xué)術(shù)界及行業(yè)領(lǐng)軍機構(gòu)早已關(guān)注此類風險，并通過制定監(jiān)管政策、倫理規(guī)范及自律措施來應(yīng)對。例如，聯(lián)合國教科文組織于2017年發(fā)布了《機器人倫理報告》，經(jīng)合組織（OECD）于2019年發(fā)布了《OECD人工智能原則》，歐盟在同年發(fā)布了《可信賴的AI倫理指南》，中國政府也于2019年發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》；微軟、谷歌、百度、騰訊等業(yè)內(nèi)領(lǐng)軍企業(yè)都已制定了自身的AI技術(shù)開發(fā)的倫理原則，將相關(guān)風險作為高科技企業(yè)ESG實踐的一個重點領(lǐng)域來對待。

然而，這些舉措能否有效控制AI技術(shù)快速發(fā)展所帶來的重大風險？馬斯克等人的呼吁能否奏效？與馬斯克等人的呼吁形成鮮明對比的是，最近一兩個月，全球各大科技公司先后宣布了下一步的AI研究和投資計劃，一批業(yè)界知名人士紛紛投入到AI領(lǐng)域的創(chuàng)業(yè)熱潮之中，各行各業(yè)都在抓緊研究和制定類似于“ChatGPT+”的人工智能技術(shù)增強策略。面對巨大的業(yè)界競爭壓力和誘人的發(fā)展機遇，很難想象一家企業(yè)會主動暫停自身在該領(lǐng)域的研究和應(yīng)用。

從這個意義上講，政府監(jiān)管也許是必需的，但政府監(jiān)管也面臨兩大難題。

一方面，AI技術(shù)的競賽不只是發(fā)生在企業(yè)之間，也是當前大國競爭的重大前沿領(lǐng)域。鑒于該技術(shù)對經(jīng)濟發(fā)展乃至國防安全的重要性，很難想象哪個國家的政府會真正限制本國在該領(lǐng)域的技術(shù)進步，反而更有可能為其提供各類軟硬件支持，以幫助本國企業(yè)在國際競爭中脫穎而出。這意味著，類似于對核擴散的管控及應(yīng)對氣候變化的措施，對AI技術(shù)的監(jiān)管約束必須在全球范圍內(nèi)、通過國家間的合作與妥協(xié)來實現(xiàn)。然而，在當前的全球地緣政治形勢下，在這個領(lǐng)域開展實質(zhì)性國際合作的前景并不樂觀。

另一方面，即便要加強政府監(jiān)管，如何針對一個加速發(fā)展、充滿大量未知可能性、影響各行各業(yè)乃至倫理規(guī)范的技術(shù)領(lǐng)域進行有效監(jiān)管，在價值取向及利益分配方面必然存在諸多分歧。從經(jīng)濟學(xué)角度來說，要找到既能控制風險、彌補市場失靈，又不遏制技術(shù)創(chuàng)新及經(jīng)濟發(fā)展的監(jiān)管平衡點，也極其困難。

綜上所述，今后幾年，AI技術(shù)的飛速發(fā)展很可能是不可避免的，其所帶來的某些風險與挑戰(zhàn)也將迅速變?yōu)楝F(xiàn)實。尤其是對就業(yè)的沖擊，很可能在3~5年里就會非常明顯。面對這種可能性，我們需要多管齊下，政府監(jiān)管、企業(yè)自律、學(xué)術(shù)研究、個人準備都不可或缺。當務(wù)之急是要提高全社會對相關(guān)風險的認知度和關(guān)注度，將該議題提升到與應(yīng)對氣候變化、防止核擴散等重大全球風險議題相當?shù)乃剑酝苿痈骼嫦嚓P(guān)主體抓緊采取行動，以期防患于未然。從這個意義上講，即便馬斯克等人的呼吁未能阻止任何AI實驗室的研發(fā)進展，它在全球引起的廣泛關(guān)注及對公眾的啟蒙教育也意義重大。ESG投資者更要關(guān)注這一議題，利用手中的資本及其影響力，對緩解相關(guān)風險作出自己的貢獻。

（作者系海通國際首席經(jīng)濟學(xué)家）

標簽：