焦點滾動:華裔科幻作家Ted Chiang：AI會成為下一個麥肯錫嗎？

技術是一把雙刃劍，AI 也不例外，至少現在是這樣。ChatGPT、Midjourney 等 AI 工具誕生后，有人喜，有人憂。

一方面，一些傳統公司將這些 AI 工具應用到公司的實際業務中，實現了降本增效；另一方面，部分人類打工人卻因被 AI 工具替代而面臨失業的危機。

(資料圖片僅供參考)

一個值得關注的新聞是，在剛剛過去的五一勞動節期間，IBM 宣布暫緩可以被 AI 替代的崗位的招聘，而且諸如此類的事件可能越來越多。

那么，隨著 AI 變得越來越強大，各種?AI 系統也將會被越來越多地服務于各行各業，屆時，AI 是將扮演一個“資本的順從執行者”（capital’s willing executioners），還是可以真正改善人們的生活、實現一個烏托邦式的未來？

近日，華裔美國科幻小說作家?Ted Chiang（姜峯楠）在《紐約客》發文，探討了“AI 是否會成為下一個麥肯錫”的問題——這家公司為?90% 的 Fortune 100 上榜公司提供服務，被前雇員稱為資本公司用來逃避責任的“打手”。

核心觀點如下：

每當我們談論人工智能（AI）時，我們都會使用一些隱喻（metaphor），就像我們在面對新的和不熟悉的事物時所表現的那樣。

從本質上講，隱喻是不完美的，但我們依然需要謹慎地去選擇它們，因為糟糕的隱喻會讓我們犯錯誤。例如，我們經常將強大的 AI 比作童話故事中的精靈，用來強調讓強大的個體服從你的命令是非常困難的。

計算機科學家 Stuart Russell 則引用了有關 Midas 國王的寓言故事，來說明一個 AI 做你告訴它的事情而非你想要它做的事情的危險性。（Midas 獲得了“點石成金”能力，卻一度遭遇了巨大的災難。）

這個隱喻存在很多問題，其中之一是，它從指向的故事中得出了錯誤的結論。這一寓言的重點是，貪婪之心會毀掉你，一味地追求金錢會讓你失去真正重要的東西。如果你對這個寓言的解讀是，當你被答允可以實現任何一個愿望時，你應該非常謹慎地說出這一愿望，那你就錯了。

因此，我將針對 AI 可能帶來的風險提出另一個隱喻：把 AI 類比成一家管理咨詢公司，如麥肯錫（McKinsey & Company），其與 90% 的 Fortune 100 上榜公司合作。

像麥肯錫這樣的公司會因各種原因被雇用，而 AI 系統也會因各種原因被使用。而且，麥肯錫和 AI 之間的相似點非常明顯。社交媒體借助 AI 算法讓用戶沉迷于其中；類似地，普渡制藥（Purdue Pharma）曾在麥肯錫的幫助下大大增加了 OxyContin 在阿片類藥物泛濫時的銷售額。就像 AI 被認為可以為管理者提供廉價的人類勞動力替代品一樣，麥肯錫和其他類似公司也讓大規模裁員的現象更加常見。

一名前麥肯錫雇員將這家公司描述為“資本的順從執行者”（capital’s willing executioners）：如果你想做一件事，但不想弄臟自己的手，麥肯錫可以幫助你。（幫你）逃避責任，是管理咨詢公司提供的最有價值的服務之一。

老板們想要實現一些目標，但不想因為采取一些必要的行動而受到指責，通過聘請咨詢顧問，他們可以反駁說，自己只是聽取了來自第三方的專業建議。放眼現在，AI 也成為了他們逃避責任的一種方式，他們說，自己只是做了“算法”建議的事情而已。

我們需要關心的問題是：AI 變得越來越強大，我們有沒有辦法避免它成為下一個“麥肯錫”？這一問題需要從不同的角度來思考。

如果你認為 AI 是一項被廣泛使用的技術，能夠幫助公司降低成本，那問題就可以描述為：我們如何防止這一技術被用作為“資本的順從執行者”？

或者，如果你把 AI 想象成一個半自主的軟件程序，解決人類要求它解決的問題，那問題就變成了：如何防止這一軟件以讓人們生活變得更糟的方式來幫助公司？假設你已經建立了一個完全服從于人類的半自主人工智能，但它依然很容易像麥肯錫那樣給社會帶來危害。

你不能簡單地說，你將建立一個只解決你提出的問題且可以創造積極社會影響的 AI。這就相當于說，你可以通過創辦一家只提供這種解決方案的咨詢公司且能規避麥肯錫帶來的威脅。

但現實情況是，Fortune 100 公司依然會雇用麥肯錫，因為麥肯錫的解決方案能為股東們提供更多利益。建立奉行 “股東利益高于一切” 的 AI 可能永遠都是受歡迎的，大多數公司也更愿意使用這種 AI，而不是一個受你的原則約束的 AI。除了成為 “資本的順從執行者”，AI 還能做些什么？

當前，AI 大多是一種試圖分析人類行為并找到取代人類方法的努力。恰巧，這也正是一些管理層希望解決的問題。因此，AI 以犧牲人類勞動者的利益為代價被用來幫助資本。

實際上，真的沒有什么比勞動咨詢公司更能促進勞動者利益的了。AI 能否扮演這一角色呢？又是否可以做一些有利于勞動者而非管理層的事情？

有人可能會說，反對管理層并不是 AI 要做的工作。這也許是正確的，但 AI 的能力也不是用來強化資本。不幸的是，目前的情況正是如此。如果我們不能想辦法讓 AI 減少財富集中，就很難說 AI 是一種中立的技術，更無法說它是一種有益的技術了。

很多人認為，AI 會造成更多的失業，并提出了將全民基本收入（UBI）作為解決這個問題的方法。

放在其他情景下，我很喜歡 UBI 這一想法。但是，對于 AI 從業者建議用 UBI 作為解決失業問題的方法，我表示懷疑。如果我們已經有了 UBI ，情況會有所不同，但事實上我們并沒有，所以這似乎是他們把責任推給政府的一種方式。

實際上，他們正在加劇資本集中造成的問題，并期望當這些問題變得足夠糟糕時，政府將別無選擇，只能介入。作為讓世界變得更美好的戰略，這似乎值得懷疑。

有一種哲學思想是，讓事情變得更好的唯一方法是讓事情變得更糟。我認為，這是帶來一個更好的世界的方法之一，但是，如果這是 AI 行業正在采用的方法，每個人都應該清楚他們正在努力實現什么。

通過建立 AI 系統來完成之前由人類完成的工作，AI 從業者正在將財富的集中度提高到極端水平，以至于避免社會崩潰的唯一方法就是政府介入。

事實上，你不知道這件事需要多長時間才能有好轉；你能確定的是，人們會在中短期內遭受巨大的痛苦和折磨。

我不太相信 AI 會因為可能制定自己的目標并阻止我們關閉它而對人類產生威脅的說法。然而，我確實認為 AI 是危險的，因為它增加了一些人的權力。

末日情景并不是像一個著名的思想實驗所想象的那樣，一個 AI 將整個地球“變成回形針”，而是由 AI 強化的企業在追求股東利益的過程中對社會造成危害。

批評新技術的人有時被稱為盧德派（Luddites），他們抗議的主要內容是，在食品價格增加、工廠主利潤增加的同時，他們的工資卻在下降。他們還抗議不安全的工作條件，以及銷售有損整個紡織業信譽的劣質商品。

盧德派并非不加選擇地破壞機器，如果他們從工廠主那里獲得了很高的工資，就不會去破壞它。他們也不反對新技術，他們想要的是經濟上的公正。他們破壞機器是為了引起工廠主的注意。如今，“盧德派”一詞被用作侮辱他人、指責其不理性和無知，他們被惡意抹黑了。

每當看到有人指責別人是盧德派時，我們需要認真思考：被指責的人真的反對技術嗎？指責他人的人真的認為新技術可以改善人們的生活嗎？還是說，他們只是試圖增加私人資本的積累呢？

今天，我們發現自己處于這樣一種情況中：技術與資本/金錢混淆在一起，而資本/金錢又與進步的概念混淆在一起。如果你試圖批評他們，就會被指責反對技術和進步。但是，如果進步不包括改善工人的生活，那它的意義到底是什么呢？如果節省下來的錢只是流向股東的銀行賬戶，那提高效率又有什么意義呢？

我們都應該努力成為盧德派，因為我們應該更關心經濟上的公正，而不是私人資本的增加。我們希望能夠批評技術的有害使用方式，如有益于股東而有害于工人的方式，而不是被描述為技術的反對者。

一個理想化的未來是，在一百年后，沒有人會被迫從事他們不喜歡的工作，每個人都可以用自己認為的最有成就感的方式度過一生。顯然，我們還不知道如何從當前走向那個理想化的未來。

然而，在未來幾十年內，可能會出現兩種情況：一種是，管理和資本力量比現在更加強大；另一種是，勞動力比現在更加強大。哪一種情況更有可能讓我們更接近那個理想化的未來？而就當前的情況而言，AI 在幫助我們朝著哪個方向前進？

當然，有一種說法是，從長遠來看，新技術提高了我們的生活水平，彌補了它在短期內造成失業的負面影響。這一說法在工業革命后的大部分時期內都很有說服力，但在過去的半個世紀中，就不太令人信服了

在美國，人均 GDP 自 1980 年以來幾乎翻了一倍，而家庭收入的中位數卻沒有跟上這一增長趨勢。而這一時期正好發生了信息技術革命。這意味著個人電腦和互聯網創造的經濟價值大多流向了最頂層的富人群體，而并非提高美國公民的整體生活水平。

當然，如今有數以億計的人都能夠使用互聯網，而且這一技術確實令人驚嘆。但房地產價格、大學學費和醫療保健費用的增長速度卻超過了通貨膨脹。在 1980 年，一個家庭靠一份收入來養家糊口是很常見的，而現在已經很少見了。那么，在過去的四十年里，我們到底取得了多大的進步？

當然，網上購物快捷方便，在家中觀看流媒體電影也很酷，但我認為很多人愿意為了擁有自己的房子、送孩子上大學而不欠下終身債務，去醫院看病而不陷入破產危機而放棄這些便利。

收入中位數沒有跟上人均 GDP 的增長速度，不是技術的錯，而是 Milton Friedman 等人的錯，以及像前通用電氣首席執行官 Jack Welch 等人和麥肯錫這樣的咨詢公司的管理政策。

我并非把財富不平等的加劇歸咎于個人電腦的產生，我只是說，“更好的技術必然會提高人們的生活水平” 的說法已不再令人信服。

在討論 AI 可能帶來的好處時，個人電腦沒有提高收入中位數這一事實尤為重要。人們經常建議，研究人員應該專注于 AI 如何提高個體工人的生產力，而不是取代他們；這被稱為增強路徑，而不是自動化路徑。這是一個值得追求的目標，但僅憑此目標并不能改善人們的經濟狀況。

一個在個人電腦上運行的生產力軟件是增強而非自動化的典型例子是：文字處理程序取代了打字機而不是打字員，電子表格程序取代了紙質電子表格而不是會計師。但是，個人電腦所帶來的個人生產力的提高并沒有與生活水平的提高相匹配。

技術能夠提高生活水平的唯一途徑是，有適當的經濟政策來分配技術的好處。在過去的四十年中，我們沒有這些政策，除非我們能夠得到這些政策，否則沒有理由認為即將到來的 AI 進步將提高收入中位數，即使我們能夠為它設計出增強個體工人能力的方法。AI 肯定會降低勞動力成本，增加企業的利潤，但這與改善我們的生活水平完全不同。

假設一個烏托邦式的未來就在眼前，而且我們已經開發出了在那個未來使用的技術。但是，某項技術在烏托邦中有用并不意味著它現在就有用。在一個能將有毒廢物轉化為食物的烏托邦中，產生有毒廢物將不再是一個環境問題，但在當下，沒有人可以說產生有毒廢物是無害的。

一些人可能會說，產生更多的有毒廢物將加速廢物轉化為食物的發明的誕生，但這一觀點有多大的說服力呢？我們在評估技術的環境影響時，要考慮當前可用的減緩措施，而不是未來的減緩措施。

同樣地，我們不能通過想象 AI 在全民基本收入普及的世界中會有多大幫助來評估它；我們必須根據資本與勞動之間現存的不平衡來評估它，在這種情況下，AI 是一種威脅，因為它成為了 “資本的順從執行者”。

一位前麥肯錫合伙人為該公司的行動辯護說：“我們不參與政策制定，我們只負責執行。”但這是一個顯得十分蒼白的借口；當咨詢公司或新技術提供執行方法時，更有可能做出有害的政策決定。

當前正在開發的一些 AI 系統會讓公司有更多的裁員，有沒有可能開發一種使裁員變得更困難的 AI 呢？要么增加政府監管，要么賦予工會或工人更多權力。

1976 年，英國伯明翰的 Lucas Aerospace 公司的工人面臨因國防開支削減而被解雇的困境。作為回應，車間工會代表們制定了一份被稱為“Lucas Plan”的文件，描述了透析機、風力渦輪機和混合動力汽車發動機等 150 種“對社會有用的產品”，這些產品可以利用那時的技能和設備由工人來生產。盡管 Lucas Aerospace 的管理層最終拒絕了這個提議，但它仍然是一個工人試圖將資本主義引向更人性化方向的著名案例。當然，類似的事情在現代計算技術中也一定是可能的。

作為個人，你能做些什么？如果你在 Frito-Lay 公司擔任食品科學家，而你的工作任務是發明新口味的土豆片，我不會說你有道德義務辭職，因為你在推動消費主義。你在運用作為食品科學家的專業知識為顧客提供愉悅的體驗，這是一種完全合理的謀生方式。

但是，許多從事 AI 工作的人認為，AI 比發明新薯片口味更重要。他們稱其為一項能夠改變世界的技術。如果是這樣，那么他們有責任找到讓 AI 在不先讓世界變得更糟的情況下改善世界的方法。除了將我們推向社會崩潰的邊緣，AI 可以改善我們世界的不公平現象嗎？如果 AI 像其支持者聲稱的那樣是一個強大的工具，除了加劇資本聚集之外，他們應該能夠找到其他用途。

如果說我們應該從有關精靈的童話故事中吸取什么教訓的話，那就是不努力就想得到某些東西的愿望才是真正的問題。

想想《魔法師的學徒》的故事，學徒施法讓掃帚運水，但無法讓它們停下來。這個故事的教訓并不是說魔法是無法控制的：在故事的結尾，巫師回來后立即擺平了學徒所造成的混亂。真正的教訓是，你不能逃避做艱苦的工作。學徒想逃避他的雜務，而尋找捷徑就是讓他陷入困境的原因。

將 AI 視為一個“神奇的問題解決者”的傾向表明，人們想要逃避建設一個更好的世界所需的艱苦工作。這項艱苦的工作將涉及解決財富不平等和馴服資本主義等問題。

對于技術專家來說，最艱難的工作——他們最想避免的任務——將是質疑更多的技術總是更好的假設，以及他們可以繼續照常工作，一切都會自行解決的信念。

沒有人喜歡思考自己在世界不公正中的責任，但對于那些正在構建顛覆性技術的人們來說，進行這種關鍵的自我審視是必要的。他們是否愿意堅定地審視自己在系統中的角色，將決定 AI 是催生一個更好的世界，還是一個更壞的世界。?

標簽：