原標(biāo)題：專訪｜麻省理工教授：擔(dān)心AI成為將財(cái)富和權(quán)力轉(zhuǎn)移至少數(shù)科技企業(yè)家的工具
澎湃新聞?dòng)浾?陳沁涵
參考消息網(wǎng)6月15日援引美國(guó)有線電視新聞網(wǎng)（CNN）報(bào)道，蘋果公司13日超越微軟，成為美國(guó)市值最高的上市公司。上周該公司在其一年一度的全球開發(fā)者大會(huì)上宣布了包括iPhone的生成式人工智能功能在內(nèi)的一系列消息，其股價(jià)因此一路攀升。
蘋果、英偉達(dá)、微軟，一直在激烈爭(zhēng)奪全球最有價(jià)值公司的寶座。蘋果公司在重新定義了“AI”一一蘋果智能（Apple Intelligence）后，市值反超因AI芯片而身價(jià)暴漲的英偉達(dá)，又一路趕超微軟，重奪第一。當(dāng)前蘋果的市值為3.29萬(wàn)億美元，略高于微軟的3.28萬(wàn)億美元。生成式人工智能成為推動(dòng)三大科技巨頭市值上漲的核心動(dòng)力。
面對(duì)這股AI熱潮，美國(guó)國(guó)家經(jīng)濟(jì)研究局近期發(fā)布了一篇由麻省理工學(xué)院教授達(dá)龍·阿西莫格魯（Daron Acemoglu）撰寫的論文，指出未來(lái)人工智能（AI）進(jìn)步帶來(lái)的生產(chǎn)力提升可能并不大，預(yù)估今后十年AI對(duì)全要素生產(chǎn)率（TFP）的增長(zhǎng)上限不超過0.66%。
阿西莫格魯在文中指出，生成式人工智能是一項(xiàng)很有前途的技術(shù)，但除非行業(yè)進(jìn)行根本性的重新定位，包括對(duì)生成式人工智能模型（例如大語(yǔ)言模型LLMs）的架構(gòu)進(jìn)行重大改變，以專注于可靠的信息，來(lái)提高各行業(yè)工人的邊際生產(chǎn)力，而不是優(yōu)先考慮開發(fā)通用的、類似人類的對(duì)話工具。
圍繞人工智能對(duì)生產(chǎn)力和經(jīng)濟(jì)增長(zhǎng)的一些過度樂觀預(yù)測(cè)，阿西莫格魯持懷疑態(tài)度。他作為一名出生在土耳其的美國(guó)經(jīng)濟(jì)學(xué)家，以其政治經(jīng)濟(jì)學(xué)方面的研究而聞名，并且長(zhǎng)期關(guān)注政治經(jīng)濟(jì)學(xué)和技術(shù)變革之間的相互作用。
《權(quán)力與進(jìn)步》（Power and Progress）
去年，他與英裔美國(guó)經(jīng)濟(jì)學(xué)家西蒙·約翰遜合著了一本新書《權(quán)力與進(jìn)步》（Power and Progress），談到了可能顛覆人類社會(huì)的AI革命，他們認(rèn)為目前AI發(fā)展已誤入歧途，許多算法的設(shè)計(jì)是盡可能地取代人類，“但技術(shù)上取得進(jìn)步的方式是讓機(jī)器對(duì)人類有用，而不是取代人類”。
Open AI首席技術(shù)官米拉·穆拉蒂（Mira Murati）在5月的一場(chǎng)活動(dòng)上，就開發(fā)通用人工智能（AGI）的爭(zhēng)議表示，他們不僅專注于增強(qiáng)模型的功能和實(shí)用性，同樣著力于確保其安全，使之與人類的價(jià)值觀保持一致，不會(huì)陷入失控，從而創(chuàng)建造福人類的 AGI。
隨著我越深入研究AI的能力和發(fā)展方向，越確信它當(dāng)前的發(fā)展軌跡正在重復(fù)并加劇過去幾十年最糟糕的一些技術(shù)性錯(cuò)誤?！卑⑽髂耵斀淌诮战邮芘炫刃侣劊╳ww.thepaper.cn）專訪時(shí)談到，AI領(lǐng)域的大多數(shù)頭部玩家都是由不切實(shí)際且危險(xiǎn)的夢(mèng)想驅(qū)動(dòng)，即實(shí)現(xiàn)通用人工智能的夢(mèng)想，“這是將機(jī)器和算法置于人類之上”。
一些分析人士將阿西莫格魯視為AI悲觀主義者。他回應(yīng)澎湃新聞稱，作為一個(gè)社會(huì)科學(xué)家，會(huì)更加關(guān)注一些負(fù)面的社會(huì)影響。
阿西莫格魯常常和身為麻省理工學(xué)院電子工程和計(jì)算機(jī)科學(xué)系負(fù)責(zé)人的妻子奧茲達(dá)格拉爾（Asu Ozdaglar）教授一起工作。雖然領(lǐng)域不同，但夫妻倆對(duì)于AI發(fā)展的看法在大方向上是一致的，不過阿西莫格魯也坦言，他的想法可能比妻子更加悲觀。
隨著人工智能商業(yè)化的競(jìng)速，AI大模型百舸爭(zhēng)流，但毫無(wú)疑問，像Open AI 、微軟、谷歌、英偉達(dá)等科技巨頭已經(jīng)搶占了AI發(fā)展的先機(jī)。阿西莫格魯說，他非常擔(dān)心AI成為將財(cái)富和權(quán)力從普通人轉(zhuǎn)移到一小群科技企業(yè)家的方式，現(xiàn)在我們看到的“不平等”是“煤礦里的金絲雀”。
以下為專訪全文：
技術(shù)與社會(huì)：最大的資產(chǎn)是人
澎湃新聞：您的研究涵蓋了政治經(jīng)濟(jì)學(xué)、技術(shù)變革、不平等等多個(gè)領(lǐng)域。在怎樣的背景和契機(jī)之下，您開始關(guān)注技術(shù)發(fā)展對(duì)不平等的作用？您最初對(duì)技術(shù)發(fā)展的看法是什么，又如何演變?yōu)楝F(xiàn)在所主張的“當(dāng)前人工智能的發(fā)展路徑既不利于經(jīng)濟(jì)也不利于民主”？
阿西莫格魯：我的許多研究集中在政治經(jīng)濟(jì)學(xué)和技術(shù)變革之間的相互作用，這是塑造我們能力和成長(zhǎng)機(jī)遇的兩大力量，同時(shí)也在影響我們的政治和經(jīng)濟(jì)選擇。
AI已經(jīng)成為這個(gè)時(shí)代最重要的技術(shù)，一方面因?yàn)樗舜罅康年P(guān)注和投資，另一方面因?yàn)樗〉昧艘恍┮瞬毮康倪M(jìn)步，尤其是隨著GPU性能的提高。還有部分原因是AI無(wú)處不在的影響。這些因素促使我在這一領(lǐng)域進(jìn)行研究。
隨著我越深入研究AI的能力和發(fā)展方向，越確信它當(dāng)前的發(fā)展軌跡正在重復(fù)并加劇過去幾十年最糟糕的一些技術(shù)性錯(cuò)誤——過分強(qiáng)調(diào)自動(dòng)化，就像我們優(yōu)先考慮自動(dòng)化和其他數(shù)字技術(shù)，而沒有為創(chuàng)造新任務(wù)進(jìn)行充足的投資；以及社交平臺(tái)試圖利用人們的數(shù)據(jù)和興趣盈利，因此犯下的所有錯(cuò)誤。
我還特別關(guān)注這樣一個(gè)事實(shí)，AI領(lǐng)域的大多數(shù)頭部玩家都是由不切實(shí)際且危險(xiǎn)的夢(mèng)想驅(qū)動(dòng)，即實(shí)現(xiàn)通用人工智能的夢(mèng)想，這是將機(jī)器和算法置于人類之上，也通常是這些頭部玩家凌駕于其他人的一種方式。
澎湃新聞：先進(jìn)的計(jì)算機(jī)技術(shù)和互聯(lián)網(wǎng)讓許多富翁實(shí)現(xiàn)了財(cái)富轉(zhuǎn)移，并使科技巨頭空前強(qiáng)大。盡管如此，我們依然接受這樣的技術(shù)革新，因?yàn)樗矌?lái)了積極的影響。技術(shù)變革有利有弊，從歷史來(lái)看社會(huì)總能找到適應(yīng)新技術(shù)的方式。新一輪科技浪潮席卷而來(lái)，您為什么認(rèn)為不平等問題特別令人擔(dān)憂？
阿西莫格魯：當(dāng)談及社交平臺(tái)和人工智能時(shí)，我同意上述說法，但是涉及互聯(lián)網(wǎng)情況就不同了，我有不同的意見。我認(rèn)為互聯(lián)網(wǎng)在某些方面使用不當(dāng)，當(dāng)然也不否認(rèn)互聯(lián)網(wǎng)是一項(xiàng)非常有益的技術(shù)，在達(dá)成人與人的聯(lián)通、向人們提供信息以及為創(chuàng)造新服務(wù)和平臺(tái)方面，它發(fā)揮了非常重要的作用。
對(duì)于人工智能，我非常擔(dān)心它成為將財(cái)富和權(quán)力從普通人轉(zhuǎn)移到一小群科技企業(yè)家的方式。問題是我們沒有任何必要的控制機(jī)制以確保普通人從AI中獲利，比如強(qiáng)有力的監(jiān)管、工人參與、公民社會(huì)和民主監(jiān)督。我們看到的“不平等”是“煤礦里的金絲雀”，意味著更糟糕的事即將到來(lái)。
澎湃新聞: 您指出自動(dòng)化造成的不平等是“企業(yè)和社會(huì)在選擇如何使用技術(shù)后導(dǎo)致的結(jié)果”。隨著科技巨頭市場(chǎng)能力和影響力壯大甚至可能失控，我們應(yīng)對(duì)的關(guān)鍵是什么？如果您擔(dān)任一家大型科技公司的CEO，會(huì)如何利用AI來(lái)管理這家公司？
阿西莫格魯：我對(duì)CEO們的建議是，要意識(shí)到他們最大的資產(chǎn)是工人，與其專注于削減成本，應(yīng)該尋找提高工人的生產(chǎn)力、能力和影響力的方法。這表明要使用新技術(shù)為工人創(chuàng)造新的任務(wù)、開拓新的能力。當(dāng)然，自動(dòng)化是有益的，我們也必然會(huì)在未來(lái)更多地應(yīng)用自動(dòng)化，但這不是為了提高生產(chǎn)力所唯一能做的，自動(dòng)化也不應(yīng)該是CEO們唯一追求和優(yōu)先考慮的事情。
OpenAI、微軟 IC 資料圖
澎湃新聞：美國(guó)反壟斷執(zhí)法者已經(jīng)公開表達(dá)了對(duì)人工智能的一系列擔(dān)憂，美國(guó)司法部和聯(lián)邦貿(mào)易委員會(huì)據(jù)稱達(dá)成了一項(xiàng)協(xié)議，為微軟、OpenAI和英偉達(dá)的反壟斷調(diào)查鋪平了道路。這種針對(duì)大型科技公司的反壟斷行動(dòng)是否能真正地增加市場(chǎng)競(jìng)爭(zhēng)并避免AI發(fā)展被少數(shù)公司所主導(dǎo)？
阿西莫格魯：絕對(duì)能夠起到作用，反壟斷很重要，科技行業(yè)一些問題的根源在于美國(guó)缺乏反壟斷執(zhí)法。五大科技公司都在他們所在的領(lǐng)域確立了牢固的壟斷地位，因?yàn)樗麄兡軌蛟跊]有任何監(jiān)管的情況下收購(gòu)潛在的競(jìng)爭(zhēng)對(duì)手。在某些情況下，他們?yōu)榱遂柟虊艛嗟匚?，?gòu)買并停用了可能與他們構(gòu)成競(jìng)爭(zhēng)的技術(shù)，我們絕對(duì)需要反壟斷，以打破大型科技公司的政治力量，這種力量在過去三十年變得非常強(qiáng)大。
但我也想強(qiáng)調(diào)，僅僅反壟斷是不夠的，我們更需要將技術(shù)重新引導(dǎo)到對(duì)社會(huì)有益的方向。如果僅僅將Meta拆分為Facebook、Instagram和WhatsApp，是不可能實(shí)現(xiàn)（增加市場(chǎng)競(jìng)爭(zhēng)和避免少數(shù)公司主導(dǎo)AI發(fā)展）。在AI領(lǐng)域，如果擔(dān)心AI技術(shù)被用于操縱、監(jiān)視或其他惡意目的，反壟斷本身不會(huì)是解決方案，反壟斷必須與更廣泛的監(jiān)管議程相結(jié)合。
技術(shù)與人：如何避免重蹈覆轍
澎湃新聞：您一直強(qiáng)調(diào)“機(jī)器有用性”（machine usefulness），即 “試圖讓機(jī)器對(duì)人類更有利”。您認(rèn)為應(yīng)該如何實(shí)現(xiàn)這一目標(biāo)？無(wú)法達(dá)成這樣的目標(biāo)會(huì)出現(xiàn)什么后果？
阿西莫格魯：這與上述給CEO們的建議有關(guān)。我們想要的是能夠拓展人類能力的機(jī)器，就AI而言，有很大的可能性達(dá)成這一點(diǎn)。AI是一種信息技術(shù)，所以我們應(yīng)該考慮什么樣的AI工具可以為人類決策者提供有用、情境依賴的即時(shí)信息，可以利用AI工具使人類成為更好的問題解決者，能夠執(zhí)行更復(fù)雜的任務(wù)。這不僅僅是針對(duì)創(chuàng)意工作者、學(xué)者或記者，對(duì)于藍(lán)領(lǐng)工人、電工、水管工、醫(yī)療保健工作者以及所有其他職業(yè)都是如此。更好地獲取信息可以推動(dòng)產(chǎn)生更明智的決策和執(zhí)行更高層次的任務(wù)，這就是機(jī)器有用性的意義所在。
澎湃新聞：您建議對(duì)工人勞動(dòng)給予公平的稅收待遇。對(duì)設(shè)備和軟件像對(duì)待人類雇員一樣征稅，或者進(jìn)行稅收改革以鼓勵(lì)就業(yè)而不是自動(dòng)化，這些是實(shí)際可行的解決方案嗎？
阿西莫格魯：是的，我與西蒙·約翰遜在《權(quán)力與進(jìn)步》中共同提出，一個(gè)更公平的稅收制度可以作為解決方案的一部分。在美國(guó)，在企業(yè)雇傭勞動(dòng)力時(shí)面臨的邊際稅率超過30%。當(dāng)他們使用計(jì)算機(jī)設(shè)備或其他機(jī)械執(zhí)行相同任務(wù)時(shí)，稅率不到5%，這就為自動(dòng)化提供了過度的激勵(lì)，同時(shí)阻礙了就業(yè)和對(duì)培訓(xùn)及人力資本的投資。將資本和勞動(dòng)力的邊際稅率統(tǒng)一到相同水平是一個(gè)合理的政策想法。
澎湃新聞：您提議進(jìn)行稅收改革，以獎(jiǎng)勵(lì)就業(yè)而不是自動(dòng)化。這樣的改革將如何影響企業(yè)對(duì)自動(dòng)化技術(shù)的應(yīng)用和投資？
阿西莫格魯：在這方面必須要謹(jǐn)慎，不要打擊投資，特別是在許多國(guó)家需要快速增長(zhǎng)，需要在可再生能源和醫(yī)療保健技術(shù)等領(lǐng)域注入新的投資。但如果我們能鼓勵(lì)技術(shù)以正確的方式發(fā)展，這對(duì)企業(yè)也是有好處的。因此我的提議是消除對(duì)自動(dòng)化的過度激勵(lì)，并希望它能以一種不會(huì)普遍打擊商業(yè)投資的方式實(shí)現(xiàn)。
英偉達(dá) IC 資料圖
澎湃新聞：社交平臺(tái)的快速發(fā)展帶來(lái)了一些負(fù)面的影響，例如信息泡沫和錯(cuò)誤信息的傳播。您認(rèn)為我們?nèi)绾伪苊庠谌斯ぶ悄艿倪M(jìn)一步發(fā)展中重復(fù)同樣的錯(cuò)誤？
阿西莫格魯：有三個(gè)原則有助于避免重蹈覆轍：（1）優(yōu)先考慮機(jī)器有用性，正如我主張的那樣；（2）賦予工人和公民權(quán)力，而不是試圖操縱他們；（3）引入一個(gè)更好的監(jiān)管框架，讓科技公司承擔(dān)責(zé)任。
技術(shù)與行業(yè)：數(shù)字廣告稅讓行業(yè)更具競(jìng)爭(zhēng)力
澎湃新聞：技術(shù)專家賈倫·拉尼爾強(qiáng)調(diào)互聯(lián)網(wǎng)用戶的數(shù)據(jù)所有權(quán)問題。您認(rèn)為在政策上，個(gè)人數(shù)據(jù)的所有權(quán)和控制應(yīng)該如何得到更好的保護(hù)？
阿西莫格魯：我認(rèn)為這是一個(gè)重要的方向。首先，我們將需要越來(lái)越多的高質(zhì)量數(shù)據(jù)，而生產(chǎn)這些數(shù)據(jù)的最佳方式是通過獎(jiǎng)勵(lì)創(chuàng)造高質(zhì)量數(shù)據(jù)的人，數(shù)據(jù)市場(chǎng)可以實(shí)現(xiàn)這一點(diǎn)。第二，數(shù)據(jù)目前正被科技公司掠奪，這不公平也不高效。
然而，關(guān)鍵在于數(shù)據(jù)市場(chǎng)并不像水果市場(chǎng)那樣，我的數(shù)據(jù)通常可以高度替代你的數(shù)據(jù)，所以如果科技公司可以與個(gè)人談判購(gòu)買他們的數(shù)據(jù)，就會(huì)出現(xiàn)“逐底競(jìng)爭(zhēng)”（race to the bottom），這樣做的行政成本會(huì)非常高。所以我認(rèn)為，運(yùn)行良好的數(shù)據(jù)市場(chǎng)需要某種形式的集體數(shù)據(jù)所有權(quán)，可以是數(shù)據(jù)工會(huì)或數(shù)據(jù)行業(yè)協(xié)會(huì)，或其他集體組織的形式。
澎湃新聞：您怎么看引入數(shù)字廣告稅以限制由算法驅(qū)動(dòng)的錯(cuò)誤信息進(jìn)行盈利？這樣的稅收政策可能對(duì)數(shù)字廣告行業(yè)和信息傳播產(chǎn)生什么影響？
阿西莫格魯：我支持?jǐn)?shù)字廣告稅，因?yàn)榛跀?shù)字廣告的商業(yè)模式極具操縱性，它們與創(chuàng)造情感憤怒、數(shù)字成癮、極端嫉妒和信息繭房的策略是協(xié)同的。它們也能與利用個(gè)人數(shù)據(jù)的商業(yè)模式相協(xié)同，會(huì)導(dǎo)致心理健康問題、社會(huì)兩極分化、民主公民減少等負(fù)面后果。
更糟糕的是，如果要像我建議的那樣重新制定AI的發(fā)展方向，我們需要引入新的商業(yè)模式和新平臺(tái)，但如今基于數(shù)字廣告的商業(yè)模式使之失去了可能性。你無(wú)法基于用戶訂閱啟動(dòng)一個(gè)新的社交平臺(tái)，無(wú)法復(fù)制維基百科的成功，因?yàn)槟惴磳?duì)那種提供免費(fèi)服務(wù)并擁有大量客戶基礎(chǔ)的公司。所以，我將數(shù)字廣告稅視為使科技行業(yè)更具競(jìng)爭(zhēng)力的一種方式：獲取用戶數(shù)據(jù)并通過數(shù)字廣告盈利的“低級(jí)手段”如果能夠被遏制，就會(huì)涌現(xiàn)新的商業(yè)模式和更多樣化的產(chǎn)品。
澎湃新聞：能否分享一些您所認(rèn)為的未來(lái)技術(shù)發(fā)展可能帶來(lái)的積極變化，以及我們應(yīng)該如何準(zhǔn)備并推動(dòng)這些變化？
阿西莫格魯：如果我們正確使用人工智能，可以提高各行各業(yè)工人的職業(yè)技能，也可以改進(jìn)科學(xué)發(fā)現(xiàn)的過程。我還認(rèn)為有一些方法能夠民主地使用AI。