作者 | 南風(fēng)窗記者 朱秋雨
編輯 | 向由
10月8日，2024年物理學(xué)獎(jiǎng)花落兩位“冷門學(xué)者”：91歲高齡的約翰·霍普菲爾德（John Hopfield）和77歲的杰弗里·辛頓（Geoffrey Hinton）。
這是令人意外的一次頒獎(jiǎng)。畢竟，數(shù)個(gè)諾獎(jiǎng)?lì)A(yù)測都相信，物理獎(jiǎng)應(yīng)該是天體物理、粒子物理、應(yīng)用物理、量子物理、凝聚態(tài)物理、經(jīng)典物理、原子分子和光物理七大類中的一個(gè)。諾貝爾物理學(xué)獎(jiǎng)不應(yīng)是兩個(gè)研究機(jī)器學(xué)習(xí)（Machine Learning）、掀開當(dāng)前人工智能（AI）革命的大師與教父。
被稱為“AI教父”的辛頓自己沒有想到，一個(gè)身體不好，坐不了飛機(jī)，三任妻子都死于癌癥的男人，會(huì)收到諾貝爾物理學(xué)獎(jiǎng)獲獎(jiǎng)的通知電話。
10月8日，在瑞典斯德哥爾摩舉行的2024年諾貝爾物理學(xué)獎(jiǎng)公布現(xiàn)場/新華社記者 彭子洋 攝
而仔細(xì)查看他們的研究會(huì)發(fā)現(xiàn)，在終其一生的思索里，他們都在試圖用數(shù)學(xué)系統(tǒng)發(fā)明計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)，模擬人類大腦工作。人腦有100萬億個(gè)神經(jīng)元連接，隨時(shí)隨地在互動(dòng)與發(fā)射信號(hào)，像深海般充滿奧秘。要想實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的野心，他們不可避免地運(yùn)用物理、生物、心理學(xué)等領(lǐng)域的知識(shí)與靈感。
于是，1980年代，兩個(gè)跨學(xué)科的天才都提出了令21世紀(jì)驚嘆的發(fā)現(xiàn)：約翰·霍普菲爾德運(yùn)用物理學(xué)原子自旋原理，發(fā)明了一種得以保存記憶的神經(jīng)網(wǎng)絡(luò)。后人以他的名字命名，Hopfield神經(jīng)網(wǎng)絡(luò)。
至于教父辛頓，他以Hopfield網(wǎng)絡(luò)為基礎(chǔ)，開發(fā)了一種新的神經(jīng)網(wǎng)絡(luò)：玻爾茲曼機(jī)（Boltzmann machine）。這個(gè)晦澀的新詞，靈感同樣來源于物理學(xué)——奧地利物理學(xué)家路德維?！げ柶澛倌昵疤岢龅睦碚?，涉及一個(gè)與AI完全無關(guān)的現(xiàn)象（加熱氣體中粒子的平衡）。
科學(xué)的突破與發(fā)現(xiàn)并非一蹴而就。人工智能在過往30多年發(fā)展起起伏伏，充滿嘈雜聲響，信念不斷被推倒又重建。以辛頓為代表的AI學(xué)者，用他們的人生證明：有時(shí)候，成功來源于走在前方無人小徑時(shí)，最大程度地堅(jiān)持自我。
處處碰壁的天才
77歲的杰弗里·辛頓，隨著ChatGPT等大模型的火爆，在近年越來越名聲大噪。他早已是圖靈獎(jiǎng)得主，密集地接受各方采訪。
不過，說的內(nèi)容并非所有人都愛聽。就像那位不茍言笑的核物理專家奧本海默，他張口閉口說AI可能對(duì)人類的威脅，強(qiáng)大的超級(jí)人工智能會(huì)讓人類進(jìn)入末世，仿佛這個(gè)工具是別人發(fā)明的一樣。
杰弗里·辛頓
除了這種看似知識(shí)分子的反思與懺悔，真正接觸過辛頓的記者，都在回頭書寫時(shí)記錄下了對(duì)他的印象：身體不好。從2005年開始，辛頓的腰背部出現(xiàn)問題。他開始很難坐立，不敢搭乘飛機(jī)出行，平時(shí)辦公也是站著的。遇上商務(wù)宴席，他也不能坐在椅子上，而是選擇雙腿跪在地上，經(jīng)常換來服務(wù)員奇怪的眼光。
他曾形容自己破爛的身體：“我每天都很煎熬，情況發(fā)展到了可能會(huì)癱瘓的地步，所以我很認(rèn)真地對(duì)待這件事。如果我能完全控制自己的生活，它就不會(huì)帶來任何問題?！?/p>
失去控制總是讓人心生絕望，但在辛頓的人生里，他從來都是與缺乏確定性、無法受控的事情相伴。1947年，辛頓出生在英國一個(gè)科學(xué)家和教授世家，父親是研究甲蟲的劍橋生物學(xué)家。他的親戚們還包括《牛虻》的作者艾捷爾·伏尼契；“中國人的好朋友”、寫中國土地革命《翻身》的作者韓??；參加曼哈頓計(jì)劃的女核物理學(xué)家寒春……
而在十幾歲時(shí)，早慧的辛頓已經(jīng)遇上了促使他思考一生的命題。他回憶，那是高中時(shí)期，一位朋友問他，“你知道嗎？大腦的記憶并不是儲(chǔ)存在某個(gè)特定的地方，而是分布在整個(gè)大腦，在整個(gè)神經(jīng)網(wǎng)絡(luò)里傳播，就像全息圖一樣工作?！彼麖拇碎_始對(duì)人腦機(jī)制產(chǎn)生了濃厚興趣。
大學(xué)期間，因?yàn)檫@個(gè)問題，辛頓曾學(xué)過5個(gè)專業(yè)，先是數(shù)、理、化，大二時(shí)又學(xué)了哲學(xué)、建筑學(xué)，后來又攻讀了心理學(xué)。四年大學(xué)讓他發(fā)現(xiàn)，所有的這些學(xué)科都無法解答人腦神經(jīng)元如何連接并工作的奧秘。最終，畢業(yè)后的辛頓選擇當(dāng)一名木匠。
當(dāng)木匠可以讓人收獲平靜，這是他高中時(shí)期最高興的活。只是，這位天真的知識(shí)分子也發(fā)現(xiàn)，沒有內(nèi)耗的活往往匹配較低的薪水，他不適合用此謀生。這段日子里，一到周末，他就到圖書館自學(xué)大腦工作原理。
1972年，他再度“轉(zhuǎn)行”。憑借發(fā)表論文，他到愛丁堡大學(xué)就讀人工智能學(xué)的博士——又是一個(gè)全新的領(lǐng)域。
盡管他不熟悉計(jì)算機(jī)科學(xué)，辛頓卻有著自己的直覺和信念。不巧的是，此時(shí)正值人工智能的寒冬，人們從過往對(duì)AI的極度樂觀，到被冰冷的現(xiàn)實(shí)鞭打至谷底。1971年，英國政府進(jìn)行了一項(xiàng)人工智能進(jìn)展的研究，結(jié)果顯示，“大多數(shù)人工智能研究和相關(guān)工作人員承認(rèn)，他們對(duì)過去25年取得的成就感到非常失望”。
報(bào)告稱：“迄今為止，AI在任何地方取得的成果，都沒有實(shí)現(xiàn)它當(dāng)初承諾的重大影響?！?/p>
圖源：八斤制圖
令人沮喪的結(jié)果并非致命的，更大的問題是，在當(dāng)時(shí)人工智能界，人們開始廣泛地懷疑從前的信念，即運(yùn)用模擬人腦的神經(jīng)網(wǎng)絡(luò)，進(jìn)行機(jī)器學(xué)習(xí)（神經(jīng)網(wǎng)絡(luò)只是眾多機(jī)器學(xué)習(xí)算法和模型的一種）。
最著名的論斷來自于當(dāng)時(shí)的“人工智能之父”馬文·明斯基。他對(duì)模擬人腦的“聯(lián)結(jié)主義”派表示公開懷疑，認(rèn)為計(jì)算機(jī)如果要擁有人類智能，必須用屬于計(jì)算機(jī)的方式來實(shí)現(xiàn)。1969年，他為此專門寫了一本書，寫道，“多層感知機(jī)（1960年代的一種神經(jīng)網(wǎng)絡(luò)）不會(huì)有發(fā)展前景，因?yàn)槭澜缟蠜]人可以將多層感知機(jī)訓(xùn)練得足夠好，哪怕是令它可以學(xué)會(huì)最簡單的函數(shù)方法?！?/p>
明斯基的論斷解釋了AI為何過去失敗了，也讓人們重新?lián)肀Я诵碌脑妇啊?hào)人工智能。1972年，連辛頓的博士導(dǎo)師朗吉特·希金斯都被明斯基的理論說服了。他開始勸說自己的學(xué)生，換一個(gè)有前途的方向吧，別做神經(jīng)網(wǎng)絡(luò)了。
辛頓回憶：“我們每周見一次面，有時(shí)會(huì)以一場大喊大叫的爭論結(jié)束?！?/p>
《我，機(jī)器人》劇照
博士期間，他的研究方向始終與導(dǎo)師期望的背道而馳。辛頓說，他認(rèn)可明斯基指出的神經(jīng)網(wǎng)絡(luò)的缺陷，但與多數(shù)人的選擇不同，他想繼續(xù)往“有缺陷的方向”前進(jìn)，完善前人指出的漏洞。
至于他能這么做的原因，辛頓回憶，這可能是源于他從小在宗教學(xué)校上學(xué)，卻是全班唯一不信仰宗教的人?！斑@對(duì)科學(xué)家是一種很好的訓(xùn)練，讓你對(duì)自己的觀點(diǎn)充滿信心。每個(gè)人都可能是錯(cuò)的，你需要堅(jiān)持自己的主張，直到實(shí)現(xiàn)它或者（徹底）否定它。做科學(xué)就需要這樣的精神?！?/p>
交叉學(xué)科的力量
固執(zhí)的辛頓在1978年順利博士畢業(yè)。當(dāng)時(shí)的學(xué)者也沒預(yù)料到，他的堅(jiān)持從此掀開了人工智能深度學(xué)習(xí)革命，并讓21世紀(jì)的各大巨頭爭相進(jìn)行科技軍備競賽。
那時(shí)博士畢業(yè)后，孤獨(dú)的辛頓漂至了美國，總算在加州大學(xué)圣迭戈分校找到了一些志同道合的人士。他們有的來自神經(jīng)生物學(xué)，有的像辛頓一樣來自認(rèn)知科學(xué)系，重要的是，他們分享著對(duì)聯(lián)結(jié)主義的信仰，相信用計(jì)算機(jī)多層神經(jīng)網(wǎng)絡(luò)可以模擬人類大腦的演算方式。最終，機(jī)器也可以像蹣跚學(xué)步的孩子一樣自我學(xué)習(xí)和進(jìn)步，擁有推理能力。
看上去像天方夜譚的野心，卻在當(dāng)時(shí)被一群人真情實(shí)意地相信著。1982年，加州理工學(xué)院教授霍普菲爾德率先開發(fā)了一種神經(jīng)網(wǎng)絡(luò)，用于模擬大腦如何相互作用并產(chǎn)生穩(wěn)定記憶。
霍普菲爾德獲獎(jiǎng)后的第一張照片
這個(gè)神經(jīng)網(wǎng)絡(luò)的構(gòu)建，也汲取了人類大腦的工作智慧。霍普菲爾德曾回憶，促使他走向這條道路的是一次受邀參加神經(jīng)科學(xué)的會(huì)議。會(huì)議內(nèi)容令他著迷，并讓他開始思考神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)特性。
人腦的運(yùn)作好比需要集體演奏的交響曲，只有當(dāng)神經(jīng)元共同作用時(shí)，它們才能產(chǎn)生新的、強(qiáng)大的特性。“如果你只關(guān)注網(wǎng)絡(luò)中的每一個(gè)獨(dú)立神經(jīng)元，是很難察覺這些特性的?！彼f。
擁有物理學(xué)背景的霍普菲爾德，開始想到原子自旋而產(chǎn)生的特性。這一特性使每個(gè)原子都成為了一個(gè)微小的磁鐵。相鄰原子的自旋會(huì)相互影響，自旋方向一致的區(qū)域得以形成。
運(yùn)用自旋特性，霍普菲爾德成功構(gòu)建了有節(jié)點(diǎn)和連接的神經(jīng)網(wǎng)絡(luò)，并以能量函數(shù)作為表達(dá)。大致實(shí)現(xiàn)原理類似于人類的聯(lián)想記憶。比如，如果神經(jīng)網(wǎng)絡(luò)接收到不完整或稍有失真的模式時(shí)，該方法能夠通過能量的原理，找到與之最相近的已存儲(chǔ)模式。
霍普菲爾德的模型示意圖。首先讓分子體系記住右下角的圖像（字母“J”）。此時(shí)，如果將分子體系的狀態(tài)改成右上角的圖，那么每個(gè)分子會(huì)按照既定的規(guī)則更改自身的能量，最終使得整體重新回到右下角的圖像
記憶、存儲(chǔ)、重現(xiàn)信息，這是霍普菲爾德神經(jīng)網(wǎng)絡(luò)的進(jìn)步，也被后人視為聯(lián)結(jié)主義復(fù)興的標(biāo)志。更年輕的辛頓也深受影響和鼓舞。
1986年，辛頓與兩名學(xué)者共同發(fā)表了一篇題為“通過反向傳播誤差來學(xué)習(xí)”的論文，成為了當(dāng)代機(jī)器深度學(xué)習(xí)的奠基之作。
所謂的反向傳播，實(shí)際是一個(gè)基于微分的算法。需要指出的是，1980年代的研究重點(diǎn)與上世紀(jì)60年代已經(jīng)截然不同：1960年代的神經(jīng)網(wǎng)絡(luò)是一個(gè)單層網(wǎng)絡(luò)，而吸取了明斯基教訓(xùn)的科學(xué)家們?cè)?0年后，希望建立的是有多層結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)。
他們相信，只要研究人員能夠建立一個(gè)多層的網(wǎng)絡(luò)，每一層都向下一層提供信息，這個(gè)系統(tǒng)就可以學(xué)習(xí)過去無法理解的復(fù)雜圖形。換句話說，一個(gè)更像大腦的系統(tǒng)就會(huì)出現(xiàn)。
這個(gè)過程變成了解出嵌套函數(shù)的數(shù)學(xué)問題。如果要訓(xùn)練一個(gè)符合現(xiàn)實(shí)的神經(jīng)網(wǎng)絡(luò)，科學(xué)家們發(fā)現(xiàn)，他們的工作重點(diǎn)需要考量神經(jīng)網(wǎng)絡(luò)的輸出和真實(shí)結(jié)果之間的誤差；接著選擇恰當(dāng)?shù)膿p失函數(shù)來表示誤差，再根據(jù)梯度下降等優(yōu)化算法，一步步修正權(quán)值參數(shù)，最后得到能擬合的神經(jīng)網(wǎng)絡(luò)模型。
在輸入層和隱藏層之間具有兩層隱藏節(jié)點(diǎn)的饋送網(wǎng)絡(luò)輸出層
但新的難題出現(xiàn)了：多層神經(jīng)網(wǎng)絡(luò)內(nèi)含多個(gè)隱藏層，當(dāng)誤差出現(xiàn)時(shí)，研究者們很快發(fā)現(xiàn)，他們極難找到誤差是在哪發(fā)生的。
擅長叛逆的辛頓與同事們同時(shí)也擅長逆向思維。1986年，他們提出反向傳播算法，精髓是將誤差從輸出層開始倒推，反過來逐層把誤差傳播至每一個(gè)隱層上，直到輸入層為止。每一層都依賴后面已經(jīng)計(jì)算好的信息去完成求導(dǎo)，故稱作“反向傳播”。
反向傳播成功解決了多層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練問題，證明了神經(jīng)網(wǎng)絡(luò)絕非停留在想象里的空中樓閣。
同一時(shí)期，辛頓與同事們發(fā)明了玻爾茲曼機(jī)。
玻爾茲曼機(jī)和霍普菲爾德模型的不同在于，內(nèi)部增加了隱藏節(jié)點(diǎn)，使得節(jié)點(diǎn)之間可以通過概率調(diào)節(jié)整個(gè)網(wǎng)絡(luò)的功能
這個(gè)新神經(jīng)網(wǎng)絡(luò)汲取了統(tǒng)計(jì)物理學(xué)的原理，希望分析各個(gè)組件能夠共同存在的各種狀態(tài)，并計(jì)算它們出現(xiàn)的概率。這也是當(dāng)今短視頻等平臺(tái)算法令人無法自拔的基本原理：算法可以分析和找到大數(shù)據(jù)之間的聯(lián)系，接著計(jì)算不同類別的人最大概率會(huì)喜歡和討厭的內(nèi)容，并根據(jù)每次的點(diǎn)擊情況，實(shí)時(shí)進(jìn)行概率計(jì)算和內(nèi)容推送。
1986年，經(jīng)過訓(xùn)練的玻爾茲曼機(jī)能夠識(shí)別出它未曾見過的信息中的熟悉特征。這也就意味著，計(jì)算機(jī)擁有了自我學(xué)習(xí)的能力，這正是神經(jīng)網(wǎng)絡(luò)的擁躉多年來所期許的。
辛頓和同事謝諾夫斯基都為此激動(dòng)不已。“這是我一生之中最激動(dòng)人心的時(shí)刻，”謝諾夫斯基說，“我們確信，已經(jīng)弄清楚了大腦是如何工作的?！?/p>
冷門二十年
約30年后，諾貝爾物理學(xué)獎(jiǎng)?wù)J可了玻爾茲曼機(jī)的發(fā)明。
“他們都是真正的先驅(qū)者，尋找到了解決問題的新方法。”諾貝爾物理學(xué)委員會(huì)成員Anders Irb?ck教授在2024年盛贊。
只是，對(duì)80年代的辛頓來說，縈繞在前方的仍是時(shí)而大喜、時(shí)而大悲的情緒，以及與科學(xué)有關(guān)的迷霧之中。
他和同事都以為將改變世界進(jìn)程的玻爾茲曼機(jī)，只在80年代末期人工智能的又一波熱潮時(shí)得到了關(guān)注。
1990年代，人工智能發(fā)展再度進(jìn)入瓶頸期。各種基于統(tǒng)計(jì)的機(jī)器學(xué)習(xí)方法興起，研究神經(jīng)網(wǎng)絡(luò)的人越來越少了。辛頓成為了少數(shù)幾個(gè)仍在其中堅(jiān)持的人。
杰弗里·辛頓曾在社交媒體上寫道：毛毛蟲提取營養(yǎng)物質(zhì)，然后轉(zhuǎn)化為蝴蝶。GPT-4也像人類社會(huì)的蝴蝶般，提取了人類數(shù)十億的知識(shí)
后來人們才發(fā)現(xiàn)，當(dāng)時(shí)的停滯并不代表辛頓提出的理論和設(shè)想是錯(cuò)誤的。想法受限于當(dāng)時(shí)計(jì)算機(jī)技術(shù)處理計(jì)算的能力。
辛頓在一次采訪中感慨：“追溯到1986年，我們首次開發(fā)出反向傳播算法，我們因其能學(xué)習(xí)到多層的特征探測而感到興奮，我們認(rèn)為已經(jīng)解決了這個(gè)問題。但在解決實(shí)際問題中卻沒有出現(xiàn)大的突破，這非常令人失望，我們完全猜錯(cuò)了需要的計(jì)算資源和標(biāo)記案例數(shù)量?！?/p>
這樣的停滯伴隨著辛頓接下來的20余年科研歷程，神經(jīng)網(wǎng)絡(luò)始終不受學(xué)界主流認(rèn)可。為了拿到教研經(jīng)費(fèi)，他曾在倫敦大學(xué)學(xué)院、多倫多大學(xué)等地工作，最后終于在2004年從加拿大高等研究院申請(qǐng)到了每年50萬美元的經(jīng)費(fèi)支持。
直到2006年以前，辛頓即使已經(jīng)在英國、加拿大是院士級(jí)別的人物，但他的發(fā)現(xiàn)只在學(xué)界里有名氣，從未得到現(xiàn)實(shí)的廣泛應(yīng)用。但他始終堅(jiān)信神經(jīng)網(wǎng)絡(luò)將引起人工智能革命。據(jù)稱，為了給自己打氣，辛頓還養(yǎng)成了一種自我激勵(lì)的方法，每周發(fā)泄般大吼一次：“我發(fā)現(xiàn)大腦是怎樣工作的啦！”
天然神經(jīng)系統(tǒng)和人工神經(jīng)網(wǎng)絡(luò)的相似性。關(guān)于人工神經(jīng)網(wǎng)絡(luò)的理論在幾十年前就已形成，但當(dāng)時(shí)人們并沒有找到實(shí)現(xiàn)它的方法
2006年，深度學(xué)習(xí)革命終于在全球打響。這個(gè)新時(shí)代的序幕依然是由辛頓和學(xué)生拉開的。他們?cè)趦善撐睦镎撟C道，深度神經(jīng)網(wǎng)絡(luò)具有自主學(xué)習(xí)的能力。比起人類，深度學(xué)習(xí)的自編碼器對(duì)數(shù)據(jù)有更本質(zhì)的刻畫，從而有利于可視化和分類。
這一全新的概念經(jīng)歷了此后6年的儲(chǔ)備，終于在2012年點(diǎn)燃全世界。2012年，在華裔科學(xué)家李飛飛舉辦的ImageNet圖像識(shí)別競賽中，辛頓和學(xué)生伊利亞（Ilya Sutskever，前OpenAI首席科學(xué)家）和亞歷克斯（Alex Krizhevsky）組成團(tuán)隊(duì)，設(shè)計(jì)了名為“AlexNet”的卷積深度網(wǎng)絡(luò)程序，一舉奪冠。
這次奪冠并非只是拿到冠軍那么簡單。辛頓和學(xué)生以全場都沒有用過的方式，取得了顛覆性的勝利。
“快樂和悲傷交織”
后來的故事更為人所知。2012年一舉成名后，辛頓收到了來自百度、谷歌、微軟以及DeepMind等巨頭的千萬美元年薪橄欖枝。他于是聽從律師建議，在美國華達(dá)州的哈拉斯賭場，對(duì)著爭相而來的科技巨頭，舉行了一場郵件競拍。
最終，他在身價(jià)被提高到了4400萬美元時(shí)，叫停了拍賣，選擇加入谷歌。
杰弗里·辛頓在谷歌總部外
失敗的百度從此決心向深度學(xué)習(xí)上儲(chǔ)備人才，先后建立了深度學(xué)習(xí)研究院和自動(dòng)駕駛研究院。主導(dǎo)百度參與辛頓競拍的負(fù)責(zé)人、現(xiàn)地平線創(chuàng)始人余凱回憶：“盡管競拍失敗，但我還是很開心的。我想我的目的也達(dá)到了，因?yàn)槔顝┖暧H眼見證了國際巨頭不惜花費(fèi)巨資來投資深度學(xué)習(xí)研發(fā)，這讓他下定決心自己把深度學(xué)習(xí)做起來?！?/p>
進(jìn)入21世紀(jì)的第二個(gè)十年，大模型、AI視覺、AIGC等多個(gè)應(yīng)用，終于迎來大爆發(fā)。辛頓等到了盼望已久深度神經(jīng)網(wǎng)絡(luò)引發(fā)的人工智能浪潮。
這是屬于他引領(lǐng)的時(shí)代。
他卻自述過往，認(rèn)為他的人生與AI浪潮一樣，徘徊在反反復(fù)復(fù)的起伏里?！拔医?jīng)常會(huì)告訴大家，我弄清大腦的工作機(jī)制了，可過段時(shí)間，我又失望地發(fā)現(xiàn)之前的結(jié)論是錯(cuò)誤的?！?/p>
“但事情就應(yīng)該是這樣發(fā)展的。正如（英國）詩人威廉·布萊克的兩句詩，‘將快樂和憂傷編織，披在我神圣的心上’。”
2023年，離開谷歌的辛頓越來越活躍于媒體之中。他近年因?yàn)榇竽Ｐ偷臒岢痹缫褬s譽(yù)加身，人們喊他教父，對(duì)他進(jìn)行膜拜。連他的很多早期追隨者，如今也成為了科技巨頭。例如學(xué)生伊利亞，與奧特曼一起創(chuàng)立OpenAI，是AI浪潮的引領(lǐng)者之一。
看上去，辛頓沒有什么煩惱可言了。
《終結(jié)者5》劇照
但他卻表現(xiàn)得越來越憂心忡忡，擔(dān)心AI有一天會(huì)掌控人類社會(huì)。2024年，他在諾貝爾獎(jiǎng)?lì)C布的現(xiàn)場連線時(shí)說：“我感到愧疚和后悔?！?/p>
“后悔有兩種。一種是因?yàn)槟阕隽艘恍┟髦辉撟龅氖虑槎械絻?nèi)疚；另一種是你做了一些在同樣情況下會(huì)再次做的事情，但最終結(jié)果可能并不好。我的遺憾是第二種。我擔(dān)心這種做法的后果是，比我們更聰明的系統(tǒng)最終會(huì)掌控一切?！?/p>