5月3日消息，OpenAI聯(lián)合創(chuàng)始人兼首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）近期現(xiàn)身美國斯坦福大學(xué)、哈佛大學(xué)和麻省理工學(xué)院（MIT）三家美國頂級大學(xué)，做了多場對話內(nèi)容。
今早哈佛大學(xué)演講中，奧爾特曼承認(rèn)，神秘gpt2-chatbot確實(shí)與OpenAI有關(guān)，但不是GPT-4.5。
他指出，OpenAI可以同時(shí)在所有模型的行為和功能上取得進(jìn)展。
“我認(rèn)為這是個(gè)奇跡。每個(gè)大學(xué)生都應(yīng)該學(xué)會訓(xùn)練GPT-2……這并不是最重要的事情，但我打賭兩年后這是每個(gè)哈佛新生都必須做的事情?！眾W爾特曼稱。
奧爾特曼在MIT演講中表示，Agent（智能體/代理）將是AI的殺手級應(yīng)用?！熬拖褚粋€(gè)超級能干的同事，他了解我一生的一切，我的每封電子郵件，每一次對話?！?/p>
奧爾特曼認(rèn)為，ChatGPT 有潛力以“指數(shù)方式提高生產(chǎn)力”，就像計(jì)算器使用戶從手動(dòng)執(zhí)行計(jì)算中解放出來一樣，他稱該應(yīng)用為“單詞計(jì)算器”。
但他也警告稱，“人們不要認(rèn)為使用 ChatGPT就讓人們?yōu)槲磥淼氖澜缱龊脺?zhǔn)備?！彼J(rèn)為ChatGPT和其他AI Agents應(yīng)用可以在各個(gè)領(lǐng)域發(fā)揮巨大潛力。
更早之前的斯坦福大學(xué)企業(yè)思想領(lǐng)袖講壇ETL（Entrepreneurial Thought Leaders Lecture）的活動(dòng)中，奧爾特曼表示，從現(xiàn)在的技術(shù)創(chuàng)新和功能迭代來看，人類遠(yuǎn)遠(yuǎn)沒有達(dá)到 AI 的極限，如果只是聚焦現(xiàn)在的AI能力將會是徒勞的。
ChatGPT的下一步是什么？
一年前，OpenAI發(fā)布GPT-4模型時(shí)，全世界陷入瘋狂，認(rèn)為將徹底改變很多行業(yè)的工作模式。如今我們回頭再看GPT-4，經(jīng)常會譏諷地說，“它看起來好蠢啊，GPT-5到底何時(shí)發(fā)布？”
對此，奧爾特曼平靜地說“是的”，面帶微笑，沒有再說別的了。
“GPT-4將是你們中任何人必須再次使用的最愚蠢的模型。我不在乎我們是否每年燒掉500億美元，我們正在構(gòu)建 AGI，這將是值得的?！眾W爾特曼稱。
奧爾特曼強(qiáng)調(diào)，在通往通用人工智能（AGI）的道路上，ChatGPT目前的表現(xiàn)仍不出彩，GPT-4將來或許會是你們中任何人都不得不再次使用的最愚蠢的模型。為解決這一問題，盡早和頻繁地推出新模型非常重要，也就是迭代部署。
奧爾特曼指出 AI 發(fā)展的本質(zhì)：“我們能夠高度確定，GPT-5將會比GPT-4聰明得多，GPT-6將比GPT-5聰明得多，我們還沒有接近這條曲線的頂端。一般來說新一代產(chǎn)品會更聰明，但我認(rèn)為這句話的重要性仍然被低估了?！?/p>
而針對 AI 的發(fā)展重點(diǎn)，奧爾特曼表示，OpenAI的終極目標(biāo)始終都沒有變，就是實(shí)現(xiàn)——AGI。
“開源不是最佳途徑”
奧爾特曼表示，開源意味著放棄對技術(shù)的專有控制。對于OpenAI來說，他們投入大量的人力和算力資源開發(fā)的產(chǎn)品，需要獲得豐厚的商業(yè)回報(bào)。然后再用這些資金去創(chuàng)新、迭代發(fā)布更智能的產(chǎn)品。這一點(diǎn)，埃隆·馬斯克（Elon Reeve Musk）還在OpenAI時(shí)便與奧爾特曼等創(chuàng)始人達(dá)成了共識，他們認(rèn)為，每年不燒個(gè)幾十億美元就想搞AGI根本沒戲。
而奧爾特曼在此次討論中也表示，為了實(shí)現(xiàn)AGI，無論每年花費(fèi)5億、50億還是500億美元，只要能為全人類、AI領(lǐng)域做出一些貢獻(xiàn)都不在乎。但這需要良性的資金來源，光靠別人捐獻(xiàn)、融資是不行的。
這也是OpenAI從最初的開源策略，轉(zhuǎn)換到閉源的根本原因之一?，F(xiàn)在，很多組織、個(gè)人開發(fā)者都能輕松復(fù)現(xiàn)GPT-4的能力，甚至在個(gè)別單元測試中超過它。但OpenAI的核心能力是技術(shù)變革，是可以真正定義AI能力的下一個(gè)范式轉(zhuǎn)變，就像蘋果的iPhone對移動(dòng)領(lǐng)域帶來的顛覆性影響。
例如，今年2月15日，OpenAI發(fā)布了轟動(dòng)全球的文生視頻模型Sora，可能會重新定義影視、游戲開發(fā)、廣告營銷等行業(yè)，其影響力甚至比當(dāng)年的ChatGPT來的更猛烈。
奧爾特曼表示，OpenAI不怕別人拷貝、復(fù)制他們的產(chǎn)品，因?yàn)?，在生成式AI領(lǐng)域，OpenAI永遠(yuǎn)是行業(yè)的領(lǐng)路人之一，為無數(shù)的創(chuàng)業(yè)者、開發(fā)者點(diǎn)亮一盞指路明燈。
在談?wù)摰絼?chuàng)業(yè)的契機(jī)時(shí)，奧爾特曼指出，他認(rèn)為自己是在過去幾個(gè)世紀(jì)最幸運(yùn)的時(shí)刻成年了。
“我清晰地了解世界將要改變的程度以及影響它的機(jī)會。創(chuàng)業(yè)，做 AI 研究，任何事情都是非常了不起的。我想這可能是創(chuàng)業(yè)的最佳時(shí)機(jī)。我想我會這么說，我認(rèn)為這可能是互聯(lián)網(wǎng)時(shí)代，或者是科技史上最佳的創(chuàng)業(yè)時(shí)機(jī)。我認(rèn)為你可以用 AI 做比一年前更了不起的事情。最偉大的公司就是在這樣的時(shí)刻誕生的。最具影響力的新產(chǎn)品就是在這樣的時(shí)候誕生的。我會感到無比的幸運(yùn)，我會決心充分利用它，我會明白自己想在哪里做貢獻(xiàn)，并放手去做?！眾W爾特曼稱。
奧爾特曼還和大家分享，堅(jiān)持自己的創(chuàng)業(yè)想法很重要。
他說：“我認(rèn)為應(yīng)當(dāng)學(xué)會相信自己，提出自己的想法，做非共識的事情，就像我們創(chuàng)辦OpenAI之初一樣。OpenAI起初就是非共識的事情，但現(xiàn)在已經(jīng)得到世人的認(rèn)可。現(xiàn)在我只有顯而易見的構(gòu)想，因?yàn)槲揖拖癖焕г谝粋€(gè)框架中一樣，但我相信你們在座的人會有其他不同的構(gòu)想?！?/p>
前不久，OpenAI宣布無需注冊就能免費(fèi)使用ChatGPT，當(dāng)時(shí)公司稱，OpenAI在實(shí)現(xiàn)艱難的AGI的道路上的原動(dòng)力——造福全人類。
對于實(shí)現(xiàn)這一目標(biāo)的進(jìn)度規(guī)劃，奧爾特曼強(qiáng)調(diào)：“我已經(jīng)放棄給出實(shí)現(xiàn)AGI的時(shí)間表，但我認(rèn)為在接下來的許多年里，我們每年都會推出更強(qiáng)大的系統(tǒng)?！?/span>
關(guān)于人工智能硬件的未來
奧爾特曼于2005年從斯坦福大學(xué)退學(xué)，后因領(lǐng)導(dǎo)開發(fā)了ChatGPT和DALL-E背后 AI 研發(fā)團(tuán)隊(duì)OpenAI而聞名。成立于2015年的OpenAI最初是一家非營利性研究實(shí)驗(yàn)室，其使命是“確保AGI能造福全人類”。
如今有消息稱，奧爾特曼將與蘋果設(shè)計(jì)師打造未來的 AI 硬件設(shè)備。
對此，奧爾特曼在討論中說，“我不認(rèn)為它需要一個(gè)新的硬件，”并補(bǔ)充所設(shè)想的應(yīng)用程序類型可能存在于云中。
奧爾特曼指出，AI 硬件設(shè)備確實(shí)令人興奮，但他自己可能不太適合接受這個(gè)挑戰(zhàn)，“我對新技術(shù)的消費(fèi)硬件非常感興趣，但我是一個(gè)業(yè)余愛好者，這與我的專業(yè)知識相去甚遠(yuǎn)?！?/p>
針對于模型數(shù)據(jù)的版權(quán)話題，奧爾特曼樂觀地認(rèn)為，這個(gè)問題不會持續(xù)太長時(shí)間，盡管他沒有詳細(xì)說明。
“我相信,但我不確定我們是否會想出一個(gè)辦法來解決這件事,你總是需要越來越多的訓(xùn)練數(shù)據(jù)。人類是存在的證據(jù),證明有其他方法‘培養(yǎng)智力’。希望我們能找到它?！眾W爾特曼表示。
如今的OpenAI已今非昔比，早從當(dāng)年的默默無聞的小公司成為生成式AI的領(lǐng)導(dǎo)者。而英偉達(dá)借助ChatGPT這股東風(fēng)，成為超2萬億美元的科技巨頭。奧爾特曼期望二者之間的羈絆友誼可以繼續(xù)長存下去。
在討論到 AI 未來時(shí)，奧爾特曼強(qiáng)調(diào)：“我認(rèn)為在未來的幾十年里，韌性和適應(yīng)性將比過去很長一段時(shí)間以來更重要?！?/span>
以下是雙語字幕版完整視頻以及部分內(nèi)容整理：
主持人：如果用三個(gè)詞形容你作為斯坦福本科生時(shí)的感受，你會用哪三個(gè)詞？
奧爾特曼：興奮、樂觀、好奇。
主持人：形容現(xiàn)在，你會用哪三個(gè)詞？
奧爾特曼：我猜是一樣的。
主持人：這很棒。盡管過去19年世界發(fā)生了許多變化，但與未來19年即將發(fā)生的變化相比，這些變化可能顯得微不足道。因此，我想請教你一個(gè)問題：如果你明天醒來，突然發(fā)現(xiàn)自己回到了19歲，并且擁有現(xiàn)在的所有知識，你會怎么做？會感到開心嗎？
奧爾特曼：我會覺得自己正處在一個(gè)極具歷史意義的時(shí)刻，世界正經(jīng)歷著巨變，同時(shí)，我也看到了參與其中并產(chǎn)生深遠(yuǎn)影響的機(jī)會，比如創(chuàng)業(yè)、從事AI研究等。
我認(rèn)為現(xiàn)在是自互聯(lián)網(wǎng)時(shí)代以來，甚至可能是技術(shù)史上，創(chuàng)立公司的最佳時(shí)機(jī)。隨著AI的進(jìn)步，每年都會產(chǎn)生更多的奇跡，偉大的公司正是在這樣的時(shí)刻誕生，最具影響力的產(chǎn)品也是在此刻孕育。因此，我感到無比幸運(yùn)，并決心充分利用這個(gè)機(jī)遇。我將明確自己的貢獻(xiàn)方向，并付諸實(shí)踐。
主持人：那你對自己將貢獻(xiàn)的領(lǐng)域有偏好嗎？你是否想繼續(xù)保持學(xué)生的身份？如果是的話，你會主修什么專業(yè)？
奧爾特曼：我不會繼續(xù)做學(xué)生，但只是因?yàn)槲乙郧耙矝]有這樣做，而且我覺得可以合理地假設(shè)人們可能會再次做出他們曾經(jīng)做過的決定。我認(rèn)為做一名斯坦福的學(xué)生是一件很好的事情。只是，這可能不是我想要的。
主持人：你會怎么做？
奧爾特曼：我想我還是會選擇我喜歡的方向，這并不奇怪，因?yàn)槿藗兺ǔ凑兆约旱囊庠感惺?。我想我會投身于人工智能研究?/p>
主持人：你可能會在哪里做？學(xué)術(shù)界還是在私營企業(yè)？
奧爾特曼：我覺得，很明顯我偏向于開放的應(yīng)用程序，但我認(rèn)為無論在哪里，只要能做有意義的AI研究，我都會感到非常興奮。但我要悲傷的說，現(xiàn)實(shí)情況是，我會選擇進(jìn)入行業(yè)。我覺得確實(shí)需要在計(jì)算資源極其豐富的地方。
主持人：我們上周邀請了Qasar Younis，他極力主張不要成為創(chuàng)始人，而是加入一家現(xiàn)有的公司以學(xué)習(xí)相關(guān)技能。對于那些正在糾結(jié)是應(yīng)該在19、20歲自己創(chuàng)業(yè)，還是加入其他創(chuàng)業(yè)公司的學(xué)生，你會給他們什么建議？
奧爾特曼：既然他給出了加入其他公司的理由，那我就講另一個(gè)觀點(diǎn)。我認(rèn)為自己創(chuàng)辦公司能學(xué)到很多東西。如果這是你想做的事，保羅·格雷厄姆有句話說得很好，我認(rèn)為非常真實(shí)：創(chuàng)業(yè)不像醫(yī)學(xué)那樣有預(yù)科階段，你只能通過實(shí)際經(jīng)營創(chuàng)業(yè)公司來學(xué)會如何管理公司。如果你確信這就是你想做的事，那么你可能應(yīng)該直接投入其中去做。
主持人：如果有人想要?jiǎng)?chuàng)辦一家公司并從事AI領(lǐng)域，你認(rèn)為當(dāng)前AI領(lǐng)域最適合創(chuàng)業(yè)的短期挑戰(zhàn)是什么？為了明確這一點(diǎn)，我指的是哪些問題是你認(rèn)為需要優(yōu)先解決但OpenAI在未來三年內(nèi)無法解決的？
奧爾特曼：從某種意義上說，這個(gè)問題是非常合理的，但我不會直接回答它。因?yàn)槲艺J(rèn)為你永遠(yuǎn)不應(yīng)該從任何人那里接受這種關(guān)于如何開始創(chuàng)業(yè)的建議。
當(dāng)某個(gè)領(lǐng)域已經(jīng)如此顯而易見，以至于我或者其他人站在這里都可以指出它時(shí)，那它可能就不是一個(gè)好的創(chuàng)業(yè)方向了。我完全理解，我還記得我當(dāng)初也會問別人，“我該創(chuàng)辦什么樣的公司？”。
但我認(rèn)為擁有一份有影響力的職業(yè)最重要的原則之一是必須要走自己的路。如果你正在思考的事情是其他人也會去做的，或者是很多人都會去做的，那么你應(yīng)該對其保持一點(diǎn)懷疑。
我認(rèn)為我們需要培養(yǎng)的一個(gè)重要的能力是提出那些非顯而易見的想法。我不知道現(xiàn)在最重要的想法是什么，但我確信這個(gè)房間里的某個(gè)人知道答案。我認(rèn)為學(xué)會信任自己，提出自己的想法并勇敢去做那些不被廣泛認(rèn)同的事情非常重要。
比如我們剛開始創(chuàng)辦OpenAI那會兒，這件事并沒有得到很多人的認(rèn)同，但現(xiàn)在它已經(jīng)成為非常顯而易見的事情了?，F(xiàn)在我只是因?yàn)樽约荷硖幤渲?，才會對這個(gè)方向有比較明確的想法，但我相信你們會有其他的看法。
主持人：那么換個(gè)方式問，我不知道這樣問是否公平。你正在思考但其他人并沒有談?wù)摰膯栴}是什么呢？
奧爾特曼：如何建造真正大型的計(jì)算機(jī)。我想，其他人也在討論這個(gè)問題，但我們可能從別人無法想象的角度來看待它。我們正在努力解決的問題不僅是開發(fā)小學(xué)或中學(xué)水平的智能，還包括博士水平及更高層次的智能，并將其以最佳方式應(yīng)用于產(chǎn)品，最大限度地對社會和人們的生活產(chǎn)生積極影響。我們目前還不知道答案，但我認(rèn)為這是一個(gè)需要弄清楚的重要問題。
主持人：如果我們繼續(xù)探討如何建造大型計(jì)算機(jī)的問題，你能分享一下你的愿景嗎？我知道有很多猜測和傳聞，關(guān)于你正在開展的半導(dǎo)體代工廠項(xiàng)目。這個(gè)愿景與目前的做法有什么不同？
奧爾特曼：代工廠只是其中的一部分。我們越來越相信人工智能基礎(chǔ)設(shè)施將成為未來最重要的投入之一，是每個(gè)人都會需要的資源，其中包括能源、數(shù)據(jù)中心、芯片、芯片設(shè)計(jì)和新型網(wǎng)絡(luò)。我們需要從整體上看待整個(gè)生態(tài)系統(tǒng)，并設(shè)法在這些方面做得更多。僅關(guān)注某個(gè)部分是行不通的，我們必須全面考慮。
我認(rèn)為這就是人類科技發(fā)展史的軌跡：不斷構(gòu)建更大、更復(fù)雜的系統(tǒng)。
主持人：至于計(jì)算成本方面，我聽說訓(xùn)練ChatGPT模型花費(fèi)了1億美元，其參數(shù)量為1750億。GPT-4的成本是4億美元，參數(shù)量是前者的10倍。成本幾乎增加了4倍，但參數(shù)量卻增加了10倍。請糾正我，如果我有誤的話。
奧爾特曼：我知道，但我想……
主持人：好的。即使你不想糾正實(shí)際數(shù)字，但如果方向上是對的，你認(rèn)為每次更新的成本是否會繼續(xù)增長？
奧爾特曼：是的。
主持人：這種增長會呈倍數(shù)增加嗎？
奧爾特曼：大概吧.
主持人：那么問題就變成了，我們該如何為此籌集資金？
奧爾特曼：我認(rèn)為給人們提供真正強(qiáng)大的工具，讓他們自己去探索如何用這些工具來構(gòu)建未來，是非常有價(jià)值的。我非常愿意相信你們和世界上其他人的創(chuàng)造力，可以找到應(yīng)對這一問題的方法。所以，OpenAI中可能有比我更具商業(yè)頭腦的人擔(dān)心我們花了多少，但我并不在意。
主持人：OpenAI、ChatGPT以及其他所有模型都非常出色，去年燒掉了5.2億美元，這不會讓你擔(dān)心它的商業(yè)模式嗎？盈利來源在哪里？
奧爾特曼：首先，謝謝你這么說，但ChatGPT還遠(yuǎn)稱不上出色，頂多算是勉強(qiáng)合格。GPT-4是大家未來可能用到的最笨的模型了。但是，重要的是早早開始并不斷發(fā)布，我們相信迭代式發(fā)布。
如果我們在地下室開發(fā)通用人工智能，然后世界渾然不覺地盲目前行，我不認(rèn)為這會讓我們成為好的鄰居。因此，考慮到我們對未來的看法，我覺得重要的是表達(dá)我們的觀點(diǎn)。
不過，更重要的是，將產(chǎn)品交到用戶手中，讓社會與技術(shù)共同進(jìn)化。讓社會告訴我們，集體和個(gè)人從技術(shù)中想要什么，如何將其產(chǎn)品化以便于使用。這個(gè)模型在哪些方面效果好，哪些方面效果差，讓我們的領(lǐng)導(dǎo)者和機(jī)構(gòu)有時(shí)間做出反應(yīng)。給人們時(shí)間將其融入生活，學(xué)會使用這項(xiàng)工具。
一些人可能會用它作弊，但有一些人也可能會用它做非常了不起的事。每一代人的發(fā)展都會有所擴(kuò)展，這意味著我們發(fā)布了不完美的產(chǎn)品，但有一個(gè)非常緊密的反饋循環(huán)，我們可以學(xué)習(xí)并變得更好。
發(fā)布讓你感到尷尬的產(chǎn)品的確有點(diǎn)糟糕，但比起其他選擇，這是更好的方式。在這個(gè)特別的情況下，我們真的應(yīng)該向社會迭代發(fā)布。
我們了解到AI和驚喜不相容。人們不想受到驚嚇，他們想要逐步推進(jìn)并有能力影響這些系統(tǒng)。這就是我們的做法。
將來或許會有一些情況讓我們認(rèn)為迭代發(fā)布不是一個(gè)好的策略，但這似乎是目前最好的方法。我認(rèn)為通過這樣做，我們已經(jīng)學(xué)到了很多東西。希望更廣泛的世界也從中受益。
不論我們每年花費(fèi)5億美元、50億美元還是500億美元，我都不在乎。只要我們能夠持續(xù)創(chuàng)造比這更多的社會價(jià)值，并能夠找到支付賬單的方式。我們正在開發(fā)AGI，這會很昂貴，但絕對值得。
主持人：那么，你有一個(gè)2030年的愿景嗎？如果現(xiàn)在是2030年，你做到了。在你眼中，世界會是什么樣子？
奧爾特曼：在某些非常重要的方面，或許并沒有太大區(qū)別。
我們還會回到這里，會有新的一批學(xué)生。我們會談?wù)摮鮿?chuàng)公司是多么重要，科技是多么酷。我們會擁有這個(gè)世界上新的偉大工具。
如果我們今天能夠傳送到六年前，并擁有這個(gè)在許多學(xué)科上比人類更聰明的東西，能夠?yàn)槲覀兺瓿蛇@些復(fù)雜的任務(wù)，那將感覺非常棒。你知道，我們可以編寫復(fù)雜的程序，完成這項(xiàng)研究或開始這項(xiàng)業(yè)務(wù)。
然而，太陽仍然東升西落，人們繼續(xù)上演他們的人類戲劇，生活繼續(xù)。所以，從某種意義上來說非常不同，因?yàn)槲覀儸F(xiàn)在有豐富的智能，但從另一個(gè)意義上來說，又沒什么不同。
主持人：你提到了通用人工智能。在之前的對話中，你將其定義為能夠模擬一個(gè)普通人類在各種任務(wù)中表現(xiàn)的軟件。你覺得什么時(shí)候會實(shí)現(xiàn)這個(gè)目標(biāo)？你能給出一個(gè)大致的時(shí)間或范圍嗎？
奧爾特曼：我認(rèn)為我們需要對AGI有一個(gè)更精確的定義，以解決時(shí)間的問題。因?yàn)樵谶@一點(diǎn)上，即使是你剛剛給出的定義，也是合理的，這就是你的定義。
主持人：我是在重復(fù)你之前在對話中說過的話。
奧爾特曼：我要批評我自己。這個(gè)定義太過寬泛，容易被誤解。
所以我認(rèn)為真正有用或能讓人們滿意的標(biāo)準(zhǔn)是：當(dāng)人們問“AGI的時(shí)間表是什么”時(shí)，他們其實(shí)想知道的是世界什么時(shí)候會發(fā)生巨大變化，變化的速度什么時(shí)候會大幅加快，經(jīng)濟(jì)運(yùn)作的方式什么時(shí)候會發(fā)生巨大變化，我的生活什么時(shí)候會改變。由于很多原因，這個(gè)時(shí)間點(diǎn)可能與我們想象的很不一樣。
我完全可以想象這樣的世界：我們在任何領(lǐng)域都能開發(fā)出具備博士水平的智能，可以大幅提升研究人員的生產(chǎn)力，甚至可以實(shí)現(xiàn)一些自主研究。從某種意義上說，這聽起來似乎會對世界產(chǎn)生很大的影響，但也可能我們已經(jīng)做到了這些后，卻發(fā)現(xiàn)全球GDP增長在隨后的幾年里并沒有發(fā)生變化。想想這種情況還是很奇怪的。這最初并不是我對整個(gè)過程的直覺。
所以，我無法給出一個(gè)具體的時(shí)間來說明我們何時(shí)能達(dá)到人們所關(guān)心的里程碑，但是在未來的一年以及之后的每一年，我們都會擁有比現(xiàn)在強(qiáng)大得多的系統(tǒng)，我認(rèn)為這是關(guān)鍵。所以，我已經(jīng)放棄了預(yù)測AGI的時(shí)間表。
主持人：你能否談?wù)勀銓GI危險(xiǎn)性的看法？具體來說，你認(rèn)為AGI最大的危險(xiǎn)會是來自一場轟動(dòng)各大媒體的災(zāi)難性事件，還是更為隱蔽和有害的東西，就像現(xiàn)在大家因?yàn)槭褂肨ikTok而注意力嚴(yán)重分散一樣?；蛘邇烧叨疾皇?？
奧爾特曼：我更擔(dān)心隱蔽的危險(xiǎn)，因?yàn)槲覀兏菀缀鲆曀鼈儭?/p>
很多人都在談?wù)摓?zāi)難性的危險(xiǎn)，并對此保持警惕。我不想輕視這些危險(xiǎn)，我認(rèn)為它們的確很嚴(yán)重且真實(shí)存在。但至少我們知道要關(guān)注這一點(diǎn)，并會花費(fèi)大量精力。就像你提到的大家因?yàn)槭褂肨ikTok而注意力嚴(yán)重分散的例子，我們不需要去關(guān)注最終結(jié)果。這是一個(gè)真正棘手的問題，那些未知的東西真的很難預(yù)測，因此我更擔(dān)心這些，盡管兩者我都擔(dān)心。
主持人：會是未知因素嗎？你能說出你特別擔(dān)心的因素嗎？
奧爾特曼：嗯，那它們就會被歸為未知因素。
盡管我認(rèn)為短期內(nèi)的變化會比我們想象的要少，就像其他重大技術(shù)一樣。但從長遠(yuǎn)來看，我認(rèn)為變化會超出我們的預(yù)期。我擔(dān)心社會適應(yīng)這種全新事物的速度，以及我們花多長時(shí)間去找到新的社會契約與我們能夠用多長時(shí)間做到這一點(diǎn)，我對此感到擔(dān)憂。
主持人：隨著事物的快速變化，我們正嘗試將恢復(fù)力（resilience）作為課程的核心內(nèi)容之一，而恢復(fù)力的基石是自我意識。所以，我想知道你在踏上這段旅程時(shí)，是否清楚自己的驅(qū)動(dòng)力。
奧爾特曼：首先，我相信恢復(fù)力是可以被教的，恢復(fù)力一直是最重要的生活技能之一。在未來的幾十年里，恢復(fù)力和適應(yīng)能力會變得更重要，所以我覺得這個(gè)觀點(diǎn)很好。至于自我意識的問題，我覺得自己是有自我意識的，但就像每個(gè)人都認(rèn)為自己有自我意識一樣，我是否真的有，很難從自身角度來評判。
主持人：我能問你我們在自我意識入門課程中經(jīng)常問的問題嗎？
奧爾特曼：當(dāng)然。
主持人：這就像彼得·德魯克的框架，Sam，你認(rèn)為自己最大的優(yōu)點(diǎn)是什么？
奧爾特曼：我認(rèn)為我在許多事情上都不是特別出色，但也在很多方面都還不錯(cuò)。而且我認(rèn)為在這個(gè)世界，廣泛的技能被低估了。每個(gè)人都在過度專精，所以如果你擅長很多事情，就可以在其中找到聯(lián)系。我認(rèn)為這樣你就能提出不同于其他人的想法，而不是僅僅成為某個(gè)領(lǐng)域的專家。
主持人：你最危險(xiǎn)的弱點(diǎn)是什么？
奧爾特曼：最危險(xiǎn)的弱點(diǎn)，這是個(gè)有趣的思考。我傾向于偏向支持技術(shù)，可能因?yàn)槲液芎闷?，想看看技術(shù)的發(fā)展方向，而且我相信總體而言，技術(shù)是件好事。
我認(rèn)為這種世界觀總體上對我和其他人都很有利，因此得到了很多積極的反饋。然而，這并不總是對的，而且當(dāng)它不對時(shí)，對許多人來說會產(chǎn)生非常不好的影響。
主持人：哈佛大學(xué)心理學(xué)家戴維·麥克利蘭提出了一個(gè)框架，即所有領(lǐng)導(dǎo)者都被三種原始需求之一驅(qū)動(dòng)：歸屬需求，即被喜歡的需求；成就需求；以及權(quán)力需求。如果必須對它們進(jìn)行排序，你會怎么排？
奧爾特曼：在我的職業(yè)生涯中，不同時(shí)期都有這些需求。我認(rèn)為人們會經(jīng)歷不同的階段。而目前，我覺得驅(qū)使我前行的是想做一些有意義和有趣的事情。我之前肯定也經(jīng)歷過追求金錢、權(quán)力和地位的階段。
主持人：你對即將推出的ChatGPT-5最感到興奮的是什么？
我還不知道，這個(gè)答案聽起來有點(diǎn)敷衍。但我認(rèn)為關(guān)于GPT-5或任何我們將其命名的版本，最重要的是它將會更聰明。
聽起來像在逃避，但我覺得這是人類歷史上最顯著的事實(shí)之一：我們能做點(diǎn)什么，并且現(xiàn)在可以以高度科學(xué)的確定性說，GPT-5會比GPT-4更聰明得多，GPT-6會比GPT-5更聰明得多。我們還沒有到達(dá)這個(gè)曲線的頂端，我們大致知道該怎么做。它不會只在某一個(gè)領(lǐng)域變得更好，也不是總會在這次評估、這個(gè)學(xué)科或這種模式上表現(xiàn)更好，而是整體上會變得更聰明。我認(rèn)為這一事實(shí)的重大意義仍被低估了。
觀眾提問環(huán)節(jié)
最后，我們也摘錄了一些觀眾提問環(huán)節(jié)的精彩內(nèi)容。
提問1：隨著你們越來越接近AGI，你們打算如何負(fù)責(zé)任地部署它，以防止抑制人類創(chuàng)新并繼續(xù)推動(dòng)創(chuàng)新?
奧爾特曼：我并不擔(dān)心AGI會抑制人類創(chuàng)新。我真的深信人們會用更好的工具做出更棒的成就。歷史都顯示，如果給人們更多的杠桿，他們就能做出更神奇的事情。這對我們所有人來說都是一件好事。
但我確實(shí)越來越擔(dān)心如何負(fù)責(zé)任地做這一切。隨著模型變得更加強(qiáng)大，我們面臨的標(biāo)準(zhǔn)也會越來越高。我們已經(jīng)做了很多事情，比如紅隊(duì)測試和外部審計(jì)。這些都很好。但我認(rèn)為隨著模型變得更強(qiáng)大，我們需要更加漸進(jìn)地部署，并保持更緊密的反饋循環(huán)，關(guān)注它們的使用情況和發(fā)揮效果的領(lǐng)域。
我們過去可以每隔幾年就發(fā)布一次大的模型更新，但現(xiàn)在我們可能需要找到方法來增加部署的顆粒度，比較更頻繁地進(jìn)行迭代部署。具體該如何做還不太清楚，但這將是負(fù)責(zé)任部署的關(guān)鍵。
此外，我們讓所有利益相關(guān)者協(xié)商人工智能規(guī)則的方式，隨著時(shí)間的推移，這也會變得越來越復(fù)雜。
提問2： 你之前提到，每年我們都會有更強(qiáng)大的AI系統(tǒng)。世界上許多地方都不具備建設(shè)這些數(shù)據(jù)中心或大型計(jì)算機(jī)的基礎(chǔ)設(shè)施，全球創(chuàng)新會受到怎樣的影響？
奧爾特曼：關(guān)于這個(gè)問題，我想分為兩部分來談。
首先，無論計(jì)算機(jī)在哪里建造，我認(rèn)為全球公平地使用計(jì)算機(jī)進(jìn)行訓(xùn)練和推理的訪問權(quán)極為重要。我們使命的核心之一是讓盡可能多想要使用ChatGPT的人能夠使用它，我們可能無法或出于良好原因不想在那里運(yùn)營。我們?nèi)绾慰紤]使訓(xùn)練計(jì)算對世界更加可用，將變得越來越重要。我確實(shí)認(rèn)為我們將進(jìn)入一個(gè)世界，在這個(gè)世界里，我們認(rèn)為獲取一定量的計(jì)算能力是一種人權(quán)。我們得想辦法如何將這種能力分配給世界各地的人們。
然而，還有第二點(diǎn)，那就是我認(rèn)為各國將越來越意識到擁有自己的AI基礎(chǔ)設(shè)施的重要性。我們想要找到一種方法，我們現(xiàn)在正花費(fèi)大量時(shí)間周游世界，幫助許多想要建立這些設(shè)施的國家。我希望我們能在其中發(fā)揮一些微小的作用。
提問3：您認(rèn)為人工智能在未來的太空探索或殖民中將扮演什么角色？
奧爾特曼： 我認(rèn)為太空顯然對生物生活并不友好。因此，如果我們能發(fā)送機(jī)器人，那看起來更容易。
提問4：你如何知道一個(gè)觀點(diǎn)是非共識的？如何驗(yàn)證你的想法有沒有得到科技界的共識？
奧爾特曼： 首先，你真正想要的是正確。持有相反觀點(diǎn)但錯(cuò)誤仍然是錯(cuò)誤的。
如果你預(yù)測了過去兩次衰退中的17次，你可能只是在你正確的那兩次上持有相反觀點(diǎn)。可能并非必然如此。但你其他15次都錯(cuò)了。所以我認(rèn)為，成為相反意見者過于興奮是很容易的。再次強(qiáng)調(diào)，最重要的是要正確。群體通常是正確的。但當(dāng)你持有相反觀點(diǎn)同時(shí)又正確時(shí)，價(jià)值最大，而這并不總是以非此即彼的方式發(fā)生。就像在場的每個(gè)人都可能同意AI是創(chuàng)業(yè)的正確領(lǐng)域。如果房間里的一個(gè)人找出了正確的公司來創(chuàng)立，然后成功地執(zhí)行了它，而其他人都認(rèn)為那不是你能做的最好的事情，那才是最重要的。
至于如何做到這一點(diǎn)，我認(rèn)為圍繞自己建立正確的同行群體非常重要，找到原創(chuàng)思考者也很重要。但你在某種程度上必須獨(dú)自做這件事，或者至少是獨(dú)自做一部分，或者與將成為你的聯(lián)合創(chuàng)始人或其他人的幾個(gè)人一起做。
我認(rèn)為，一旦你在如何找到正確的同行群體這個(gè)問題上陷得太深，你已經(jīng)處于錯(cuò)誤的框架中了。學(xué)會信任自己和自己的直覺以及自己的思考過程，這隨著時(shí)間的推移會變得容易得多。無論他們說什么，我認(rèn)為沒有人在剛開始時(shí)就真的非常擅長這一點(diǎn)。因?yàn)槟氵€沒有建立起肌肉，所承受的社會壓力和進(jìn)化壓力都與此背道而馳。因此，隨著時(shí)間的推移，你會越來越好，不要過早地對自己要求太高。
提問5：我很想知道你對未來幾十年能源需求的變化，以及我們?nèi)绾螌?shí)現(xiàn)可再生能源每千瓦時(shí)1美分的未來。
奧爾特曼： 這一天也許會到來，但我不確定……我猜測最終核聚變將主導(dǎo)地球上的電力生產(chǎn)。我認(rèn)為它將成為最便宜、最豐富、最可靠、能量密度最高的能源。我可能在這方面是錯(cuò)誤的，也有可能是太陽能加上儲能。你知道，我最大的猜測是，最終可能是這兩種方式中的某一種，并且會有某些情況下其中一種比另一種更好，但這些看起來像是真正全球規(guī)模、每千瓦時(shí)一美分能源成本的兩種主要選擇。
提問6：從OpenAI去年的發(fā)生的事中學(xué)到了什么，是什么讓你能回來？
奧爾特曼： 我學(xué)到的最好的一課是，我們擁有一個(gè)非常出色的團(tuán)隊(duì)，這個(gè)團(tuán)隊(duì)完全有能力在沒有我的情況下運(yùn)營公司，并且他們真的在沒有我的情況下運(yùn)營了幾天。隨著我們向人工通用智能（AGI）的進(jìn)展，一些瘋狂的事情可能會發(fā)生，甚至可能會有更多的瘋狂事情在我們之間發(fā)生。因?yàn)槭澜绲牟煌貐^(qū)對我們的情感反應(yīng)越來越強(qiáng)烈，風(fēng)險(xiǎn)也在不斷增加。我曾經(jīng)認(rèn)為，在很大的壓力下，團(tuán)隊(duì)會做得很好，但你永遠(yuǎn)不會真正知道，直到你有機(jī)會進(jìn)行實(shí)驗(yàn)。我們有機(jī)會進(jìn)行了這個(gè)實(shí)驗(yàn)，我了解到團(tuán)隊(duì)非常具有韌性，并且準(zhǔn)備好了在某種程度上運(yùn)營公司。
至于為什么我回來了，你知道，最初當(dāng)董事會在第二天早上打電話給我，問我是否考慮回來時(shí)，我回答說不，我很生氣。然后，我思考了這個(gè)問題，我意識到我有多么熱愛OpenAI，我有多么熱愛這些人，我們建立的文化，以及我們的使命。我有點(diǎn)想要和大家一起完成這一切。
提問7：能談?wù)凮penAI這種俄羅斯套娃的結(jié)構(gòu)嗎？
奧爾特曼： 這種結(jié)構(gòu)是逐漸形成的，如果我們可以重新來過，這不會是我會選擇的方案。但在我們開始的時(shí)候，并沒有想到會有一個(gè)產(chǎn)品。我們只是打算成為一個(gè)人工智能研究實(shí)驗(yàn)室。我們甚至都不清楚，我們對語言模型、API或ChatGPT沒有任何概念。
所以，如果你要?jiǎng)?chuàng)辦一家公司，你必須有一些理論，認(rèn)為你總有一天會銷售一個(gè)產(chǎn)品，而我們當(dāng)時(shí)并沒有這樣想。我們沒有意識到我們會需要這么多錢用于計(jì)算，我們也沒有意識到我們會擁有這樣一個(gè)不錯(cuò)的業(yè)務(wù)。OpenAI創(chuàng)辦之初只是打算推進(jìn)人工智能研究。
提問8：制造出比人類更聰明的東西是否會讓你感到恐懼？
奧爾特曼： 當(dāng)然讓我感到恐懼。人類隨著時(shí)間的推移變得越來越聰明、越來越有能力。你比你的祖父母能做的事要多，不是因?yàn)閭€(gè)人吃得更好或得到更多的醫(yī)療保健，而是社會的基礎(chǔ)設(shè)施進(jìn)步，如互聯(lián)網(wǎng)、iPhone，讓大量知識觸手可及。
社會就是一個(gè)AGI系統(tǒng)，并不是某個(gè)人的大腦所能左右的，是所有人一磚一瓦搭建起來，為后來者創(chuàng)造更高的成就，你的孩子將擁有你沒有的工具。
這總是有點(diǎn)嚇人。但我認(rèn)為，好的方面要比壞的方面多得多。未來的人們將能夠使用這些新工具解決更多的問題。