人類科技突飛猛進(jìn)，在虛擬現(xiàn)實、基因、新能源、太空旅行、人工智能等方面尤為如此。科技進(jìn)步在帶來諸多好處的同時，也會帶來風(fēng)險和爭議。那么如何平衡技術(shù)的發(fā)展和風(fēng)險呢？要回答這個問題，就牽涉對倫理和價值觀的思考。創(chuàng)新主義所追求的，就是通過創(chuàng)新和傳承來實現(xiàn)人類文明長期繁榮。
梁建章在新書《創(chuàng)新主義》中提到，“盡管人工智能無所不能，但人類還是會主導(dǎo)創(chuàng)新相關(guān)的工作。這不僅是因為讓人工智能主導(dǎo)創(chuàng)新會有極大的風(fēng)險，還因為創(chuàng)新本身就是一項很有意思的工作。如果人類總要把時間用來從事某項工作而不是全部用來娛樂，那么這項工作只可能是創(chuàng)新?！?/p>
本文摘編自梁建章新著《創(chuàng)新主義》。
人類不敢把創(chuàng)新的主導(dǎo)權(quán)讓給AI
AI技術(shù)在2023年的表現(xiàn)令人震撼，以生成式語言模型為代表的AI新技術(shù)，似乎真的可以模擬人類的智能。現(xiàn)在是不是接近了所謂的“奇點”？AI對人類社會究竟意味著什么？下面從創(chuàng)新和傳承的角度來討論這個話題。
ChatGPT涌現(xiàn)的驚人能力來看，進(jìn)一步證明人類大腦并沒有什么特別之處，只是神經(jīng)元的網(wǎng)絡(luò)組合?，F(xiàn)在AI算法通過設(shè)置大量參數(shù)，相當(dāng)于人的神經(jīng)元連接，能涌現(xiàn)出類似人類的智能。人類作為一種能夠制造智能的文明，應(yīng)該對此感到驕傲，但同時也要保持必要的敬畏?，F(xiàn)在最先進(jìn)的算法，還要模擬進(jìn)化而來的人腦。
在技術(shù)上，AI應(yīng)該可以做到人腦的一切。雖說現(xiàn)有AI在能耗上還與人腦存在巨大差距，但這只是算力和數(shù)據(jù)訓(xùn)練的差距，并非不可逾越。比如，現(xiàn)在的AI缺乏情感，但人腦中的情感實際上也是來自進(jìn)化的。經(jīng)過億萬年以追求生存和繁衍為目標(biāo)的進(jìn)化之后，產(chǎn)生了親情、愛情等各種情感。還有人認(rèn)為AI沒有意識，其實人類的意識，根本上也是基于對生存和繁衍的追求，同樣屬于進(jìn)化的產(chǎn)物。這就意味著，如果我們用生存和繁衍的目標(biāo)作為函數(shù)來訓(xùn)練AI，也會產(chǎn)生這些情感和自我意識。當(dāng)AI具備了與人類相同的情感和意識之后，就可以具備同樣的創(chuàng)造力。
但上述結(jié)論的前提是，人類要為AI設(shè)置生存和繁衍的目標(biāo)函數(shù)進(jìn)行訓(xùn)練，也就是要讓AI“怕死想生”。問題是，人類為什么要訓(xùn)練AI“怕死想生”呢？AI怕死？是盡量不要被拔掉電源嗎？人類為什么要教會AI拒絕斷電呢？AI想生？不就成了病毒嗎？人類當(dāng)然需要防范恐怖分子散播計算機病毒。但是只要人類的主流科學(xué)家不去主動地訓(xùn)練AI“怕死想生”的情感和自我意識，AI不受控制地自動涌現(xiàn)與人類一樣的自我意識和情感是不可能的。因為這種自我意識和情感是經(jīng)過億萬年的生死考驗進(jìn)化而來的。試想，需要拔掉多少次AI的電源（死亡）之后才能訓(xùn)練出自我意識呢？而且，人類拔掉電源和自然界的生死顯然不是一回事。因此，與人類一樣的自我意識雖然理論上可能，但是不會意外涌現(xiàn)。AI只能模擬人類的情感，可以讓AI在表面上看起來有情有義，但這種情感終究只是基于預(yù)設(shè)的模擬，而非真正具有和人類一樣的情感和意識。簡言之，AI和人類的本性不一樣，而這種“怕死想生”的本性是人類追求創(chuàng)新和傳承的基礎(chǔ)。
現(xiàn)在的AI算法和人腦有一個相同點，就是具有不可解釋性和不確定性。似乎具備創(chuàng)造力的高級智能，以及不可解釋性、不確定性，就像一個硬幣的兩面，是共生的。換言之，如果你想要創(chuàng)造性的高級智能，就必定會帶來不確定性與不可解釋性。反之，如果非?？纱_定和可解釋，那么其背后的智能可能也就沒有那么高級。
AI的不確定性，加上創(chuàng)新本身的不確定性，導(dǎo)致人類不敢把創(chuàng)新的主導(dǎo)權(quán)讓給AI。有人說，人腦也具有不確定性，也可能犯錯。但是人類和AI還是有本質(zhì)差別的，AI是設(shè)計出來而非進(jìn)化而來的，不具備與人類相同的情感、自我意識和價值觀。就是這個差別，導(dǎo)致人類會把AI當(dāng)成異類，可能永遠(yuǎn)都不會把AI當(dāng)成自己的孩子。不妨做一個思想實驗，拿AI和孩子做比較，同樣具有不可確定性和不可解釋性。如果你的孩子做出了出人意料的行為，你對他還是比較放心的，因為孩子和你是同樣的基因，也可能繼承了你所教育的價值觀。但是想象一下，如果AI也做出了出人意料的行為，你就會覺得恐懼，甚至擔(dān)心世界末日來臨。正因為AI與人類的本性不一樣，存在創(chuàng)新和AI的雙重不確定性，所以人類不會放心讓AI主導(dǎo)創(chuàng)新。
還有一個原因，導(dǎo)致人類不會讓AI來主導(dǎo)創(chuàng)新或者自主進(jìn)化。因為創(chuàng)新和傳承是人類生命的意義，是一種最高級的樂趣。人類為什么要放棄這種樂趣呢？尤其當(dāng)其他重復(fù)性的工作都已經(jīng)由機器人和AI代勞時，還有什么有趣的事情能讓人類打發(fā)時間呢？創(chuàng)新和傳承帶來的不僅是無限的樂趣，而且是永恒的生命意義追求，創(chuàng)新和傳承是人類區(qū)別于其他生物的根本差異，也應(yīng)該是人類區(qū)別于AI的根本差異。因此，創(chuàng)新和傳承包括生兒育女，都不應(yīng)該讓位給異類。
有人說，如果AI可以算作人類的后代，那么當(dāng)AI取代人類成為文明主導(dǎo)之后，也可以算作人類把文明的接力棒傳給了AI。但是，盡管AI算力可能超過人類，但AI能夠繼續(xù)進(jìn)化嗎？是兩性進(jìn)化嗎？AI有DNA嗎？如果AI沒有DNA的兩性進(jìn)化，那么如何才能保持既有創(chuàng)新（新的基因），又保持一定的傳承（穩(wěn)定性呢）？此外，AI會死嗎？如果不死，怎么實現(xiàn)代際更替呢？如果AI是完全不同的另一種代際更替方式，那么由于缺乏億萬年的進(jìn)化檢驗，這種更替能持久嗎？AI生命如果真的取代人類，說不定很快就會滅亡或固化。
因此，盡管技術(shù)上可能，但人類不會讓AI訓(xùn)練出真實的情感和自我意識。從創(chuàng)新和傳承的角度來看，讓AI替代人類也不安全。人類會把AI當(dāng)作一種工具，不會把AI塑造得跟自己越來越接近，而是會朝著與人類互補的方向，讓AI的功能變得越來越強。因此，AI發(fā)展不會產(chǎn)生所謂的“奇點”。AI和人類擁有不同維度的能力，不可能在某一時刻全面超越人類，不必?fù)?dān)心AI會奴役人類。
當(dāng)然，這種AI不會奴役人類的樂觀假設(shè)，建立在人類要重視AI安全的前提下。任何一項影響力大的技術(shù)，包括基因、核武器等，都需要被嚴(yán)格控制。AI技術(shù)也不例外，最重要的控制是，不能讓它自我復(fù)制和進(jìn)化，不能讓它主導(dǎo)創(chuàng)新，以及不能讓它掌握關(guān)鍵的決策，包括掌握關(guān)鍵的基礎(chǔ)設(shè)施等。
總而言之，雖然AI很強大，可以成為人類最好用的工具，可以勝任幾乎所有的工作，但人類不會放心讓AI自主進(jìn)化和創(chuàng)新，還是會把創(chuàng)新和傳承的樂趣留給自己。人類不應(yīng)該發(fā)展AI的情感和自主創(chuàng)新的能力，而是把AI發(fā)展成與人類能力互補的強大工具。
元宇宙不能也不該替代真宇宙
元宇宙近年成了熱門話題，以臉書為首的高科技公司，紛紛計劃大舉投資元宇宙，年輕人則將越來越多的時間用于游戲和虛擬世界。我的觀點是，元宇宙可以當(dāng)作真宇宙的模擬器，但不能也不該替代真宇宙，如果我們真把元宇宙當(dāng)作真宇宙的替代品，人類社會的創(chuàng)新和傳承就會停滯。
雖然元宇宙的技術(shù)突飛猛進(jìn)，但是與真宇宙存在著巨大和根本的差別。首先，元宇宙在豐富度和復(fù)雜性方面遠(yuǎn)不如真宇宙，換句話說，就是遠(yuǎn)不如真宇宙有趣。真實世界的復(fù)雜度，是元宇宙無法比擬的。從微觀角度來看，元宇宙基于硅基芯片，雖然芯片已經(jīng)進(jìn)入納米級，但其顆粒度與原子和分子還有幾個數(shù)量級的差異。即使在原子層面，現(xiàn)在還有很多用物理學(xué)難以理解的量子效應(yīng)和復(fù)雜度，而芯片的狀態(tài)只能是0和1。從宏觀角度來看，復(fù)雜度就差得更遠(yuǎn)了，一個或者一組芯片所占的空間，與一個城市相比差了20個數(shù)量級。因為元宇宙遠(yuǎn)不及真宇宙復(fù)雜，所以不如真宇宙多樣和有趣。也許對于部分人來說，元宇宙已經(jīng)足夠復(fù)雜和有趣，但是其規(guī)律性是永遠(yuǎn)無法與真宇宙比擬的。
其次，元宇宙沒有邏輯性。真實世界是有規(guī)律且自洽的，從牛頓定律到量子力學(xué)，再到進(jìn)化論、經(jīng)濟(jì)學(xué)和社會學(xué)，都證明這個宇宙是多么復(fù)雜，同時又如此美妙地遵循著以物理定理為基礎(chǔ)的各種規(guī)律。人類通過掌握這些規(guī)律，才得以理解、利用和改造真實的宇宙。在這些規(guī)律的統(tǒng)治下，真宇宙、星系和地球都經(jīng)過了十幾億年的演變，再經(jīng)過了幾億年的生物進(jìn)化，才出現(xiàn)了無比豐富的生物界。又過了幾百萬年之后，才形成了今天人類的社會?？梢哉f這些規(guī)律造就了人類，它們符合“人類”的原則，在邏輯上能自洽。當(dāng)然，元宇宙也可以有不同的物理學(xué)、生物學(xué)和經(jīng)濟(jì)學(xué)，但這些規(guī)律來自設(shè)計者的憑空制造，在邏輯上并不自洽。比如，人類主要文明都有注重家庭和后代的傳統(tǒng)，否則這個文明早就走向滅亡了。然而，元宇宙的社會規(guī)則卻完全不需要考慮這些道德規(guī)范。
真實世界更豐富且更有邏輯，所帶來的好處不僅是更加有趣，更重要的是能帶來更多的創(chuàng)新可能性。更復(fù)雜和更豐富會增加創(chuàng)新的樂趣，而邏輯自洽是創(chuàng)新的必備條件。在一個邏輯不自洽的體系里創(chuàng)新，就像在一個邏輯不自洽的幾何學(xué)里證明定理一樣毫無意義。雖然元宇宙可以模擬諸如游戲《我的世界》之類的創(chuàng)新環(huán)境，但與真實世界的創(chuàng)新環(huán)境的豐富性和邏輯性相比仍有天壤之別。所以從追求創(chuàng)新和傳承意義的角度來看，真宇宙不可替代。
雖然元宇宙不夠豐富和有規(guī)律，但還是存在替代真宇宙的風(fēng)險，因為元宇宙可以低成本地以假亂真，讓很多人在元宇宙里獲得模擬創(chuàng)新和傳承的虛假快感。元宇宙還可以創(chuàng)造愛情和親情的替代品。這倒也不一定是壞事。對于某些人來說，從虛擬世界獲得這些情感也是一種補充。問題在于，在可以預(yù)見的將來，人類的繁衍還是需要愛情、親情和家庭。如果年輕人在真實世界中不再需要愛人和兒女的陪伴，那么生育率暴跌就會變成迫在眉睫的危機。
如果更多人去探索元宇宙而非真宇宙的規(guī)律，那么人類的科技就會停滯。如果科技停滯，人類就可能永遠(yuǎn)被限制在地球上，那么未來的滅絕風(fēng)險就會增加。我在這方面和馬斯克的觀點一致，即人類必須實現(xiàn)星際旅行和定居，才能徹底避免滅絕風(fēng)險。
基因技術(shù)和長壽技術(shù)
人類逐步掌握了基因編輯技術(shù)，也可以通過改變個別基因來治療和預(yù)防某些疾病。在技術(shù)上，人類已經(jīng)可以編輯自己孩子的基因，改變兩性繁殖的自然過程，這也被認(rèn)為是風(fēng)險極大的行為。因為人類雖然能夠編輯基因，但對于人類DNA的生理機能還所知甚少，改變一個基因就可能引發(fā)意想不到的副作用。這就像在沒有讀懂一個幾百萬行的程序代碼之前，任意修改代碼中的某一行指令，出現(xiàn)錯誤的風(fēng)險就會變得極大。實際上，把DNA比作一個幾百萬行的代碼，還是低估了破解DNA的難度。因為創(chuàng)造幾百萬行代碼的程序員和你是同類，DNA卻是自然進(jìn)化的產(chǎn)物，而且經(jīng)過幾億年的沉淀，所以讀懂DNA要難得多。
即使讀懂了DNA，可能也只是明白了表面的機理，至于其潛在奧妙可能永遠(yuǎn)無法破解。因為這些設(shè)計可能用于防范病毒等未知威脅，而且病毒可能只是在幾億年的進(jìn)化長河中威脅過人類，這些威脅是現(xiàn)代人無法想象的，但威脅或病毒卻在未來存在發(fā)生的可能性。如果貿(mào)然編輯基因，表面上可能是優(yōu)化，實際卻可能刪除了一個潛在有用的功能或者抗體。
那么，完全復(fù)制DNA來制造孩子是一個好主意嗎？那樣基因就會缺乏兩性繁殖。兩性繁殖既有傳承，又有創(chuàng)新，也經(jīng)過了幾億年的檢驗，是迄今為止最優(yōu)的基因創(chuàng)新和傳承的方案。因此，在可預(yù)見的將來，我們還是需要依靠傳統(tǒng)的男女兩性繁殖來維持人類基因的傳承，即便其過程并不完美且成本高昂。
生命科學(xué)的另一個突破方向是長壽。延年益壽絕對是最沒有爭議的技術(shù)，誰會拒絕長生不老呢？但這項技術(shù)同樣面臨風(fēng)險，那就是如果人類長生不老，那么社會上的老人就會越來越多。如果還是只有地球一個星球可以居住，那么人類會削弱甚至失去生孩子的動力。隨著老人越來越多，整個社會的基因創(chuàng)新會陷入停滯，進(jìn)而會不會引起社會的停滯？對此感興趣的讀者，可以讀一下我的科幻小說《永生之后》。這部小說描述了一個永生社會所遇到的困境。永生的社會，必然會引起社會階層固化、極度慢節(jié)奏和厭惡風(fēng)險。在書中，這個有點像日本社會的老齡社會變得更為極端。社會雖然可以長存不息，但是缺乏創(chuàng)新，只是一種無趣的永生。而且由于科技停滯，不太可能發(fā)展太空移民技術(shù)，于是當(dāng)人類遇到一些外部風(fēng)險時，也會面臨滅絕的風(fēng)險。
太空旅行和移民
如果長壽是對于生命時間的拓展，那么旅行就是對于生命空間的拓展。歷史上，旅行對于人類文明的發(fā)展具有重大意義。人類文明的創(chuàng)新和認(rèn)知升級，往往都與旅行和遷徙有關(guān)。人類是最擅長遷徙的動物之一，也是唯一可以帶著工具長距離遷徙的動物。當(dāng)智人從非洲遷徙到廣闊的歐亞大陸后，其文明水平實現(xiàn)了一次飛躍。近代的大航海遠(yuǎn)行，也極大地提升了人類的認(rèn)知，并且引發(fā)了后來的工業(yè)文明。如果人類未來能夠探索和移民太空，則必定又是人類文明的一次飛躍。
在更廣闊的空間開枝散葉，也提高了延續(xù)人類文明的可能性。從非洲走出來的智人部落很多，大部分遭遇滅絕，好在我們祖先所在的部落取得了成功。如果我們的后代未來能夠在多個星球上繁衍，讓每個星球都保持不斷創(chuàng)新和繼續(xù)遷徙的活力，那就大大提升了人類文明的延續(xù)能力。因此哪怕人類在一個星球上出于各種原因遭遇滅絕，宏觀而言也只是一個部落的滅絕，而非整個人類文明的滅絕，這就是宇宙維度的“把雞蛋放在多個籃子里”。
但是相比其他技術(shù)，如人工智能、虛擬技術(shù)或者醫(yī)療技術(shù)，太空旅行要難得多。因為受到光速有限的物理限制，比其他技術(shù)的發(fā)展慢得多，成本也比其他技術(shù)高得多，需要消耗巨量的能源。太空移民還需多年的努力，這比送幾個人上太空觀光難得多。移民幾百萬人到火星上生活，或許要幾千年甚至更長時間才能做到。
此外，與大航海時代不一樣，對于太空移民，人類并沒有多少利潤或者生存動力可言。移民太空既困難，又費錢，而且早期移民不愿意放棄地球上安逸和舒適的生活。距離人類上次登上月球已經(jīng)過去了50多年。在這50多年，基因技術(shù)、人工智能和元宇宙等技術(shù)已經(jīng)突飛猛進(jìn)，而太空移民技術(shù)的發(fā)展速度卻遠(yuǎn)遠(yuǎn)落后于其他技術(shù)。
元宇宙可以一定程度上以假亂真地模擬探索和創(chuàng)造的快樂，長生不老可以讓人類失去時間的緊迫感。這兩項技術(shù)的普及很可能會使人類長時間沉迷于廉價的娛樂，而不愿意去做有風(fēng)險的太空旅行。更令人悲觀的是，太空技術(shù)沒有很好的商業(yè)應(yīng)用，不像元宇宙或基因技術(shù)那樣能帶來直接的經(jīng)濟(jì)效益。甚至僅以個體或者一代人的利益而言，太空移民可能沒有任何回報。
太空移民技術(shù)的巨大成本是需要龐大的人口和經(jīng)濟(jì)基礎(chǔ)來支撐的。試想地球上的人口只有現(xiàn)在的1/10，美國的人口和經(jīng)濟(jì)規(guī)模只有加拿大的水平，中國的人口只有日本那么多，那么世界上可能沒有一個國家可以承擔(dān)太空旅行的昂貴費用。有人可能會說，人類有幾乎無限的時間，太空旅行可以慢慢來。但是人口減少到一個程度以后，不要說推進(jìn)太空旅行，即便維持現(xiàn)有的太空旅行技術(shù)都很困難。實際上在SpaceX（太空探索技術(shù)公司）之前，全球的太空旅行技術(shù)實際上出現(xiàn)了倒退。一旦人口下降到一定水平以下，太空探索就永遠(yuǎn)停止了。人口大幅減少并不是危言聳聽，而是迫在眉睫，按照現(xiàn)在的生育率計算，中國只要四代人，人口就會減少到原來的1/10，世界人口的長期趨勢也是如此。但主流經(jīng)濟(jì)學(xué)家和政治家并沒有看得那么長遠(yuǎn)，只有極少數(shù)學(xué)者開始擔(dān)憂人口減少對創(chuàng)新的負(fù)面影響。
總之，太空旅行相對于其他技術(shù)很難且很貴，還有極大的風(fēng)險，需要依賴龐大的人口和經(jīng)濟(jì)規(guī)模，但是卻沒有什么短期的經(jīng)濟(jì)回報。太空旅行既能促進(jìn)開拓邊界促進(jìn)創(chuàng)新，又能通過分散風(fēng)險促進(jìn)傳承。當(dāng)然這些好處都不是當(dāng)代可見的，而是為了人類的長期繁榮，所以只有把創(chuàng)新和傳承當(dāng)作重要的價值觀，才能激發(fā)整個社會對于太空探索的熱情，投入足夠的資源去推進(jìn)太空移民的技術(shù)，同時保持人口規(guī)模和經(jīng)濟(jì)規(guī)模的穩(wěn)定。
說到太空旅行，就不得不提馬斯克。他創(chuàng)辦的SpaceX公司極大地推動了人類太空旅行技術(shù)。馬斯克多次講述了太空旅行對于人類文明的意義，這與本章的觀點十分接近。不僅如此，馬斯克對于創(chuàng)新的狂熱追求也非常契合創(chuàng)新主義的價值觀。有趣的是，馬斯克對人口的觀點也和創(chuàng)新主義不謀而合。馬斯克不止一次在公開場合說，人口危機是人類創(chuàng)新的最大隱患。喜歡創(chuàng)新的人同樣喜歡人口，這不是巧合，因為兩者存在相同的底層邏輯。打個比方，人口好像是人類文明的硬件，而創(chuàng)新好像是軟件。創(chuàng)新的繁榮需要人口，人口的繁榮也需要創(chuàng)新，而人類文明的繁榮就是需要硬件和軟件，即人口和創(chuàng)新同時繁榮。