財聯(lián)社6月20日訊（編輯 史正丞）當?shù)貢r間周三，上個月從OpenAI離職的公司聯(lián)合創(chuàng)始人、（前）首席科學家，以及去年在OpenAI董事會投出關鍵一票將奧爾特曼趕出公司，又反悔將他請回來的深度學習領域權威專家伊爾亞·蘇茨克維（Ilya Sutskever），正式宣布單飛后的全新AI創(chuàng)業(yè)項目。
（來源：X）
簡單來講，蘇茨克維創(chuàng)辦了一家叫做“安全超級智能”（Safe Superintelligence，簡稱SSI）的新公司，目標是“一步到位”地創(chuàng)造一個安全的超級智能。
安全第一、直通終極目標
蘇茨克維打算在一個純粹的研究機構里，直接創(chuàng)造一個安全、強大的人工智能系統(tǒng)，同時不會在短期內推出任何商業(yè)化產品或服務。他對媒體介紹稱：“這個公司很特別，因為它的第一個產品就會是安全的超級智能，直到（實現(xiàn)）那一天前不會做任何其他事情，完全隔離于外部壓力，不必去處理大型、復雜的產品或陷入激烈的競爭中?！?/p>
安全第一、不搞商業(yè)化、不理睬外界壓力，整段話里蘇茨克維沒有提到過一次OpenAI，但背后的意思已經不言自明。雖然OpenAI的“宮斗”事件以奧爾特曼的大勝、速勝結束，但整件事情背后加速主義與安全主義的路線之爭并沒有結束。
雖然理念不同，但雙方私下里依然維持著尚可的關系。在今年5月15日宣布離開工作十年的OpenAI之時，蘇茨克維也發(fā)布了一張管理層的合照，并表示相信在奧爾特曼等人的帶領下，OpenAI將構建出安全又有益的AGI（通用人工智能）。
（來源：X）
對于蘇茨克維的分道揚鑣，奧爾特曼回應稱“深感悲傷”，并表示沒有蘇茨克維就沒有OpenAI的今天。
自去年的“宮斗”事件結束后，蘇茨克維一直對于整件事保持沉默，直到今天依然如此。在被問及他與奧爾特曼的關系時，蘇茨克維只是簡單地回答了一句“很好”，而被問及過去幾個月的經歷時，他也只是表示“非常奇怪”。
“像核安全一樣的安全”
從某種意義上來看，蘇茨克維目前也無法準確界定AI系統(tǒng)安全與否的分界線，只能說有一些不一樣的想法。
蘇茨克維暗示稱，他的新公司將嘗試使用“嵌入AI系統(tǒng)的工程突破”來實現(xiàn)安全，而不是技術上臨時應用的“防護欄”。他強調：“我們所說的安全，是指像核安全一樣的安全，而不是類似于‘信任與安全’那樣的東西”。
他表示花了很多年來思考AI安全方面的問題，并且在心目中已經有了幾種實現(xiàn)的方法。他介紹稱：“在最基本的層面上，安全的超級智能應該具有這樣的特性，即不會對人類造成大規(guī)模傷害。在此之后，我們可以說希望它成為一種善的力量，一種建立在關鍵價值觀上的力量?！?/p>
除了大名鼎鼎的蘇茨克維外，SSI還有兩名創(chuàng)始人——前蘋果公司機器學習主管、知名科技風險投資人丹尼爾·格羅斯，另一個是與蘇茨克維一同在OpenAI訓練大模型的工程師丹尼爾·萊維。
萊維表示，我的愿景與蘇茨克維完全一致：一個小而精干的團隊，每個人都專注于實現(xiàn)安全超級智能的單一目標。
雖然目前并不清楚SSI為何敢于喊出“一步到位”（到底有多少投資人、投了多少錢），但格羅斯明確表示，公司的確會面臨許多問題，但找錢不會是其中之一。
回歸OpenAI的初心
從一系列愿景中不難發(fā)現(xiàn)，所謂“安全超級智能”，本質上就是OpenAI創(chuàng)立初期的概念。但隨著訓練大模型帶來的費用激增，OpenAI不得不與微軟合作，換取資金和算力支持延續(xù)他們的事業(yè)。
這樣的問題也會出現(xiàn)在SSI未來的路上——公司的投資人真的愿意投入大量資金，看著這家公司沒有任何產出，直到實現(xiàn)“超級智能”的最終目標嗎？
順便一提，“超級智能”本身也是一個理論上的概念，指的是一種超越人類水平的人工智能系統(tǒng)，比起全球大多數(shù)超級科技公司正在追求的成果更加先進。但業(yè)內對于能否實現(xiàn)這樣的智能，或如何構建這樣的系統(tǒng)尚未形成共識。
而令人在意的是，在SSI公司發(fā)布的首個公告中，第一句話就是“超級智能已經近在咫尺”。
附：SSI公告
安全超級智能公司 (Safe Superintelligence Inc.)
超級智能已經近在咫尺。
構建安全的超級智能是我們這個時代最重要的技術問題。
我們已經啟動了世界上第一個直擊目標的SSI實驗室，目標和產品只有一個：安全的超級智能。
它叫做安全超級智能公司。
SSI是我們的使命、我們的名字和我們全部的產品路線圖，因為這是我們唯一的關注點。我們的團隊、投資者和商業(yè)模式都齊心協(xié)力實現(xiàn)SSI。
我們將安全性和能力并行，視為需要通過革命性工程和科學突破解決的技術問題。我們計劃在確保安全性始終優(yōu)先的情況下盡可能快地提高能力。
這樣，我們就能在平靜的狀態(tài)中擴展。
我們的專注意味著不會因管理事務或產品周期而分心，我們的商業(yè)模式意味著安全性和技術進步都不會受到短期商業(yè)壓力的影響。
我們是一家美國公司，在帕洛阿爾托和特拉維夫設有辦事處，這些地方是我們的根基所在，也能在這些地方招募到頂尖的技術人才。
我們正在組建一個精簡的、出類拔萃的世界頂尖工程師和研究人員團隊，只專注于SSI。
如果你是那樣的人，我們提供一個機會，讓你完成一生的事業(yè)，幫助解決我們這個時代最重要的技術挑戰(zhàn)。
現(xiàn)在是時候了。加入我們。
伊利亞·蘇茨克維爾 、丹尼爾·格羅斯、丹尼爾·利維
2024年6月19日
