編者按：人工智能通過(guò)插件可以迅速嵌入到各種應(yīng)用程序中，甚至可以作為一種“元應(yīng)用程序”，來(lái)支持其他應(yīng)用程序的功能。大型語(yǔ)言模型與互聯(lián)網(wǎng)相連接是未來(lái)的趨勢(shì)，而這會(huì)讓人工智能變得勢(shì)不可擋。如何管理好 AI？留給我們思考這個(gè)問(wèn)題的時(shí)間似乎不多了。本文來(lái)自編譯，希望對(duì)您有所啟發(fā)。
PHOTOGRAPH: DANIEL SAMBRAUS/GETTY IMAGES
ChatGPT 生成的詩(shī)歌、散文和學(xué)術(shù)考試成績(jī)都讓人驚嘆。現(xiàn)在，這個(gè)聊天機(jī)器人可以幫你找到下一班航班，推薦一個(gè)不錯(cuò)的餐廳，還能幫你買個(gè)三明治。
此前，ChatGPT 背后的 OpenAI 公司宣布，包括 Expedia、OpenTable 和 Instacart 在內(nèi)的一系列公司已經(jīng)創(chuàng)建了插件，讓聊天機(jī)器人訪問(wèn)他們的服務(wù)。一旦用戶激活了這個(gè)插件，他們將能夠要求 ChatGPT 執(zhí)行那些通常需要使用網(wǎng)頁(yè)或打開(kāi)應(yīng)用程序才能做的任務(wù)。
這一舉動(dòng)可能預(yù)示著人們使用電腦、應(yīng)用程序和網(wǎng)絡(luò)的方式將發(fā)生重大轉(zhuǎn)變，聰明的人工智能程序?qū)⒋嫠麄兺瓿呻s事。再次之前，ChatGPT 被切斷了與實(shí)時(shí)互聯(lián)網(wǎng)的連接，無(wú)法查詢最新信息或與網(wǎng)站互動(dòng)。改變這一點(diǎn)也可能有助于鞏固 OpenAI 在人工智能和個(gè)人計(jì)算新時(shí)代的中心地位。
“我認(rèn)為這是一個(gè)天才之舉，”英偉達(dá)（Nvidia）研究自主代理的人工智能科學(xué)家范林西（音譯，Linxi“Jim”Fan）說(shuō)。范說(shuō) ChatGPT 閱讀文檔和解釋代碼的能力應(yīng)該會(huì)使集成新插件的過(guò)程非常順利。他認(rèn)為，這可能有助于 OpenAI 與蘋果和谷歌展開(kāi)競(jìng)爭(zhēng)，這兩個(gè)公司一直以來(lái)都在利用其應(yīng)用商店作為競(jìng)爭(zhēng)的壁壘?！跋乱淮?ChatGPT 將像一個(gè)元應(yīng)用程序，一個(gè)使用其他應(yīng)用程序發(fā)揮作用的應(yīng)用程序?！狈墩f(shuō)。
但 ChatGPT 和 OpenAI 通過(guò)其人工智能獲得越來(lái)越大的主導(dǎo)地位，這樣的未來(lái)也讓部分人感到憂慮。如果其他企業(yè)過(guò)于依賴 OpenAI 的技術(shù)，那么該公司可能會(huì)獲得巨大的經(jīng)濟(jì)回報(bào)，并對(duì)科技行業(yè)產(chǎn)生巨大的影響。如果 ChatGPT 最終成為科技行業(yè)的基礎(chǔ)層，那么 OpenAI 將必須承擔(dān)起巨大的責(zé)任，以確保一項(xiàng)快速發(fā)展的技術(shù)被謹(jǐn)慎而負(fù)責(zé)地使用。
投資集團(tuán) Conviction VC 聯(lián)合創(chuàng)始人莎拉·郭（Sarah Guo）在談到“試圖通過(guò)開(kāi)發(fā)類似 ChatGPT 的技術(shù)來(lái)賺錢”的企業(yè)時(shí)表示：“在創(chuàng)業(yè)生態(tài)系統(tǒng)中，那些在 OpenAI 壓路機(jī)面前撿小錢的公司會(huì)有一些壓力?！惫硎?，OpenAI 的最新舉措“提高了該公司消費(fèi)者業(yè)務(wù)的持久力和戰(zhàn)略地位”。
OpenAI 憑借 ChatGPT 抓住了公眾的想象力，它比以前的聊天機(jī)器人更有能力、更連貫、更有創(chuàng)造力，這也吸引了數(shù)十家初創(chuàng)公司在其 AI 基礎(chǔ)上進(jìn)行開(kāi)發(fā)。微軟（Microsoft）也向 OpenAI 投資了100億美元，將 ChatGPT 添加到搜索引擎必應(yīng)（Bing）中，并急于將其整合到其他產(chǎn)品中，包括 Office 套件。
ChatGPT 是建立在 OpenAI 幾年前開(kāi)始開(kāi)發(fā)的一種名為 GPT 的算法之上的。GPT 根據(jù)從網(wǎng)頁(yè)、書(shū)籍和其他來(lái)源收集的數(shù)萬(wàn)億行文本的統(tǒng)計(jì)分析，預(yù)測(cè)出應(yīng)該跟在“提示”后面的詞。雖然 GPT 本質(zhì)上只是一個(gè)自動(dòng)補(bǔ)全程序，但最新版本的 GPT-4 具備一些出色的問(wèn)答功能，包括它可以在許多學(xué)術(shù)測(cè)試中取得高分。
許多開(kāi)源項(xiàng)目（如 LangChain 和 LLamaIndex）也在探索使用大型語(yǔ)言模型提供的功能來(lái)構(gòu)建應(yīng)用程序的方法。他說(shuō)，OpenAI 插件的推出有可能使這些努力付之東流。
插件也可能引入困擾復(fù)雜人工智能模型的風(fēng)險(xiǎn)。據(jù)華盛頓大學(xué)語(yǔ)言學(xué)教授艾米麗·本德（Emily Bender）稱，ChatGPT 自己的插件紅隊(duì)（red team）成員發(fā)現(xiàn)，他們可以“發(fā)送欺騙性或垃圾郵件，繞過(guò)安全限制，或?yàn)E用發(fā)送到插件的信息”。
非營(yíng)利機(jī)構(gòu)人工智能安全中心（Center for AI Safety）主任丹·亨德里克斯（Dan Hendrycks）認(rèn)為，在谷歌、微軟和 OpenAI 等公司積極游說(shuō)在《人工智能法案》（AI Act）中減輕自身責(zé)任的同時(shí)，插件的應(yīng)用會(huì)使大型語(yǔ)言模型更具風(fēng)險(xiǎn)。他稱 ChatGPT 插件的發(fā)布是一個(gè)糟糕的先例，并懷疑這可能會(huì)導(dǎo)致其他大型語(yǔ)言模型的制造商采取類似的路線。
雖然目前的插件選擇仍然有限，但競(jìng)爭(zhēng)可能會(huì)推動(dòng) OpenAI 擴(kuò)大選擇范圍。亨德里克斯認(rèn)為，ChatGPT 插件與之前科技公司圍繞對(duì)話式人工智能（如亞馬遜的 Alexa 語(yǔ)音助手）的努力之間有著很大的不同。
例如，GPT-4 可以執(zhí)行 Linux 命令，GPT-4 的紅隊(duì)發(fā)現(xiàn)，該模型可以解釋如何制造生物武器，合成炸彈，或在暗網(wǎng)上購(gòu)買勒索軟件。亨德里克斯懷疑，在 ChatGPT 插件的支持下，魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)（spear phishing，指一種網(wǎng)絡(luò)欺詐行為）或網(wǎng)絡(luò)釣魚(yú)郵件等任務(wù)會(huì)變得容易得多。亨德里克斯說(shuō)：“這并不是說(shuō) ChatGPT 會(huì)自行制造炸彈或其他東西，但它會(huì)讓做這類事情變得更容易?！?/p>
舊金山大學(xué)（University of San Francisco）應(yīng)用數(shù)據(jù)倫理中心（Center for Applied Data Ethics）代理主任阿里·阿爾哈提布（Ali Alkhatib）表示，語(yǔ)言模型插件的部分問(wèn)題在于，它們可能會(huì)讓破解此類系統(tǒng)變得更容易。由于你使用自然語(yǔ)言與人工智能交互，因此可能存在數(shù)百萬(wàn)未被發(fā)現(xiàn)的漏洞。阿爾哈提布認(rèn)為，在微軟和 OpenAI 等公司最近聲稱在人工通用智能方面取得進(jìn)展的背景下，插件的應(yīng)用具有深遠(yuǎn)的影響。
他說(shuō)：“事情發(fā)展得如此之快，這不僅會(huì)帶來(lái)危險(xiǎn)，實(shí)際上還會(huì)對(duì)很多人造成傷害?！彼瑫r(shí)表示擔(dān)心那些熱衷于使用新人工智能系統(tǒng)的公司，可能會(huì)匆忙將插件應(yīng)用到咨詢服務(wù)等敏感環(huán)境中。
Generally Intelligent 是一家致力于開(kāi)發(fā)人工智能代理的人工智能公司，該公司首席執(zhí)行官邱康軍（音譯，Kanjun Qiu）表示，為 ChatGPT 等人工智能程序添加新功能也可能產(chǎn)生意想不到的后果。例如，一個(gè)聊天機(jī)器人可能會(huì)預(yù)定一個(gè)過(guò)于昂貴的航班，或者被用來(lái)發(fā)送垃圾郵件，邱說(shuō)，我們必須搞清誰(shuí)將對(duì)這種不當(dāng)行為負(fù)責(zé)。
但邱還補(bǔ)充說(shuō)，與互聯(lián)網(wǎng)相連的人工智能程序具有很強(qiáng)的實(shí)用性，這意味著這項(xiàng)技術(shù)是不可阻擋的?！霸诮酉聛?lái)的幾個(gè)月和幾年里，我們可以預(yù)見(jiàn)到，互聯(lián)網(wǎng)的大部分都將與大型語(yǔ)言模型連接起來(lái)，”邱說(shuō)。