編者按：人工智能通過插件可以迅速嵌入到各種應(yīng)用程序中，甚至可以作為一種“元應(yīng)用程序”，來支持其他應(yīng)用程序的功能。大型語言模型與互聯(lián)網(wǎng)相連接是未來的趨勢，而這會(huì)讓人工智能變得勢不可擋。如何管理好 AI？留給我們思考這個(gè)問題的時(shí)間似乎不多了。本文來自編譯，希望對(duì)您有所啟發(fā)。
PHOTOGRAPH: DANIEL SAMBRAUS/GETTY IMAGES
ChatGPT 生成的詩歌、散文和學(xué)術(shù)考試成績都讓人驚嘆?，F(xiàn)在，這個(gè)聊天機(jī)器人可以幫你找到下一班航班，推薦一個(gè)不錯(cuò)的餐廳，還能幫你買個(gè)三明治。
此前，ChatGPT 背后的 OpenAI 公司宣布，包括 Expedia、OpenTable 和 Instacart 在內(nèi)的一系列公司已經(jīng)創(chuàng)建了插件，讓聊天機(jī)器人訪問他們的服務(wù)。一旦用戶激活了這個(gè)插件，他們將能夠要求 ChatGPT 執(zhí)行那些通常需要使用網(wǎng)頁或打開應(yīng)用程序才能做的任務(wù)。
這一舉動(dòng)可能預(yù)示著人們使用電腦、應(yīng)用程序和網(wǎng)絡(luò)的方式將發(fā)生重大轉(zhuǎn)變，聰明的人工智能程序?qū)⒋嫠麄兺瓿呻s事。再次之前，ChatGPT 被切斷了與實(shí)時(shí)互聯(lián)網(wǎng)的連接，無法查詢最新信息或與網(wǎng)站互動(dòng)。改變這一點(diǎn)也可能有助于鞏固 OpenAI 在人工智能和個(gè)人計(jì)算新時(shí)代的中心地位。
“我認(rèn)為這是一個(gè)天才之舉，”英偉達(dá)（Nvidia）研究自主代理的人工智能科學(xué)家范林西（音譯，Linxi“Jim”Fan）說。范說 ChatGPT 閱讀文檔和解釋代碼的能力應(yīng)該會(huì)使集成新插件的過程非常順利。他認(rèn)為，這可能有助于 OpenAI 與蘋果和谷歌展開競爭，這兩個(gè)公司一直以來都在利用其應(yīng)用商店作為競爭的壁壘?！跋乱淮?ChatGPT 將像一個(gè)元應(yīng)用程序，一個(gè)使用其他應(yīng)用程序發(fā)揮作用的應(yīng)用程序。”范說。
但 ChatGPT 和 OpenAI 通過其人工智能獲得越來越大的主導(dǎo)地位，這樣的未來也讓部分人感到憂慮。如果其他企業(yè)過于依賴 OpenAI 的技術(shù)，那么該公司可能會(huì)獲得巨大的經(jīng)濟(jì)回報(bào)，并對(duì)科技行業(yè)產(chǎn)生巨大的影響。如果 ChatGPT 最終成為科技行業(yè)的基礎(chǔ)層，那么 OpenAI 將必須承擔(dān)起巨大的責(zé)任，以確保一項(xiàng)快速發(fā)展的技術(shù)被謹(jǐn)慎而負(fù)責(zé)地使用。
投資集團(tuán) Conviction VC 聯(lián)合創(chuàng)始人莎拉·郭（Sarah Guo）在談到“試圖通過開發(fā)類似 ChatGPT 的技術(shù)來賺錢”的企業(yè)時(shí)表示：“在創(chuàng)業(yè)生態(tài)系統(tǒng)中，那些在 OpenAI 壓路機(jī)面前撿小錢的公司會(huì)有一些壓力。”郭表示，OpenAI 的最新舉措“提高了該公司消費(fèi)者業(yè)務(wù)的持久力和戰(zhàn)略地位”。
OpenAI 憑借 ChatGPT 抓住了公眾的想象力，它比以前的聊天機(jī)器人更有能力、更連貫、更有創(chuàng)造力，這也吸引了數(shù)十家初創(chuàng)公司在其 AI 基礎(chǔ)上進(jìn)行開發(fā)。微軟（Microsoft）也向 OpenAI 投資了100億美元，將 ChatGPT 添加到搜索引擎必應(yīng)（Bing）中，并急于將其整合到其他產(chǎn)品中，包括 Office 套件。
ChatGPT 是建立在 OpenAI 幾年前開始開發(fā)的一種名為 GPT 的算法之上的。GPT 根據(jù)從網(wǎng)頁、書籍和其他來源收集的數(shù)萬億行文本的統(tǒng)計(jì)分析，預(yù)測出應(yīng)該跟在“提示”后面的詞。雖然 GPT 本質(zhì)上只是一個(gè)自動(dòng)補(bǔ)全程序，但最新版本的 GPT-4 具備一些出色的問答功能，包括它可以在許多學(xué)術(shù)測試中取得高分。
許多開源項(xiàng)目（如 LangChain 和 LLamaIndex）也在探索使用大型語言模型提供的功能來構(gòu)建應(yīng)用程序的方法。他說，OpenAI 插件的推出有可能使這些努力付之東流。
插件也可能引入困擾復(fù)雜人工智能模型的風(fēng)險(xiǎn)。據(jù)華盛頓大學(xué)語言學(xué)教授艾米麗·本德（Emily Bender）稱，ChatGPT 自己的插件紅隊(duì)（red team）成員發(fā)現(xiàn)，他們可以“發(fā)送欺騙性或垃圾郵件，繞過安全限制，或?yàn)E用發(fā)送到插件的信息”。
非營利機(jī)構(gòu)人工智能安全中心（Center for AI Safety）主任丹·亨德里克斯（Dan Hendrycks）認(rèn)為，在谷歌、微軟和 OpenAI 等公司積極游說在《人工智能法案》（AI Act）中減輕自身責(zé)任的同時(shí)，插件的應(yīng)用會(huì)使大型語言模型更具風(fēng)險(xiǎn)。他稱 ChatGPT 插件的發(fā)布是一個(gè)糟糕的先例，并懷疑這可能會(huì)導(dǎo)致其他大型語言模型的制造商采取類似的路線。
雖然目前的插件選擇仍然有限，但競爭可能會(huì)推動(dòng) OpenAI 擴(kuò)大選擇范圍。亨德里克斯認(rèn)為，ChatGPT 插件與之前科技公司圍繞對(duì)話式人工智能（如亞馬遜的 Alexa 語音助手）的努力之間有著很大的不同。
例如，GPT-4 可以執(zhí)行 Linux 命令，GPT-4 的紅隊(duì)發(fā)現(xiàn)，該模型可以解釋如何制造生物武器，合成炸彈，或在暗網(wǎng)上購買勒索軟件。亨德里克斯懷疑，在 ChatGPT 插件的支持下，魚叉式網(wǎng)絡(luò)釣魚（spear phishing，指一種網(wǎng)絡(luò)欺詐行為）或網(wǎng)絡(luò)釣魚郵件等任務(wù)會(huì)變得容易得多。亨德里克斯說：“這并不是說 ChatGPT 會(huì)自行制造炸彈或其他東西，但它會(huì)讓做這類事情變得更容易?！?/p>
舊金山大學(xué)（University of San Francisco）應(yīng)用數(shù)據(jù)倫理中心（Center for Applied Data Ethics）代理主任阿里·阿爾哈提布（Ali Alkhatib）表示，語言模型插件的部分問題在于，它們可能會(huì)讓破解此類系統(tǒng)變得更容易。由于你使用自然語言與人工智能交互，因此可能存在數(shù)百萬未被發(fā)現(xiàn)的漏洞。阿爾哈提布認(rèn)為，在微軟和 OpenAI 等公司最近聲稱在人工通用智能方面取得進(jìn)展的背景下，插件的應(yīng)用具有深遠(yuǎn)的影響。
他說：“事情發(fā)展得如此之快，這不僅會(huì)帶來危險(xiǎn)，實(shí)際上還會(huì)對(duì)很多人造成傷害?！彼瑫r(shí)表示擔(dān)心那些熱衷于使用新人工智能系統(tǒng)的公司，可能會(huì)匆忙將插件應(yīng)用到咨詢服務(wù)等敏感環(huán)境中。
Generally Intelligent 是一家致力于開發(fā)人工智能代理的人工智能公司，該公司首席執(zhí)行官邱康軍（音譯，Kanjun Qiu）表示，為 ChatGPT 等人工智能程序添加新功能也可能產(chǎn)生意想不到的后果。例如，一個(gè)聊天機(jī)器人可能會(huì)預(yù)定一個(gè)過于昂貴的航班，或者被用來發(fā)送垃圾郵件，邱說，我們必須搞清誰將對(duì)這種不當(dāng)行為負(fù)責(zé)。
但邱還補(bǔ)充說，與互聯(lián)網(wǎng)相連的人工智能程序具有很強(qiáng)的實(shí)用性，這意味著這項(xiàng)技術(shù)是不可阻擋的?！霸诮酉聛淼膸讉€(gè)月和幾年里，我們可以預(yù)見到，互聯(lián)網(wǎng)的大部分都將與大型語言模型連接起來，”邱說。