東南亞犯罪集團(tuán)正在所謂的“殺豬盤”網(wǎng)絡(luò)詐騙行動中使用生成式人工智能聊天機(jī)器人，這種更復(fù)雜的手段可以提高詐騙的有效性，并將擴(kuò)大受害者的范圍。
所謂的“殺豬盤”，是網(wǎng)絡(luò)詐騙的一種新方式，犯罪分子通常潛伏在約會應(yīng)用程序和社交平臺中，將浪漫愛情和賭博心理融入其作案手法。詐騙分子對受害者進(jìn)行數(shù)天甚至數(shù)月的網(wǎng)絡(luò)親密接觸，然后才“收獲”詐騙果實(shí)，這一過程類似于將豬養(yǎng)肥以供屠宰。
聊天機(jī)器人在情緒和感受上“露馬腳”
據(jù)澳大利亞廣播公司（ABC）5月16日報道，犯罪分子過去通常會使用詳細(xì)的“腳本”來獲得受害者的信任，而現(xiàn)在他們利用大語言模型（LLM）或聊天機(jī)器人，用不同語言向受害者發(fā)送消息，進(jìn)一步擴(kuò)大了影響范圍。生成式人工智能還可以使對話更有說服力，并減少詐騙分子與多個受害者互動的工作量。
雖然ChatGPT、Gemini和Copilot等主要人工智能聊天機(jī)器人都有防止其協(xié)助非法活動的護(hù)欄，但其他一些正在開發(fā)的大語言模型沒有此類限制。
網(wǎng)絡(luò)安全公司Sophos的研究人員賈格迪什·錢德拉亞（Jagadeesh Chandraiah）在一篇博客文章中表示，生成式人工智能將文本、圖像、視頻與翻譯相結(jié)合，生成不重復(fù)的“定制內(nèi)容”。它還可用于編寫“殺豬腳本”，寫出令人信服的網(wǎng)絡(luò)釣魚電子郵件，甚至提供如何從頭開始進(jìn)行詐騙的步驟說明，這也可能降低詐騙犯罪的門檻。
然而，犯罪集團(tuán)似乎還無法熟練地使用人工智能。研究人員發(fā)布了一張?jiān)p騙目標(biāo)提供的屏幕截圖，顯示詐騙分子意外透露了他們正在使用大語言模型來生成消息。騙子在給目標(biāo)客戶發(fā)送的WhatsApp消息中寫道：“非常感謝您的善意之言！’我’作為一個語言模型，沒有像人類那樣的感覺或情緒，我被創(chuàng)造出來提供有用和積極的答案幫你?！?/span>
錢德拉亞告訴ABC，人工智能的運(yùn)作仍然需要人類協(xié)助，機(jī)器人偶爾會發(fā)送一些信息，可能表明它們無法與人類交流，尤其是在感受和情緒方面?！熬汀瘹⒇i盤’而言，目前的模型不太擅長描繪情緒和感受，而這又是此類騙局得以成功的關(guān)鍵?！?/p>
但錢德拉亞認(rèn)為，未來隨著人工智能的進(jìn)一步發(fā)展，受害者將很難識別他們正在與機(jī)器人進(jìn)行通信。
AI實(shí)時換臉已成精準(zhǔn)聊天必備
除了最新的聊天機(jī)器人，一些傳統(tǒng)的人工智能技術(shù)，比如深度造假技術(shù)近年來也迅速進(jìn)步，已達(dá)到可以用較高的逼真度完成實(shí)時對話的水平。前黑客、越南網(wǎng)絡(luò)安全專家吳明曉（Ng? Minh Hi?u）表示，用戶現(xiàn)在可以通過開源軟件或付費(fèi)方式輕松訂閱實(shí)時換臉技術(shù)（一種僅改變對象臉部的深度造假技術(shù)）。
全球反詐騙組織（GASO）向ABC提到，一家軟件提供商在廣告中宣稱其“人工智能實(shí)時換臉是精準(zhǔn)聊天的必備”。廣告稱，“它解決了好看的（真人）模特難以招募和管理、成本高昂的問題?！痹撥浖€集成了語音克隆功能，對特定目標(biāo)的模仿相似度可以達(dá)到“60％至95％”。
另一家換臉軟件提供商在柬埔寨提供7天24小時支持、“送貨上門”服務(wù)，并聲稱已在1000多個區(qū)域安裝了其產(chǎn)品。該廣告稱，使用該系統(tǒng)只需要提供一張照片，可用于WhatsApp、Messenger、Line等社交平臺上的視頻通話。
除了“殺豬盤”之外，犯罪分子還利用換臉技術(shù)實(shí)施其他類型的詐騙，例如冒充名人進(jìn)行投資詐騙，以及冒充家人或警察來恐嚇受害者付錢。它還可以用來逃避一些金融機(jī)構(gòu)要求的基于視頻的身份檢查。
澳大利亞陽光海岸市市長羅珊娜·納托利（Rosanna Natoli）最近稱，一名詐騙者使用該技術(shù)冒充她與她的一位朋友進(jìn)行Skype通話。她說：“這位朋友告訴我，這看起來像我，但聽起來不像我?！?/p>
“大多數(shù)換臉應(yīng)用程序都無法偽造實(shí)時聲音。”一位了解柬埔寨詐騙情況的消息人士向ABC表示，技術(shù)能力、計(jì)算能力和互聯(lián)網(wǎng)帶寬等往往限制了詐騙分子使用換臉技術(shù)。“（在許多情況下）聘請東歐模特更為實(shí)際。”他說，盡管技術(shù)進(jìn)步，鏡頭前的真人仍然看起來更合理。
在緬甸，從事加密貨幣“殺豬盤”業(yè)務(wù)的Sam在采訪中說，他的老板曾短暫嘗試過人工智能，因?yàn)樵侥夏Ｌ靥优芰恕＠习逑Ｍ麘?yīng)用程序能夠以數(shù)字方式改變團(tuán)隊(duì)中講英語成員在視頻通話中的外觀，但沒有足夠的源照片來支撐應(yīng)用程序運(yùn)行。
“用頭腦思考，而不是用心思考”
上個月，澳大利亞競爭和消費(fèi)者委員會（ACCC）反詐騙中心表示，雖然2023年統(tǒng)計(jì)的詐騙數(shù)量比2022年有所增加，但損失總額下降了13.1%，至27.4億澳元（約合132.7億元人民幣）。然而，ACCC發(fā)言人仍然對新技術(shù)的出現(xiàn)發(fā)出警告，“詐騙手段日益復(fù)雜，我們應(yīng)該對人工智能帶來的風(fēng)險保持警惕。這將使得人們更難識別詐騙，平臺應(yīng)繼續(xù)謹(jǐn)慎處理任何個人信息或金錢請求，并在點(diǎn)擊鏈接時保持謹(jǐn)慎?！?/p>
該發(fā)言人表示，迄今為止大多數(shù)關(guān)于利用人工智能進(jìn)行詐騙的案例都是以社交平臺網(wǎng)站上“聊天機(jī)器人”的形式出現(xiàn)的?！斑@些機(jī)器人給人留下這樣的印象：許多其他真實(shí)的人對該產(chǎn)品感興趣，并從騙局中獲得經(jīng)濟(jì)利益。”此外，“人工智能還被用來制作投資詐騙視頻，通常會捕捉或制作名人的圖像或鏡頭，并附上讓人信服的音頻?！?/p>
與詐騙受害者合作的Intelligence for Good的網(wǎng)絡(luò)犯罪專家羅尼·托卡佐夫斯基（Ronnie Tokazowski）表示，過去表明某人是詐騙者的一個關(guān)鍵危險信號是他們拒絕進(jìn)行視頻通話?！暗F(xiàn)在壞人已經(jīng)找到了解決辦法?！八f，最好的建議是不要向僅在網(wǎng)上認(rèn)識的人匯款或收款。
“我們需要開始用頭腦思考，而不是用心思考?！卞X德拉亞說，“即使感覺很真實(shí)，而且這種關(guān)系已經(jīng)持續(xù)了一段時間，但如果它起源于互聯(lián)網(wǎng)，并且慢慢轉(zhuǎn)向涉及金錢或加密貨幣的問題，那就遠(yuǎn)離它?！?/p>