劉星辰是東北某市的一名警察。他發(fā)現(xiàn)，近兩年來(lái)，利用AI技術(shù)進(jìn)行犯罪的案件，已經(jīng)影響普通民眾的生活。即使遠(yuǎn)離一線城市，一些三、四線城市甚至縣城的人們因?yàn)閷?duì)這種科技手段疏于防范，成為了這類犯罪的受害者。受害者從家財(cái)萬(wàn)貫的老板，到兒女外出打拼的空巢老人，以及被虛假色情圖片勒索盯上的女性，都有出現(xiàn)。
劉星辰說(shuō)，如今AI犯罪受限于技術(shù)水平，目前尚未普遍。但考慮到這一技術(shù)發(fā)展的日新月異，防范AI技術(shù)參與的新型犯罪手法，成了他和同事工作中重點(diǎn)關(guān)注的領(lǐng)域之一。
以下是他的講述。
AI詐騙瞄準(zhǔn)空巢老人
我叫劉星辰，是東北某市的一名警察。2023年年底，我們就接觸過(guò)有AI參與詐騙的事例。
當(dāng)時(shí)，我們反詐部門的同事接警處理了一起和AI有關(guān)的詐騙的警情。報(bào)警的是我們當(dāng)?shù)匾患毅y行的柜員。
當(dāng)天，這位銀行柜員接待了一位心急的老年人。老人特別著急地想要匯款。如今銀行對(duì)于大額的匯款都會(huì)特別謹(jǐn)慎，于是柜員留了心眼，問(wèn)老人發(fā)生了什么事。
老人說(shuō)，他的孩子生病了，急著用錢，但銀行卡被凍結(jié)了，希望老人打3萬(wàn)元到他發(fā)來(lái)的銀行卡號(hào)里。銀行職員一聽(tīng)，詢問(wèn)了老人知道的信息，幫老人查詢了他孩子的銀行卡賬號(hào)，發(fā)現(xiàn)銀行卡并未被凍結(jié)，于是提醒老人，可能是被騙了。
老人將信將疑，給柜員看了他的“孩子”發(fā)來(lái)的視頻。視頻很短，只有10秒鐘左右，看起來(lái)像是拿著聊天軟件現(xiàn)場(chǎng)錄制的，一位青年人對(duì)著鏡頭說(shuō)，自己生病了，急著用錢，但銀行卡被凍結(jié)了，希望老人打3萬(wàn)元到他發(fā)來(lái)的銀行卡號(hào)里。
老人說(shuō)，視頻里就是他的孩子本人。因?yàn)椴粫?huì)操作網(wǎng)絡(luò)銀行，他才著急忙慌地跑到附近的銀行去匯款。
銀行柜員一看，覺(jué)得視頻明顯不對(duì)勁。里面的人物面部動(dòng)作的時(shí)候缺乏應(yīng)有的折疊，肌肉的拉伸也不正常。于是，柜員給我們專門的反詐部門打電話，我們派了人去。
看過(guò)那則視頻的同事回來(lái)跟我們說(shuō)，那個(gè)視頻，實(shí)際上很容易看出來(lái)是用AI替換了人臉。
老人一方面可能眼部功能不好，一方面也因?yàn)閻?ài)子心切，情急之下沒(méi)能發(fā)現(xiàn)視頻的破綻。幸好他不會(huì)操作網(wǎng)絡(luò)銀行，到銀行求助。一番調(diào)查下來(lái)，我們確定這是一起詐騙案。
這則短短十秒小成本制作的AI換臉視頻，差點(diǎn)騙走了老人家的積蓄。
如今，我們總是在新聞里看到AI科技突飛猛進(jìn)，看起來(lái)這是很高大上的事物，老百姓們會(huì)覺(jué)得這樣的技術(shù)離我們很遠(yuǎn)。但是在我們的工作中，這兩年也會(huì)發(fā)現(xiàn)，和AI相關(guān)的犯罪，其實(shí)已經(jīng)在不知不覺(jué)中，悄悄滲透到了小城市、小縣城的平民百姓的日常生活之中。
在前面那起遭到及時(shí)制止的犯罪里，騙子利用了老人不擅長(zhǎng)使用電子產(chǎn)品的特性。老人不會(huì)使用微信備注，所以，騙子把微信的頭像和昵稱改成和他孩子一樣之后，就成功假冒了老人孩子，老人并沒(méi)有注意到這點(diǎn)。
我們?nèi)プ匪?，老人是什么時(shí)候，通過(guò)什么樣的方式添加了犯罪分子的微信。結(jié)果發(fā)現(xiàn)，對(duì)方很可能是一個(gè)連鎖的犯罪產(chǎn)業(yè)鏈。平時(shí)，這些組織的上游可能會(huì)以組織老人開(kāi)會(huì)學(xué)習(xí)養(yǎng)生知識(shí)等名義，發(fā)點(diǎn)雞蛋、米面糧油為借口籠絡(luò)老人，然后組織他們?nèi)ヅ轀厝⑷ネ嬷惖?。上課的時(shí)候，有些組織會(huì)給老人們發(fā)二維碼，讓老人掃碼進(jìn)群后，有一個(gè)所謂的客服，會(huì)在群里挨個(gè)添加老人的微信。說(shuō)實(shí)話，他們?nèi)绻ㄟ^(guò)群聊而非面對(duì)面、掃一掃添加好友，也會(huì)給后續(xù)偵辦案件增加難度。
這些犯罪分子，應(yīng)該也是先通過(guò)聊天等手段得知老人的各種信息后，做的這么一個(gè)東西。視頻也不是那種特別復(fù)雜的AI換臉，只是把一小段視頻把人的臉換了一個(gè)面部，人物稍微動(dòng)作，也就露出破綻了。
在小城市或者縣城，空巢老人很容易成為這類AI犯罪的受害人。AI參與對(duì)老人的詐騙，我們目前知道的很多是已經(jīng)被攔截下來(lái)的。老人被騙錢有兩種情況。一種是被及時(shí)發(fā)現(xiàn)、攔截，結(jié)果還算好的。有的案子當(dāng)時(shí)沒(méi)有攔截下來(lái)，至少老人知道是騙局了，后續(xù)不會(huì)再賺錢造成進(jìn)一步損失。
另外，也有的老人發(fā)現(xiàn)自己被騙后不會(huì)去報(bào)警，我們知道的時(shí)候，是因?yàn)槠渌讣?，我們做資金穿透，發(fā)現(xiàn)犯罪分子還對(duì)其他受害者進(jìn)行詐騙，或者外省市發(fā)現(xiàn)電信詐騙后反饋給我們，我們才發(fā)現(xiàn)的。
有時(shí)候，我們找上門去，老人都不承認(rèn)。再上火，再后悔，有的老人也不會(huì)往外說(shuō)、不會(huì)尋求幫助。
這些年，針對(duì)各類人群的詐騙確實(shí)挺厲害的。去年，我們這邊全市發(fā)生了5、6期這種模擬人臉的詐騙犯罪。我們分析，犯罪分子能使用AI影像去詐騙，是因?yàn)樗麄兊男袠I(yè)現(xiàn)在比較卷，所以他們有的人覺(jué)得需要向新的套路。
其實(shí)現(xiàn)在詐騙主流還是最簡(jiǎn)單的方法——投資返利?？隙〞?huì)有魚上鉤。一天打1000個(gè)電話，1萬(wàn)個(gè)電話，有一個(gè)人上當(dāng)他們就夠了。
這兩年詐騙的案件很多，用AI詐騙在里面算技術(shù)含量比較高的，更多犯罪分子還是會(huì)使用以往打電話的詐騙方式。比例上來(lái)說(shuō)，目前遇到AI參與其中的詐騙案不算多，還沒(méi)變成主流，但是其苗頭也應(yīng)該引起注意。
我們也十分警惕，因?yàn)橐苍S就下個(gè)月，下周或者明天，犯罪分子就發(fā)展出了用AI犯罪的高明手法。
發(fā)生相關(guān)詐騙之后，對(duì)應(yīng)的社區(qū)也專門做了宣傳，主要就是提醒老人家們，現(xiàn)在已經(jīng)有這種事情發(fā)生了。這樣，如果老人家們遇到類似的事情，知道它是有犯罪可能的，就增加了防范于未然的可能性。
利用AI技術(shù)闖過(guò)面部識(shí)別
隨著AI技術(shù)的發(fā)展，AI技術(shù)幫助犯罪的能力肯定會(huì)不斷增強(qiáng)。你比如說(shuō)，人臉識(shí)別。
雖然目前人臉識(shí)別咱們看有它拙劣的一面。但是細(xì)想一下，拿著這個(gè)東西對(duì)著手機(jī)，人臉識(shí)別，眨眨眼睛，張張嘴，它就能解開(kāi)手機(jī)，打開(kāi)手機(jī)銀行操作資金。一旦能做到這點(diǎn)，對(duì)受害人來(lái)說(shuō)就是無(wú)法挽回的損失。
相關(guān)的案例，其實(shí)已經(jīng)有了。
去年警校同學(xué)聚會(huì)，有一個(gè)江浙地區(qū)的同學(xué)就跟我們說(shuō)了一個(gè)他遇到的案子。當(dāng)時(shí)，他們那一位老板晚上在KTV玩耍過(guò)后，發(fā)現(xiàn)手機(jī)丟失了。
一開(kāi)始，老板沒(méi)當(dāng)回事。結(jié)果沒(méi)過(guò)一會(huì)兒，他就發(fā)現(xiàn)有人開(kāi)始動(dòng)他銀行卡里的資金。犯罪分子把他的錢轉(zhuǎn)走后，就把手機(jī)丟掉了。
同學(xué)說(shuō)，這個(gè)犯罪過(guò)程中，犯罪分子就是利用AI技術(shù)，躲過(guò)了手機(jī)銀行人臉識(shí)別這一關(guān)。銀行卡識(shí)別的流程方便快捷，用戶眨眨眼睛，張張嘴，左右轉(zhuǎn)頭，通過(guò)識(shí)別后，就過(guò)關(guān)了。犯罪分子需要提前用AI制作一份可以用于完成人臉識(shí)別的視頻，然后偷走目標(biāo)手機(jī)，而后通過(guò)面部識(shí)別解鎖手機(jī)，進(jìn)行銀行轉(zhuǎn)賬。
這種犯罪實(shí)施起來(lái)好像很簡(jiǎn)單，但是另一方面，我們警方也很好鎖定犯罪嫌疑人。因?yàn)槟阋谱魇芎φ叩拿娌孔R(shí)別資料，首先得要準(zhǔn)備好多角度、數(shù)量足夠多的受害者面部相片。同時(shí)，偷走手機(jī)也要有接觸受害者的機(jī)會(huì)。一般來(lái)說(shuō)，滿足相關(guān)條件的人選一排查，鎖定的范圍就很小了。一般來(lái)說(shuō)，這類犯罪查到最后很容易發(fā)現(xiàn)是熟人作案。
這起案件發(fā)生后，警方跟銀行確定情況。銀行方面提供了線索，說(shuō)賬戶被動(dòng)前，有人拿手機(jī)做了人臉識(shí)別。警方一聽(tīng)，手機(jī)不在身邊，還是能做人臉識(shí)別，那肯定是通過(guò)面部合成技術(shù)。
他們請(qǐng)受害人那位老板回憶，身邊有沒(méi)有人有條件接觸相關(guān)的東西。老板想到了他的一個(gè)債主。后來(lái)警方結(jié)合轉(zhuǎn)賬后手機(jī)丟掉前的定位，案發(fā)第二天中午，就抓到了犯罪嫌疑人。
聽(tīng)我同學(xué)說(shuō)，最終犯罪分子定的盜竊罪，送進(jìn)了監(jiān)獄。具體的后續(xù)，我們當(dāng)時(shí)沒(méi)有細(xì)問(wèn)，因?yàn)槲覀冎g更關(guān)注的，當(dāng)時(shí)是這種新型犯罪的方式本身。聽(tīng)到同學(xué)說(shuō)，他們發(fā)現(xiàn)犯罪分子可以通過(guò)AI來(lái)解鎖手機(jī)和銀行卡，我們就覺(jué)得很厲害。犯罪分子是怎么做的，它能侵權(quán)到什么樣的程度？知道得更多，對(duì)于我們?nèi)粘９ぷ饕哺杏谩?/p>
警方調(diào)查后發(fā)現(xiàn)，它實(shí)際上是一件民間資金糾紛導(dǎo)致的犯罪。那個(gè)受害者老板欠錢，對(duì)方要不到，才大費(fèi)周章謀劃了這么一個(gè)局。后續(xù)他們能不能把被欠的錢要回來(lái)，我們就不得而知了。
人臉識(shí)別，包括虹膜識(shí)別，我會(huì)認(rèn)為挺危險(xiǎn)的，它們都有被解鎖的事例發(fā)生。根據(jù)我從警這些年的經(jīng)歷和見(jiàn)聞，指紋是比較穩(wěn)的，再一個(gè)就是物理鎖。物理鎖中最穩(wěn)的是四面鎖，那種特別奇怪的，在鎖具店可能都配不出來(lái)鑰匙的那種，幾乎沒(méi)有出現(xiàn)過(guò)盜竊的例子。
人臉識(shí)別和虹膜識(shí)別，都有過(guò)被打開(kāi)的案例。可以說(shuō)，如果AI把人使用各種精深科技這件事變得更加簡(jiǎn)單，犯罪成本就會(huì)更低。目前的情況，它還需要再發(fā)展發(fā)展，還沒(méi)達(dá)到太多能夠應(yīng)用于犯罪上的科技。暫時(shí)，我感覺(jué)它在犯罪領(lǐng)域上還不是特別強(qiáng)，因?yàn)樗€不能夠大范圍鋪開(kāi)，不過(guò)值得警惕。
AI犯罪潛在的威脅
去年在國(guó)際社會(huì)上，利用AI Deepfake技術(shù)合成色情影像侵權(quán)的案件鬧得人心惶惶。我的新書里，我寫過(guò)一篇描述犯罪分子用AI合成色情影像，用來(lái)勒索錢財(cái)?shù)陌咐?/p>
在那起案件中，犯罪分子潛藏在受害女性的工作生活中，通過(guò)偷拍的方式獲得了用AI制造虛假情色視頻所需的相片。而后，犯罪分子把受害女性的面貌用AI技術(shù)制作成了情色視頻，借此勒索女受害人。最終在事情敗露后被抓獲。
其實(shí)，利用影像合成色情圖片拿去敲詐勒索，最早10年前就有這種案例。
這種詐騙即便是發(fā)展到現(xiàn)在，合成的條件再怎么逼真，套路也是一樣的。
在這些案件中，受害者被“架”了上去。有的照片技術(shù)不高，一眼假，受害人也知道是假的。但是犯罪分子就是為了惡心受害人，用這種方式達(dá)到威懾力。他們要的錢財(cái)也不多，對(duì)受害人來(lái)說(shuō)不傷筋動(dòng)骨，讓你花錢消災(zāi)。
我們的理解，AI本身有很強(qiáng)的學(xué)習(xí)功能。這樣的特性，可以讓很多騙子輕而易舉地進(jìn)入一些知識(shí)門檻比較高的領(lǐng)域。你比如說(shuō)合同詐騙。進(jìn)行詐騙的人，要對(duì)特定的行業(yè)有一定的了解，包括這個(gè)行業(yè)的報(bào)價(jià)和行業(yè)均價(jià)對(duì)比什么的，一些合同的細(xì)枝末節(jié)，不了解的人也很容易露出馬腳。所以，一個(gè)騙子可以詐騙的范圍特別窄，特定行業(yè)里詐騙的人也比較有限。
以往，可能犯罪分子會(huì)找顧問(wèn)來(lái)做詐騙，甚至為了一次詐騙包裝出一家皮包公司，這樣的情況，無(wú)論是成功或者被識(shí)破，行業(yè)里出現(xiàn)合同詐騙的消息，也會(huì)立刻傳開(kāi)。前期付出的成本很高，所以這種詐騙者過(guò)去一直沒(méi)有怎么流行起來(lái)。
那么未來(lái)，有沒(méi)有可能一旦AI流行起來(lái)，它可能會(huì)取代原來(lái)犯罪集團(tuán)里顧問(wèn)的角色，又或者犯罪分子可以利用AI技術(shù)來(lái)進(jìn)行合同造假？這是我們需要防范的。
上一篇：大S去世后一雙兒女的撫養(yǎng)權(quán)歸誰(shuí)？律師解讀
下一篇：沒(méi)有了