鳳凰網(wǎng)《風(fēng)暴眼》出品
文｜不語(yǔ) 編輯｜文驊
爆料郵箱：all_cj@ifeng.com
編者按：自從“假靳東”騙姐姐錢的生意走紅后，收割中老年群體，幾乎成了社交平臺(tái)上賺錢之道。盡管平臺(tái)一直試圖取締虛假賬號(hào)，但無(wú)奈新興玩法層出不窮。
這不，AI技術(shù)的流行，還意外帶火了“電商博主”，去年開(kāi)始，網(wǎng)上涌現(xiàn)了一批冒充俄羅斯女孩的賬號(hào)，雖然仿似低配版的“靳東戀愛(ài)人設(shè)”，沒(méi)有甜言蜜語(yǔ)，而且只會(huì)迎合中老年大叔的喜好，說(shuō)些中俄友誼、喜歡中國(guó)男人的話，但是短短一個(gè)月，依然能積攢數(shù)十萬(wàn)粉絲。
這些賬號(hào)背后，從賣軟件、養(yǎng)號(hào)，到賣貨甚至詐騙，早已衍生出一條灰色產(chǎn)業(yè)鏈。基于目標(biāo)群體的定位，它們大多兜售的都是20-100元的單價(jià)生意。
01“我臉被盜了”
“那里不是一個(gè)人，而是一群克隆我的人，每個(gè)人都得到了數(shù)千個(gè)點(diǎn)贊和評(píng)論”, 今年春節(jié)后，烏克蘭網(wǎng)紅Olga Loiek以《有人在中國(guó)把我克隆》為題發(fā)布了一則控訴視頻，她站在鏡頭前，雙手緊握，語(yǔ)氣中帶著憤怒與無(wú)奈。
據(jù)Olga Loiek講述，她的面孔和聲音在中文網(wǎng)絡(luò)上被非法盜用，被肆意操控用于創(chuàng)建多達(dá)數(shù)十個(gè)短視頻賬號(hào)。這些賬號(hào)名稱各異，內(nèi)容五花八門，但核心點(diǎn)卻出奇一致——將Olga Loiek塑造為一個(gè)熱愛(ài)中國(guó)的俄羅斯姑娘形象，進(jìn)而推銷各類俄羅斯特色商品。
Olga Loiek在社交平臺(tái)控訴臉被盜
鳳凰網(wǎng)《風(fēng)暴眼》了解到，春節(jié)前，國(guó)內(nèi)短視頻平臺(tái)上涌現(xiàn)出不少這樣的“俄羅斯美女”博主，它們敏銳地捕捉到了短視頻平臺(tái)的流量紅利以及消費(fèi)者對(duì)異國(guó)風(fēng)情美女的濃厚興趣與追求，將其作為謀求財(cái)富的捷徑。
這些博主有著精致的面容，用流利的中文講述著“中俄友好”、“中國(guó)好”的話題。但如同Olga Loiek所講，短視頻里的人都是AI技術(shù)的產(chǎn)物，是盜用她人面孔批量化生成的虛假形象。
雖然仔細(xì)分辨不難看出是假的，譬如人的表情顯得僵硬，口型不對(duì)，也沒(méi)有什么動(dòng)作。視頻偶爾還會(huì)出現(xiàn)掉幀的情況，但很多粉絲似乎并沒(méi)有產(chǎn)生絲毫懷疑，不僅積極點(diǎn)贊，而且還在評(píng)論區(qū)留言，“你很漂亮”、“我很想見(jiàn)到你”、“請(qǐng)回復(fù)我消息”等，有的甚至?xí)蛯?duì)方私信。
王軍從2023年起，便踏入了自媒體創(chuàng)業(yè)的大潮， AI俄羅斯美女帶貨，正是他近期研究的一門新生意。他向鳳凰網(wǎng)《風(fēng)暴眼》介紹，打造這樣一個(gè)博主非常簡(jiǎn)單。第一步便是從外網(wǎng)找美女素材，即盜臉，“最好是選擇豐滿型或者可愛(ài)型”。有了美女素材后，再通過(guò)HeyGen等AI肖像克隆軟件進(jìn)行面部替換和表情調(diào)整，一個(gè)“俄羅斯美女”博主就誕生了。
不光俄羅斯美女，任何國(guó)家的美女形象，都可以借助技術(shù)生成，但是這兩年俄羅斯美女的人設(shè)更流行。
這類賬號(hào)的粉絲受眾以三四線城市40歲以上的中年男人為主，新榜編輯云飛揚(yáng)稱，這些視頻的形式和抖音上一些情感博主很像，會(huì)采用非常濃烈的濾鏡和特效，就會(huì)被當(dāng)他們誤以為是真的。
一旦積累了足夠的粉絲，它們便開(kāi)始利用短視頻平臺(tái)的櫥窗功能進(jìn)行商品銷售，主要銷售的是價(jià)格親民、單價(jià)低于100元的俄羅斯特色商品，以降低消費(fèi)者的決策門檻。
雖然目前尚未出現(xiàn)帶貨成績(jī)特別亮眼的此類博主，但由于制作成本低、難度小，一個(gè)人可以同時(shí)運(yùn)營(yíng)數(shù)十甚至上百個(gè)賬號(hào)。當(dāng)賬號(hào)數(shù)量成倍增加時(shí)，銷售數(shù)據(jù)也將變得非常可觀。
02 培訓(xùn)機(jī)構(gòu)賺瘋了
技術(shù)革新的洪流中，總是潛藏著無(wú)數(shù)的新機(jī)遇。當(dāng)“AI俄羅斯美女”這一概念火起來(lái)后，無(wú)數(shù)的逐風(fēng)者涌入這片藍(lán)海。
在閑魚(yú)平臺(tái)上，搜索“AI俄羅斯美女”，共出現(xiàn)上百條結(jié)果。其中，既有出售HeyGen積分的，也有出售HeyGen平替軟件的，更有甚者，直接出售制作和運(yùn)營(yíng)的相關(guān)教程。其中一家商家頗具誘惑地宣傳道：“趕快做個(gè)俄羅斯AI美女賬號(hào)吧，20多天粉絲就能漲粉50萬(wàn)?！?/p>
一些“AI俄羅斯美女博主”甚至也下場(chǎng)做起了教程培訓(xùn)的生意，“我們主要教視頻制作，并提供變現(xiàn)思路，價(jià)格是998元，做得好一個(gè)視頻就回本了”，他向鳳凰網(wǎng)《風(fēng)暴眼》透露，有學(xué)員30天就積累了16萬(wàn)粉絲。
王軍是最早吃到紅利的的一批人。春節(jié)期間，當(dāng)大多數(shù)人都在享受假期時(shí)，王軍卻忙得不可開(kāi)交。在推出俄羅斯美女制作的相關(guān)教程后，今年1月份，就有一百多人主動(dòng)聯(lián)系他，“感覺(jué)大家都想從風(fēng)口上分一杯羹”。
這些學(xué)員背景各異，有對(duì)短視頻平臺(tái)充滿好奇的新手，也有希望借此機(jī)會(huì)增加額外收入的職場(chǎng)人士，還有專門做短視頻的機(jī)構(gòu)。他們毫不掩飾賺錢欲望，讓王軍賺得盆滿缽滿，按照每人798元的價(jià)格來(lái)算，王軍1月份就有將近20萬(wàn)的收入。
王琳是眾多在此領(lǐng)域?qū)で髾C(jī)會(huì)中的一員。她是一家廣告公司的設(shè)計(jì)師，每天都被繁重的工作和無(wú)盡的加班所困擾，這樣的生活讓她感到窒息，急切地想要尋找一個(gè)出口。她把目光投向了短視頻平臺(tái)，希望將其作為自己職業(yè)生涯的突破口，將來(lái)逃離那份令人壓抑的工作。
從2023年下半年，她開(kāi)始嘗試發(fā)布一些記錄生活的Vlog，但結(jié)果卻令人失望，視頻的流量大多停留在500左右，點(diǎn)贊的也幾乎都是親朋好友，她一度懷疑自己是否適合從事短視頻。
春節(jié)期間，她在網(wǎng)絡(luò)上瀏覽到一些關(guān)于AI俄羅斯美女的文章，“2個(gè)月漲粉63W，帶貨傭金10W+”、“用AI制作俄羅斯美女來(lái)帶貨，櫥窗都賣瘋了”，似乎在這個(gè)風(fēng)口上，觸手可及，這讓她心動(dòng)不已。
疑似AI俄羅斯美女博主用交朋友、嫁中國(guó)人等話題吸引粉絲
她花899元報(bào)名參加一家培訓(xùn)機(jī)構(gòu)，對(duì)方主要提供了視頻的制作流程和一些要用到的軟件。經(jīng)過(guò)一個(gè)星期的摸索，她發(fā)布了自己的第一條視頻。這條視頻的文案借鑒了“要嫁中國(guó)男人的思路”，并在此基礎(chǔ)上進(jìn)行了一些微調(diào)和修改。
令她驚喜的是，視頻一經(jīng)發(fā)布，便迅速獲得了兩三萬(wàn)的流量。隨著后續(xù)三條視頻的陸續(xù)推出，她的粉絲數(shù)量也迅速攀升，很快就突破了5000大關(guān)。
但王琳入局還是太晚了。
Olga的視頻發(fā)布后，迅速在網(wǎng)絡(luò)上發(fā)酵，各大平臺(tái)加強(qiáng)了對(duì)此類AI賬號(hào)的監(jiān)管，Olga Loiek在視頻中提到的“娜塔莎”等博主賬號(hào)悄無(wú)聲息的被封禁，而一些合成俄羅斯美女的賬號(hào)要么停止更新，要么清空賬號(hào)，以避免受到處罰。
以一位名為“俄羅斯小妹”的博主為例，她宣稱自己是在中國(guó)生活了14年的俄羅斯人，并愛(ài)上了中國(guó)，成功吸引到2.8萬(wàn)的粉絲。但如今她的視頻已經(jīng)全部清空，唯一留下的痕跡是櫥窗里展示的9件商品。
風(fēng)暴席卷之下，無(wú)一能幸免。王琳的賬號(hào)，尚未來(lái)得及展示櫥窗的商品，便慘遭封禁。這背后是源于盜臉本身就是一種違法行為。
上海正策律師事務(wù)所董毅智律師向鳳凰網(wǎng)《風(fēng)暴眼》表示，用AI技術(shù)為他人換臉換聲并發(fā)布視頻，可能涉嫌侵權(quán)，根據(jù)《中華人民共和國(guó)民法典》，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開(kāi)肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。
然而，盜臉的惡劣影響并不僅限于此。
03 危險(xiǎn)的機(jī)器
一扇新的技術(shù)大門緩緩打開(kāi)，后面的世界充滿了未知，光點(diǎn)綴的夜空、蜿蜒曲折的小徑、巍峨的山峰以及清澈的小溪，這一切美景或許都存在，但同樣可能只是表象。
在別有用心的人手上，它似乎變成了一臺(tái)危險(xiǎn)的機(jī)器，一個(gè)誹謗他人、欺詐他人的灰色武器。
100多人購(gòu)買AI俄羅斯美女的櫥窗商品
據(jù)《2024人工智能安全報(bào)告》顯示，2023年基于AI的深度偽造欺詐案件呈現(xiàn)出驚人的增長(zhǎng)趨勢(shì)，增長(zhǎng)率高達(dá)3000%。
鳳凰網(wǎng)《風(fēng)暴眼》注意到，已經(jīng)有多名博主公開(kāi)曝光了自己被AI盜臉和制造黃色謠言的經(jīng)歷。2023年7月3日，擁有數(shù)百萬(wàn)粉絲的網(wǎng)紅“@小野”就曾揭露自己的面部圖像被AI技術(shù)用于制作換臉?biāo)矫芤曨l，甚至有人散布關(guān)于她的不實(shí)色情謠言。
值得注意的是，被AI盜臉?biāo)鶄Φ牟粌H僅是女性群體。近年來(lái)，利用AI合成技術(shù)進(jìn)行的詐騙案件屢屢發(fā)生，引起了廣泛關(guān)注。
2023年5月有媒體報(bào)道稱，福州一家公司老板在短短10分鐘內(nèi)被騙走了430萬(wàn)元。詐騙團(tuán)伙利用AI盜臉和擬聲技術(shù)冒充熟人進(jìn)行視頻通話實(shí)施詐騙。警方介紹稱，這類AI詐騙手段還包括聲音合成、AI換臉以及轉(zhuǎn)發(fā)語(yǔ)音等，其成功率幾乎接近100%。
最近，香港警方成功偵破了一起大規(guī)模的AI“深度偽造”詐騙案。詐騙者通過(guò)YouTube等社交軟件收集公司高管的音視頻資料，并利用深度合成技術(shù)進(jìn)行換臉處理提前生成視頻。他們?cè)赯oom在線會(huì)議上使用這些偽造的視頻成功欺騙了公司職員，涉案金額高達(dá)2億港元。
這起案件中的被騙職員所看到的每一個(gè)人物和聽(tīng)到的每一個(gè)聲音都是詐騙者通過(guò)精心偽造的“AI換臉、換聲”技術(shù)制作的，這種高度逼真的偽造技術(shù)讓人防不勝防。
當(dāng)技術(shù)背后的動(dòng)機(jī)變得含糊不清時(shí)，它就如同一臺(tái)被啟動(dòng)的潛在危險(xiǎn)機(jī)器，隨時(shí)可能釋放出無(wú)法預(yù)測(cè)的風(fēng)險(xiǎn)和后果。如何保護(hù)生活邊界不被人工智能技術(shù)侵犯，已經(jīng)演變成了一個(gè)緊迫而重要的現(xiàn)實(shí)問(wèn)題。