人工智能技術(shù)，也就是大家常說的AI，一直都被塑造成有著美好想象空間，是未來世界不可或缺的重要技術(shù)領(lǐng)域。
比如馬云曾說，未來30年智能技術(shù)將深入到社會(huì)方方面面，徹底重塑傳統(tǒng)制造業(yè)，不會(huì)用智能技術(shù)的企業(yè)都將失敗。
比爾蓋茨也曾坦言，如果在今天尋找一個(gè)能對(duì)世界造成巨大影響的機(jī)會(huì)，他毫不猶豫地會(huì)選擇人工智能。
有幾個(gè)節(jié)點(diǎn)也讓大眾明確感受到了AI的能量。
曾經(jīng)全球矚目的AlphaGo擊敗了圍棋世界冠軍，證明了AI算力可以輕松超越最頂尖的人類圍棋高手；如今ChatGPT以及衍生應(yīng)用生態(tài)的爆火，也讓人們看到了AI大模型潛在的無限可能性。
今年在資本市場(chǎng)，人工智能同樣再度爆火了一輪。天眼查平臺(tái)統(tǒng)計(jì)數(shù)據(jù)顯示，2023上半年資本力捧人工智能市場(chǎng)，月均融資事件達(dá)48起，其中5月融資數(shù)量最多，有61起。
2023全球數(shù)字經(jīng)濟(jì)大會(huì)人工智能高峰論壇、2023世界人工智能大會(huì)等上半年科技圈的重磅大會(huì)，都把人工智能中的大模型、AGI（通用人工智能）等作為標(biāo)配的重磅話題。
然而，在我們暢想并努力通往人工智能美好未來的同時(shí)，也不該忽略人工智能正在產(chǎn)生的“惡”。至少目前從現(xiàn)實(shí)來看，人工智能帶來的東西，似乎并不如想象般美好。
AI，早已在作惡
你有沒有想過，在熱鬧的社交輿論平臺(tái)上活躍著的，或許根本不是人，而是一個(gè)個(gè)被人工智能訓(xùn)練出來的，有著人類語言風(fēng)格的升級(jí)版“僵尸號(hào)”？
早在2017年，這種操作就已經(jīng)受到了學(xué)者、媒體的關(guān)注。彼時(shí)鈦媒體在一篇報(bào)道中援引了芝加哥大學(xué)的一篇研究論文，稱人工智能可以被用來生成虛假、復(fù)雜的內(nèi)容信息，足以達(dá)到以假亂真的效果。
如今這樣的功能其實(shí)早已是AI最為基礎(chǔ)的能力之一了。例如完全對(duì)普通用戶開放的微軟AI工具New Bing上，太平洋科技簡(jiǎn)單提出了生成文本的需求，給大眾點(diǎn)評(píng)榜單上熱度很高的餐廳寫幾條打卡點(diǎn)評(píng)，具體結(jié)果可以看下圖。
無論正面還是負(fù)面評(píng)價(jià)，任何一個(gè)用戶都可以使用New Bing來快速生成。從結(jié)果也可以看到，這些打卡點(diǎn)評(píng)內(nèi)容，有著豐富的細(xì)節(jié)，語言風(fēng)格和表達(dá)口吻也接近人類用戶，可以說基本與真人寫的打卡點(diǎn)評(píng)相差無幾。
當(dāng)然這只是列舉一個(gè)最基礎(chǔ)的案例，要形成所謂的AI水軍，必然還有更高級(jí)的玩法。雷鋒網(wǎng)就曾報(bào)道稱，經(jīng)營AI水軍產(chǎn)業(yè)的公司往往會(huì)使用循環(huán)神經(jīng)網(wǎng)絡(luò)、AI語言模型對(duì)海量的“僵尸賬號(hào)”進(jìn)行訓(xùn)練，以網(wǎng)上大量的評(píng)論素材做訓(xùn)練素材。
這樣生成的AI水軍賬號(hào)，可以按照雇主的需求，在網(wǎng)絡(luò)平臺(tái)中“指哪打哪”，比如引導(dǎo)輿論風(fēng)向，抹黑帶節(jié)奏，造謠中傷等等。這些AI賬號(hào)輸出的內(nèi)容，不僅可以躲避軟件檢測(cè)，也讓網(wǎng)絡(luò)水軍公司實(shí)現(xiàn)了“降本增效”。
這類問題在全球互聯(lián)網(wǎng)中都普遍存在。比如2019年末，F(xiàn)acebook關(guān)閉了大量的博主、用戶賬號(hào)，原因是平臺(tái)發(fā)現(xiàn)有人使用了AI能力，將這些賬號(hào)偽裝成真實(shí)用戶，有目的地發(fā)布大量虛假消息。
還有一些有趣的事情或許可以從側(cè)面印證這個(gè)問題。今年6月，歌手孟美岐發(fā)了一條宣傳自己北京演唱會(huì)的微博，很快評(píng)論區(qū)就有數(shù)萬“粉絲”涌進(jìn)來留言，一條條“北京見”之類的留言，看起來就像一個(gè)個(gè)等待激動(dòng)赴約，到演唱會(huì)應(yīng)援偶像的粉絲。
然而尷尬的地方來了，孟美岐北京演唱會(huì)的場(chǎng)地只能容納1000多名觀眾，臨近演唱會(huì)開場(chǎng)日期了，這1000多張票還是沒賣完。這也讓輿論調(diào)侃孟美岐微博的評(píng)論區(qū)有著大量偽裝成真人粉絲的AI水軍，評(píng)論數(shù)據(jù)很好看，但演唱會(huì)門票卻賣不完。
“商業(yè)投流里面一直都有水分，有水軍或者AI水軍在濫竽充數(shù)。”有從事流量投放、運(yùn)營工作的投手對(duì)太平洋科技表示，流量往往按照曝光數(shù)來計(jì)算費(fèi)用，在真實(shí)流量中摻雜一些僵尸號(hào)是常見的情況，有了AI的加持，這種坑廣告主的行為就更難被發(fā)現(xiàn)了。
該投手也列舉了案例，比如廣告主在付費(fèi)投放之后，直播間突然涌進(jìn)大量的賬號(hào)，看似人氣漲了，但實(shí)際這些賬號(hào)基本只會(huì)刷屏“大拇指”，或者清一色發(fā)“早上好”、“晚上好”這樣的固定句式，完全沒有任何訂單轉(zhuǎn)化。
向平臺(tái)客服投訴，得到的答復(fù)也基本是說這些都是真人用戶的個(gè)人行為。廣告主也無法分辨這究竟是AI水軍來濫竽充數(shù)，還是投流失誤導(dǎo)致的非精準(zhǔn)流量。廣告主錢花了，事一點(diǎn)沒辦成，相當(dāng)于只能吃啞巴虧。
AI，也在污染“當(dāng)下”
“我現(xiàn)在每天的創(chuàng)作，其實(shí)相當(dāng)于AI洗了別人的稿，我再稍微洗一下AI的稿?！弊悦襟w從業(yè)者阿波對(duì)太平洋科技坦言，有了類ChatGPT這樣的AI工具之后，他的“創(chuàng)作效率”飆升。
阿波表示，以前一篇文章從選題確立，到查找內(nèi)容，再到構(gòu)思組稿，往往需要花挺長時(shí)間，但現(xiàn)在有了AI之后模式就不一樣了，只需要把話題和內(nèi)容需求提交給AI，AI就會(huì)在網(wǎng)絡(luò)上搜集信息并重新組成一篇新的文字內(nèi)容，也就是俗稱的“洗稿”，阿波只需要細(xì)節(jié)修改調(diào)整一下，一篇完整的自媒體文章很快就能成形。
再加上現(xiàn)在市面上也有很多AI一鍵生成視頻、AI配音等工具，將文章轉(zhuǎn)為視頻再進(jìn)行分發(fā)也非常方便。
但有一個(gè)很核心的問題，阿波也并沒有否認(rèn)，這就是信息來源的可靠性，信息本身的真實(shí)性，他作為內(nèi)容創(chuàng)作者，全然交給了AI來處理，并不會(huì)花更多的時(shí)間去求證。“我們追求的只是流量，內(nèi)容出錯(cuò)大不了刪稿就好?！?/p>
試想一下，如果輿論場(chǎng)每天為大眾提供內(nèi)容的，是無數(shù)個(gè)只求流量不管質(zhì)量的創(chuàng)作者“阿波”，會(huì)出現(xiàn)怎樣的后果？最直接的就是會(huì)出現(xiàn)無數(shù)個(gè)現(xiàn)代版的“三人成虎”案例，嚴(yán)重的話會(huì)導(dǎo)致整個(gè)互聯(lián)網(wǎng)空間充斥著謠言、虛假新聞、錯(cuò)誤信息等不可信內(nèi)容。
量子位就曾在一篇相關(guān)報(bào)道中，將這樣的現(xiàn)象稱為“AI正在污染中文互聯(lián)網(wǎng)”。
簡(jiǎn)單來說，AI生成的內(nèi)容并不是憑空而來的，而是需要一定的信息素材作為基礎(chǔ)。當(dāng)AI因?yàn)楦鞣N原因生成了錯(cuò)誤、虛假信息后，這些信息又可能成為另一個(gè)AI生成內(nèi)容時(shí)的素材。
當(dāng)互聯(lián)網(wǎng)空間充斥著AI制造的垃圾信息后，這種無限套娃式的AI信息傳遞，就會(huì)變成一個(gè)輸入和輸出都是垃圾信息的死循環(huán)，這是一個(gè)十分可怕的糟糕局面。
AI技術(shù)，還有一些更直接的“惡”。今年5月，包頭警方公布了一起利用AI實(shí)施詐騙的案例。福州一位企業(yè)主，接到了生意好友的微信視頻電話，說需要430萬元急用，由于對(duì)方在視頻連線中的樣貌、聲音都與好友一模一樣，該企業(yè)主便沒有疑慮將錢轉(zhuǎn)了過去。結(jié)果沒想到這是騙子通過AI換臉和擬聲技術(shù)，假冒了“好友”進(jìn)行的詐騙。
可見通過AI技術(shù)的加持，騙子甚至能在實(shí)時(shí)的視頻通話中完整還原一個(gè)人的樣貌和聲音，類似這樣的詐騙案例層出不窮，光明網(wǎng)、環(huán)球網(wǎng)更是在相關(guān)報(bào)道中表示AI詐騙的成功率接近100%。
另一方面，無論是擁有百萬粉絲的網(wǎng)紅大V，還是按部就班工作生活的普通人，都有可能被AI換臉，乃至更離譜的AI脫衣盯上。
比如據(jù)多家媒體的報(bào)道，網(wǎng)絡(luò)中有大量的不法分子通過AI技術(shù)，將一些頭部網(wǎng)紅或者女性用戶的樣貌，融合嫁接到一些裸露、色情內(nèi)容中，再有償販賣給其他用戶，這其中有的不法分子甚至能月入20萬。
再比如今年3月，有人在廣州地鐵上拍下一女子照片后，用所謂的AI一鍵脫衣工具生成了裸露圖并在網(wǎng)絡(luò)上傳播，這一事件沖上熱搜后，也引發(fā)了大眾對(duì)于AI工具侵害問題的關(guān)注。
此前5月份，在業(yè)界有“人工智能教父”之稱的計(jì)算機(jī)科學(xué)家杰弗里·辛頓宣布從谷歌離職，理由是這樣能更加不受限制地呼吁人們關(guān)注AI的潛在風(fēng)險(xiǎn)。
杰弗里·辛頓可以說是AI領(lǐng)域的頂級(jí)大牛，他憑借在AI領(lǐng)域的研究貢獻(xiàn)，與另外兩名科學(xué)家共同獲得了2018年的圖靈獎(jiǎng)，OpenAI的創(chuàng)始人兼首席科學(xué)家便是杰弗里·辛頓的學(xué)生。
“現(xiàn)在似乎還很難看到如何能夠防止壞人利用人工智能來做壞事。”研究AI數(shù)十年后，辛頓如今已經(jīng)成為了AI的“末日預(yù)言者”，極力向公眾表達(dá)他對(duì)人工智能的擔(dān)憂。
當(dāng)然，行業(yè)中自然會(huì)有不同的聲音?！叭斯ぶ悄艿娘L(fēng)險(xiǎn)都是可控的。”比爾蓋茨表示，AI的深度偽造、錯(cuò)誤信息、胡編亂造等問題，的確會(huì)引發(fā)諸多風(fēng)險(xiǎn)，但他仍然樂觀的認(rèn)為，這些風(fēng)險(xiǎn)都是可控的。
誠然，AI的未來或許是光明的，值得期待的，但這并不能掩蓋AI在當(dāng)下所制造出來的種種亂象問題，AI所作的“惡”，都亟需得到控制和凈化，這也是AI邁向未來的必要前提。
后記
最后再用一段科幻故事來闡述一下AI這個(gè)宏大敘事中不可忽視的黑暗面。
科幻劇集《黑鏡》中，有一集的故事是這樣的。未來世界，環(huán)境改變，蜜蜂滅絕，但大自然不能失去蜜蜂，于是人類發(fā)明了機(jī)械人造蜂來替代蜜蜂在大自然中的作用。
人造蜂利用太陽能和各種高精度的識(shí)別技術(shù)，由分布在各地的數(shù)千個(gè)高度智能化的人工智能蜂巢來管理運(yùn)行，無需人類控制便可自主完成飛行、傳粉等任務(wù)。
這個(gè)發(fā)明挽救了因失去蜜蜂而瀕臨崩潰的自然生態(tài)，當(dāng)然，這只是故事中美好的一面。
故事的另外一面，是有人黑進(jìn)了人工智能系統(tǒng)，取得了數(shù)百萬遍布各地的人造蜂的控制權(quán)，將海量的用戶人臉、身份信息上傳到人工智能系統(tǒng)后，這些本該造福人類、自然的人造蜂，突然就成了最恐怖的武器，在AI的操控下有目的地奪走了數(shù)十萬人的生命。
與科幻世界里想象的災(zāi)難相比，前文提到的現(xiàn)實(shí)中已出現(xiàn)的AI作惡案例或許顯得微不足道，但“勿以惡小而為之”，再微小的陰暗面都不容忽視，或許科幻片中描繪的后世災(zāi)難，正是由當(dāng)下一點(diǎn)一點(diǎn)的“惡”所積累而成。
區(qū)塊鏈、元宇宙、ARVR......科技領(lǐng)域有過太多高開低走的爛尾故事，熱鬧過后一地雞毛。但實(shí)際上，這些代表未來的科技領(lǐng)域，或許并不該過早地被打造成噱頭，被利用來斂財(cái)。
人工智能更是如此，畢竟這項(xiàng)技術(shù)離現(xiàn)實(shí)更近，也存在著更大的失控風(fēng)險(xiǎn)。盡可能地考慮到所有可能性，用“做好最壞打算”的態(tài)度來審慎發(fā)展人工智能，是實(shí)現(xiàn)“風(fēng)險(xiǎn)可控”目標(biāo)必不可少的思路和策略。