作者：高見(jiàn)，題圖來(lái)自：AI生成
“這段數(shù)據(jù)你查過(guò)嗎？”
“沒(méi)有，是AI寫的，看起來(lái)沒(méi)問(wèn)題?！?/p>
趕在交稿日期截止的編輯周子衡看來(lái)，那段話“邏輯通順、語(yǔ)氣專業(yè)、甚至連百分比都標(biāo)得剛剛好”，結(jié)果卻是憑空捏造；電商客服王萌的團(tuán)隊(duì)，因?yàn)锳I生成了一段“模板式話術(shù)”，誤發(fā)了不適用的退貨規(guī)則，客戶拿著截圖投訴，平臺(tái)只能賠錢認(rèn)栽；職業(yè)講師蔡倩第一次用AI起草課件，就在直播中被學(xué)員問(wèn)住，才發(fā)現(xiàn)那組“情緒價(jià)值”數(shù)據(jù)，AI“編得像真的”；而一位產(chǎn)品經(jīng)理更早意識(shí)到問(wèn)題，他自己就做AI產(chǎn)品，但他制定了團(tuán)隊(duì)使用準(zhǔn)則：AI生成的段落，不能直接決定任何事情。
這不是某種“AI作惡”的故事。這是一組關(guān)于AI幻覺(jué)的職場(chǎng)眾生相。
豆包、文心一言、DeepSeek、元寶……這些國(guó)產(chǎn)AI工具，正在大規(guī)模進(jìn)入職場(chǎng)內(nèi)容流里。我們以為它們是工具，其實(shí)它們更像是一種“說(shuō)得太像真的語(yǔ)氣”，讓每個(gè)使用者都可能在不經(jīng)意間交出判斷力。
在這場(chǎng)由幻覺(jué)構(gòu)成的信任測(cè)試中，沒(méi)有絕對(duì)安全的人。
有人把AI當(dāng)思路發(fā)散，也有人開(kāi)始給AI的每一句話貼標(biāo)簽；有人被它坑過(guò)一次，就再也不讓它寫結(jié)論；有人在全權(quán)托付之后，才意識(shí)到——AI不會(huì)替你背鍋，幻覺(jué)也不會(huì)標(biāo)紅。
坤輿商業(yè)觀察記錄了幾個(gè)用AI寫東西的人。他們不是專家，不是極客，只是每一個(gè)普通工作日里，和你我一樣，把“復(fù)制”“粘貼”“交稿”按下去的人。
他們遇見(jiàn)了AI，也開(kāi)始重新理解什么叫“自己負(fù)責(zé)”。
一、新媒體編輯：“那段引用是AI編的，我都沒(méi)檢查”
周子衡是一家互聯(lián)網(wǎng)科技內(nèi)容平臺(tái)的編輯。日常就是不停寫稿、改稿、配圖、校對(duì)，節(jié)奏快、壓力大，最怕出錯(cuò)，也最怕拖稿。
一年前，他開(kāi)始習(xí)慣性地用豆包幫自己“提速”。
有一次，他在趕一篇關(guān)于消費(fèi)電子的行業(yè)稿，寫到一半臨時(shí)需要補(bǔ)一段“市場(chǎng)份額的變化趨勢(shì)”。他輸入指令，讓AI幫他寫一個(gè)關(guān)于“2024年中國(guó)智能手機(jī)市場(chǎng)結(jié)構(gòu)變化”的分析段。
AI很快給出了一段數(shù)據(jù)看起來(lái)很清楚的內(nèi)容——其中寫道：“根據(jù)2024年第三季度某調(diào)研機(jī)構(gòu)數(shù)據(jù)顯示，某國(guó)產(chǎn)品牌以18.6%的市場(chǎng)份額排名第一，同比上升3.2個(gè)百分點(diǎn)?！?/p>
這段話看起來(lái)毫無(wú)問(wèn)題。數(shù)據(jù)精確、語(yǔ)氣專業(yè)、語(yǔ)法順滑，還有“同比上升”這樣的細(xì)節(jié)增強(qiáng)說(shuō)服力。他沒(méi)再多想，直接復(fù)制進(jìn)了文稿里。
直到第二天主編審稿時(shí)，只留下一句評(píng)論：“這個(gè)數(shù)據(jù)誰(shuí)查的？報(bào)告名是什么？”
周子衡當(dāng)場(chǎng)愣住，開(kāi)始翻找原始來(lái)源。結(jié)果在所有主流機(jī)構(gòu)（Canalys、Counterpoint、IDC）官網(wǎng)上都找不到這組數(shù)字。報(bào)告標(biāo)題也查無(wú)此文。
那段AI生成的內(nèi)容——完全是編的。
“最可怕的不是它胡說(shuō)，而是它說(shuō)得像真的。”他回憶。
事后他用同樣的提問(wèn)重新試了一次，發(fā)現(xiàn)AI每次寫的數(shù)據(jù)段都略有不同，報(bào)告名、數(shù)值、變化幅度沒(méi)有一項(xiàng)一致。幻覺(jué)不是偶然，而是一種常態(tài)。
他告訴自己以后“一定要驗(yàn)證”，但在很多時(shí)候，面對(duì)高強(qiáng)度稿件節(jié)奏、碎片化補(bǔ)寫需求，他也承認(rèn)，“有時(shí)候就真的沒(méi)空管了”。
現(xiàn)在，他已經(jīng)不再用AI生成帶數(shù)據(jù)的段落了。結(jié)構(gòu)、語(yǔ)言、框架還可以讓AI輔助，但只要出現(xiàn)“報(bào)告”“數(shù)字”“來(lái)源”這些關(guān)鍵詞，他都會(huì)直接跳過(guò)，“那種句子看起來(lái)是對(duì)的，但大部分的時(shí)候你查不到出處”。
他貼在工位上的一張便利貼上寫著八個(gè)字：“AI寫得快，出錯(cuò)更快”。
二、電商客服：“AI說(shuō)支持退貨，客戶讓我們賠錢”
王萌在一家電商平臺(tái)做客服主管，管著一個(gè)十幾人的小團(tuán)隊(duì)。去年，公司開(kāi)始引入一套基于國(guó)產(chǎn)大模型的AI話術(shù)輔助系統(tǒng)，能自動(dòng)生成售后場(chǎng)景中的標(biāo)準(zhǔn)回復(fù)，比如物流延誤解釋、退款規(guī)則說(shuō)明、簽收流程提示等。
起初，效果很不錯(cuò)。
在高峰期時(shí)，這套系統(tǒng)幫客服節(jié)省了近30%的打字時(shí)間。客服只需要輸入問(wèn)題關(guān)鍵詞，就能快速調(diào)用一段模板化回復(fù)，再手動(dòng)做個(gè)性化調(diào)整，效率高了不少。
直到春節(jié)前的一次售后爭(zhēng)議。
一位客戶申請(qǐng)退貨，原本被駁回，因?yàn)樯唐穼儆凇跋迺r(shí)秒殺，售出不退”類目。但幾分鐘后，客戶在平臺(tái)發(fā)來(lái)一張截圖，顯示客服回復(fù)中明確寫道：
“根據(jù)平臺(tái)規(guī)則，您在簽收后七天內(nèi)享有無(wú)理由退貨權(quán)利?！?/p>
這段話不是人工打的，而是AI生成并自動(dòng)插入的。客服當(dāng)時(shí)操作匆忙，直接發(fā)送了回復(fù)，沒(méi)有修改。
問(wèn)題是，該商品頁(yè)面明確標(biāo)注“不支持無(wú)理由退貨”。
客戶據(jù)此投訴平臺(tái)“誤導(dǎo)性承諾”，要求退款。最后公司決定對(duì)客戶做一次性賠付處理，并在內(nèi)部通報(bào)此事。王萌回溯聊天記錄，確認(rèn)這段話確實(shí)是系統(tǒng)生成的模版內(nèi)容。
“它沒(méi)有說(shuō)錯(cuò)平臺(tái)規(guī)則，但它不知道這個(gè)商品不適用。”王萌說(shuō)。
那次之后，公司立刻調(diào)整AI功能權(quán)限，關(guān)閉“自動(dòng)插入回復(fù)”選項(xiàng)，只保留“人工確認(rèn)后發(fā)送”機(jī)制。她也重新做了一輪培訓(xùn)，要求坐席團(tuán)隊(duì)重新學(xué)習(xí)不同品類的售后條款。
“AI不是真的理解規(guī)則，它只是預(yù)測(cè)我們會(huì)怎么說(shuō)?！彼f(shuō)，“但客服不能靠預(yù)測(cè)來(lái)應(yīng)對(duì)例外。”
三、培訓(xùn)講師：“我第一次用AI做課件，它就給我編了一個(gè)概念”
蔡倩是一名職業(yè)培訓(xùn)講師，做的是偏職場(chǎng)技能類的課程，有時(shí)候是平臺(tái)直播，有時(shí)候是企業(yè)內(nèi)訓(xùn)。她講得較多的是“如何做品牌定位”“短視頻營(yíng)銷路徑”這類話題，節(jié)奏緊、信息量大，對(duì)內(nèi)容更新也要求極高。
去年她第一次接觸AI寫作工具，是在備一場(chǎng)線上課時(shí)。
那節(jié)課要講“品牌情緒價(jià)值”，她覺(jué)得AI可以幫她節(jié)省一部分找例子的時(shí)間。她讓AI生成一個(gè)開(kāi)場(chǎng)段落，希望它能提供一組“當(dāng)代年輕人情感消費(fèi)偏好”的數(shù)據(jù)，引入情緒價(jià)值的核心概念。
AI的反應(yīng)幾乎完美——幾秒鐘后，給她寫出一段邏輯順暢、語(yǔ)氣嚴(yán)謹(jǐn)?shù)亩温洌锩嬉昧艘唤M“六成以上年輕人偏好具有情緒表達(dá)的品牌”類的比率，并提到這來(lái)自“最新調(diào)研”。
她讀完沒(méi)懷疑，語(yǔ)氣“太像PPT了”，一段直接貼上第一頁(yè)。
直播當(dāng)天，她剛講完開(kāi)場(chǎng)部分，一個(gè)學(xué)員在評(píng)論區(qū)留言：“老師請(qǐng)問(wèn)這份調(diào)研出自哪里？我們公司想?yún)⒖家幌?。?/p>
她下意識(shí)一愣，試著回憶出自哪里，結(jié)果想不起來(lái)。課后她查了多個(gè)公開(kāi)數(shù)據(jù)平臺(tái)，完全找不到類似數(shù)據(jù)，也找不到那組數(shù)字。她終于明白，那段“引用”，其實(shí)是AI憑空拼接的幻覺(jué)。
“它寫得太像真的了?！彼f(shuō)，“我第一次用它，就中了招。”
從那之后，她就設(shè)了一條規(guī)矩：只讓AI提供結(jié)構(gòu)建議，不再接受它寫出來(lái)的“事實(shí)”。凡是出現(xiàn)數(shù)字、百分比、時(shí)間節(jié)點(diǎn)的地方，她都要手動(dòng)查證兩次。
“它最大的問(wèn)題是太能模仿‘專業(yè)話術(shù)’了，模仿得越像，我們?cè)饺菀追艞壟袛?。”她說(shuō)，“但我在課堂上要對(duì)每一句話負(fù)責(zé)，它不用?！?/span>
四、AI產(chǎn)品經(jīng)理：“我是做AI的，但我從不讓它拍板”
高哲所在的公司，是一家做To B智能應(yīng)用的AI創(chuàng)業(yè)團(tuán)隊(duì)。他負(fù)責(zé)產(chǎn)品設(shè)計(jì)，跟各種國(guó)產(chǎn)大模型打交道的時(shí)間，比起普通用戶要早上兩年。
他幾乎每天都在用AI。
需求文檔、競(jìng)品分析、PRD草稿、用戶故事地圖、市場(chǎng)調(diào)研報(bào)告……他給自己定了一套“效率模板”：用AI起草結(jié)構(gòu)、快速歸類觀點(diǎn)、統(tǒng)一術(shù)語(yǔ)措辭，節(jié)省前60%的腦力負(fù)擔(dān)。剩下40%，再自己修改和打磨。
“不是我信它，是我太熟它。”他說(shuō)。
他對(duì)AI幻覺(jué)的警覺(jué)，來(lái)自一次“內(nèi)部演示事故”。
那天他用文心一言寫了一段關(guān)于行業(yè)發(fā)展趨勢(shì)的說(shuō)明，希望在會(huì)議上展示“AI在市場(chǎng)分析方面的輔助能力”。模型寫得非常流暢，包含年份、增速百分比、行業(yè)預(yù)測(cè)甚至引述了看似具體的“研究?jī)?nèi)容”。
結(jié)果演示前10分鐘，他臨時(shí)決定復(fù)查一次，發(fā)現(xiàn)那段“預(yù)測(cè)”里引用的年份是錯(cuò)的，“下滑2.7%”的描述也找不到任何出處，整個(gè)段落拼得太順了，順到讓人忽略了檢查這一步。
“我那時(shí)就意識(shí)到，不是它寫得不好，而是它寫得太像真的了?！备哒苷f(shuō)，“它會(huì)生成一種‘話術(shù)級(jí)的自信’，但你根本不知道它有沒(méi)有在胡說(shuō)?！?/p>
那次之后，他為自己團(tuán)隊(duì)建立了一套機(jī)制：
AI生成的內(nèi)容，必須標(biāo)注來(lái)源；凡是沒(méi)有來(lái)源的部分，必須經(jīng)過(guò)人工復(fù)核；涉及客戶交付或關(guān)鍵判斷的內(nèi)容，不允許AI直接定稿，必須由兩人以上確認(rèn)。
他也在文檔協(xié)作平臺(tái)上設(shè)計(jì)了“AI片段提醒”功能：所有通過(guò)AI生成的段落，系統(tǒng)會(huì)自動(dòng)添加“AI生成內(nèi)容”高亮標(biāo)簽，便于團(tuán)隊(duì)協(xié)作時(shí)一眼看出哪些內(nèi)容需要格外留神。
“AI不是寫手，它是個(gè)腦暴助手?！彼f(shuō)，“你不能讓它幫你決策，只能讓它幫你發(fā)散。”
他有一個(gè)默認(rèn)邏輯：AI只負(fù)責(zé)生成可能性，人負(fù)責(zé)篩選合理性。
現(xiàn)在他讓團(tuán)隊(duì)里的年輕產(chǎn)品經(jīng)理也盡量使用AI——不是因?yàn)橄嘈潘鼫?zhǔn)，而是讓他們?cè)诠ぷ髦性缫稽c(diǎn)意識(shí)到：“你終將要為AI的每一個(gè)建議負(fù)責(zé)?！?/span>
五、幻覺(jué)原理解析：“AI為什么會(huì)編？因?yàn)樗静欢婕佟?/p>
在語(yǔ)言模型的世界里，沒(méi)有“真假”，只有“可能性”。
AI幻覺(jué)，這個(gè)術(shù)語(yǔ)聽(tīng)起來(lái)像是技術(shù)世界的詩(shī)意表達(dá)，本質(zhì)卻非常具體——它指的是大模型生成出語(yǔ)法正確、邏輯通順、但與事實(shí)不符的內(nèi)容。比如不存在的報(bào)告、編造的數(shù)據(jù)、拼接的結(jié)論。
它不是AI“出錯(cuò)”，而是AI完成任務(wù)的方式本身就不依賴事實(shí)。
大多數(shù)人以為AI像搜索引擎，會(huì)“查找”正確答案。實(shí)際上，它更像是一個(gè)“超級(jí)自信的語(yǔ)言預(yù)測(cè)器”——你給它一個(gè)開(kāi)頭，它根據(jù)龐大的語(yǔ)言訓(xùn)練數(shù)據(jù)來(lái)“猜測(cè)”下一個(gè)詞最可能是什么，拼出一段“看起來(lái)合理”的話。
它的訓(xùn)練目標(biāo)，從來(lái)不是“說(shuō)實(shí)話”，而是“說(shuō)得像人”。
正因如此，它寫出來(lái)的段落往往句式順暢、術(shù)語(yǔ)專業(yè)、邏輯通順，甚至模仿得出“權(quán)威感”十足的引用方式。對(duì)用戶而言，這些特征讓人“降低了警惕”。
它不會(huì)撒謊，它只是編得太像真的了。
尤其在中文場(chǎng)景下，這種幻覺(jué)感更容易放大。
互聯(lián)網(wǎng)產(chǎn)業(yè)時(shí)評(píng)人彭德宇對(duì)坤輿商業(yè)觀察表示：一方面，中文表達(dá)具有高度的模糊性和結(jié)構(gòu)彈性：一個(gè)概念可以不定義、一個(gè)數(shù)字可以不標(biāo)注出處、一個(gè)觀點(diǎn)可以沒(méi)有主語(yǔ)。模型在生成內(nèi)容時(shí)，更容易憑借“語(yǔ)言慣性”組織句子，而不自覺(jué)地跳過(guò)事實(shí)驗(yàn)證。另一方面，中文開(kāi)源語(yǔ)料中充斥著大量不標(biāo)注來(lái)源的二手信息、模板化文章、商業(yè)軟文和平臺(tái)內(nèi)容，這些內(nèi)容在AI訓(xùn)練時(shí)沒(méi)有“事實(shí)權(quán)重”的區(qū)分——它會(huì)像人類學(xué)語(yǔ)言一樣，把“說(shuō)得像樣”當(dāng)成“就是對(duì)”。
這導(dǎo)致幻覺(jué)不是個(gè)別事件，而是一種結(jié)構(gòu)性風(fēng)險(xiǎn)。
它最常出現(xiàn)在以下幾種情形：
引用內(nèi)容時(shí)：編造機(jī)構(gòu)名、白皮書(shū)、研究報(bào)告；
列數(shù)據(jù)時(shí)：拼接不相干的數(shù)字，甚至自創(chuàng)比例；
提及政策/法規(guī)時(shí)：使用過(guò)時(shí)信息或偽造條款；
生成結(jié)論時(shí)：拼湊常見(jiàn)邏輯鏈條，但事實(shí)基礎(chǔ)不存在。
而這些內(nèi)容恰恰是很多職場(chǎng)人最依賴AI的地方。
科大訊飛董事長(zhǎng)劉慶峰曾表示，生成式人工智能存在幻覺(jué)，特別是深度推理模型的邏輯自洽性提升，使得AI生成內(nèi)容真假難辨。
360集團(tuán)創(chuàng)始人周鴻祎也在兩會(huì)期間對(duì)媒體表示，AI幻覺(jué)雖然有利于文學(xué)創(chuàng)作，但在AI安全方面，幻覺(jué)可能會(huì)帶來(lái)嚴(yán)重問(wèn)題，比如在醫(yī)療、法律、金融等專業(yè)領(lǐng)域，大模型一旦胡亂編造，就會(huì)帶來(lái)嚴(yán)重后果。
坤輿商業(yè)觀察也認(rèn)為：“我們太容易把AI寫出來(lái)的東西，當(dāng)成有出處、可信賴的內(nèi)容。其實(shí)，它只是比你更會(huì)寫‘像是有出處’的句子而已?！被糜X(jué)是生成式AI寫作不可避免的副產(chǎn)品。就像你教一個(gè)孩子說(shuō)話，卻沒(méi)有告訴他什么是真假，他只會(huì)模仿大人說(shuō)得像的方式去“復(fù)現(xiàn)世界”，但他并不理解這個(gè)世界。
六、平臺(tái)與用戶的應(yīng)對(duì)機(jī)制：“它不撒謊，但我們得學(xué)會(huì)設(shè)防”
在AI幻覺(jué)面前，沒(méi)有人能完全幸免。但越來(lái)越多的AI使用者，正在學(xué)會(huì)“設(shè)防”。
彭德宇認(rèn)為：面對(duì)幻覺(jué)頻發(fā)，并不只是用戶在承擔(dān)后果。越來(lái)越多的廠商也開(kāi)始意識(shí)到：讓AI“說(shuō)得像”，并不等于“說(shuō)得對(duì)”。沒(méi)有廠商敢說(shuō)“我們解決了幻覺(jué)”，但至少他們開(kāi)始正視它——開(kāi)始標(biāo)注、攔截、約束，試圖用一層層提示詞、審核線、知識(shí)庫(kù)，把這個(gè)問(wèn)題包裹起來(lái)，不讓它輕易流向公眾。
只是幻覺(jué)的根本問(wèn)題，至今依然懸而未決。模型的底層邏輯仍在預(yù)測(cè)詞語(yǔ)，而不是判斷事實(shí)。AI依然不會(huì)主動(dòng)告訴你：“這句話，我其實(shí)是編的?！钡脚_(tái)能做的畢竟有限?；糜X(jué)不是“個(gè)別錯(cuò)誤”，它是AI生成機(jī)制的一部分。要徹底消除它，就像要求人類寫作永不出錯(cuò)一樣——不現(xiàn)實(shí)。”彭德宇說(shuō)到。
正因?yàn)槿绱?，越?lái)越多的企業(yè)開(kāi)始把“AI使用規(guī)則”納入日常管理制度：
內(nèi)容平臺(tái)要求員工在面對(duì)“AI輔助生成內(nèi)容”時(shí)多次校對(duì)；
品牌方在使用AI工具撰寫合同時(shí)，建立“二次審核”機(jī)制；
教育機(jī)構(gòu)提醒講師：“只用AI寫句式，不用它寫結(jié)論”。
這種變化背后的共識(shí)是：
AI的幻覺(jué)不可控，但責(zé)任必須明確。
AI不會(huì)替你做決定，也不會(huì)為一段錯(cuò)誤引用道歉。它的工作是生成，而判斷仍屬于人。
AI進(jìn)入職場(chǎng)的速度太快，快到很多人還沒(méi)來(lái)得及建立邊界。而幻覺(jué)，恰恰提醒我們：任何新工具的使用，必須在理解它的局限之后，才真正有價(jià)值。
七、“真正的智能，是在幻覺(jué)里保留判斷力”
AI幻覺(jué)不是一個(gè)技術(shù)瑕疵，它是我們必須一起面對(duì)的時(shí)代“共病”。
它不屬于某一個(gè)人，也不屬于某一個(gè)平臺(tái)。它藏在無(wú)數(shù)段邏輯通順、語(yǔ)氣專業(yè)的內(nèi)容背后，在我們懶得查證、來(lái)不及判斷、急著交差的時(shí)刻里悄然落地。
你用它補(bǔ)文案，我用它改合同，他用它寫腳本——AI就像空氣，滲入每一道內(nèi)容的縫隙。它讓我們變快，也讓我們可能變得太快，快到忘了驗(yàn)證、忽略出處、放棄懷疑。
坤輿商業(yè)觀察采訪的幾位受訪者中，沒(méi)有一個(gè)人說(shuō)“我以后再也不用AI”。
他們都還在用，甚至用得更多了。但他們變得小心了——有人只用它寫結(jié)構(gòu)，有人只讓它提供措辭，有人干脆設(shè)置“標(biāo)注標(biāo)簽”，提醒自己：這段話，不一定是真的。
這或許是我們真正進(jìn)入AI時(shí)代的標(biāo)志：不是AI取代了誰(shuí)，而是每個(gè)使用它的人，都必須重新學(xué)習(xí)“判斷”這件事本身。
技術(shù)沒(méi)有是非，它只是傾向于“像人類”。但人類之所以不同，不在于會(huì)說(shuō)話，而在于愿意停下來(lái)，去分辨一句話是否可信。
真正的智能，不是讓AI替你思考，而是你知道它什么時(shí)候不該被信。
（根據(jù)要求，上述受訪人均為化名）
本文來(lái)自微信公眾號(hào)：坤輿商業(yè)觀察，作者：高見(jiàn)