AI 正在大幅降低普通人造假的門檻。

違法與否——有時只隔著一句提示詞。

很長一段時間裡，大多數人都以為造假是一門“專業人士的遊戲”。它需要小眾的技術、昂貴的硬體，以及行業內部的人脈網路。造假者被想像成潛伏在灰色地帶縫隙中的陰影人物——神秘、危險、似乎毫無道德底線；他們離普通人的生活很近，卻又遠到顯得不真實。

但從今年開始，很多人明顯感覺到了一種變化。

11 月，毛絨玩偶商家於瑾，第一次遭遇了“AI 假圖僅退款”。在商品送達一週後，一名買家提交了僅退款申請，並附上了一張作為佐證的照片。店鋪客服以“人為損壞”為由駁回了申請，買家隨即申請平臺介入，最終成功拿回了 50 元。

但那張照片裡，有一個明顯不合理的地方：在本該柔軟的布料裙邊上，出現了類似陶瓷裂紋一樣的堅硬斷裂痕跡——那種只會出現在瓷器上的裂縫，而不是布料上。於瑾幾乎可以肯定，這是一張 AI 生成的假圖。她把這件事發到社交平臺吐槽。後來，在媒體介入後，平臺選擇自掏腰包，把這 50 元返還給了於瑾。而那位使用 AI 假圖的買家，卻悄然消失，沒有任何後果。

也是在那一刻，於瑾意識到，真正發生變化的是什麼：AI 極大地降低了惡意退款的成本。只需要一部手機、一句提示詞，就能生成一張“以假亂真”的損壞照片，騙到退款，再把商品掛到二手平臺轉賣。“幾乎不需要付出什麼成本，”她說，“也基本不會受到懲罰。”

今年更早的時候，公關從業者齊雲也遭遇了類似的衝擊——只是發生在另一個戰場。他所服務的一家上市公司，被一篇 AI 生成的黑稿攻擊。文中的“細節”離譜到讓他不敢相信竟然會有人當真。但受限於平臺規則，他和同事仍然不得不花整整兩天時間，對文章中的每一個細節逐條舉證、蓋章、申訴，最終才讓這篇很可能只花了幾十秒生成的內容被刪除。

齊雲在公關行業已經工作了十多年。過去，他說，爭議至少是基於事實的，是一種智力層面的博弈。而現在，面對 AI 以及 AI 編造出來的謠言，他只感到被冒犯、憤怒，卻又常常無可奈何。

這正是過去三年生成式 AI 爆發式增長中，較少被討論的一面。AI 大模型在文字、圖片、影片、音訊生成上的能力突飛猛進，幾乎任何人都可以零門檻、零成本地使用這些工具。使用者中，當然有 AIGC 藝術家和科技愛好者，但同樣也包括羊毛黨，以及靠流量吃飯的內容工廠。

結果並不意外：造假變得越來越便宜、越來越容易；參與其中的人越來越多——無論是有意還是無意；而平臺的稽核機制卻依然滯後，仍然高度依賴簡單的比對和標籤。受害者被欺騙、被拖累，不僅要經歷漫長的糾紛，還要付出比造假成本高出成千上萬倍的代價來“自證清白”。當造假變成一件低成本、低風險、高回報的事情，越來越多的普通人就會被誘惑加入其中，共同塑造一個充斥著虛假資訊的世界。

學會識別 AI 假圖：從零到生存技能

最初，於瑾店裡沒有任何人懷疑過買家發來的那張照片。

11 月 17 日，在玩偶送達一週多之後，客服收到了僅退款申請和一張佐證圖片。照片裡，粉色的毛絨玩偶顯得髒兮兮的，裙襬邊緣像是被火灼燒過。客服把圖片發到工作群裡，大家一致認為這是人為損壞。“可能是掉進泥裡了，或者掉進火裡了。”於瑾回憶說。

於是，店鋪按流程向買家解釋：發貨全程有監控錄影，商品保證全新；收貨後的損壞不屬於質量問題，因此不支援僅退款。買家並不接受，直接申請平臺介入，並在當天就拿到了 50 元賠償。

於瑾認定，這是一次惡意退款。幾乎所有電商商家都遇到過類似情況。通常，買家給出的理由是開線、勾絲等問題，而這次顯然不同。被扣款後，於瑾立刻準備申訴材料。這時，一位同事隨口的一句話提醒了她——這張圖越看越不對勁，像是 AI 做的。

為了確認，她找了從事 AI 相關工作的朋友幫忙鑑定，結果顯示存在 AI 痕跡；她又詢問了 AI 助手，對方同樣提示圖片經過 AI 修改，並指出“裂紋紋理過於規整，缺乏真實材質的物理邏輯”。

這是她第一次遇到這種情況。她整理好證據再次申訴，但平臺並未採納，駁回了請求，50 元依舊退到了買家賬戶。對商家來說，這意味著幾乎唯一的維權通道失效了。

無計可施之下，於瑾把經歷發到了社交平臺，希望提醒同行。也正因此，媒體找到了她，協助平臺最終將款項返還。

但她並不開心。“這種造假根本沒什麼技術含量，”她說，“任何一張圖給 AI，它都能幫你改。作惡的成本太低了，就算被發現，也不會有什麼後果。”

她很清楚，這次平臺墊付退款，並不意味著買家的錢被追回。折騰一圈下來，她作為商家耗費了大量精力，只換來一肚子不快；而造假者則實際支付了 167 元，拿回了 50 元，還到手了一個標價 179 元的玩偶。

“雙 11”期間，類似案例被密集報道，“AI 假圖”“僅退款”等關鍵詞頻繁登上熱搜，刺激著商家的神經。但即便如此，仍然有人選擇鋌而走險。

11 月 21 日，鍵盤商家柑橘收到了一位買家的僅退款申請，對方同樣上傳了“佐證圖片”。此時，距離商品簽收已經過去了半個月。柑橘一眼就看出，這張圖是 AI 生成的——構圖、背景、光影，和買家在簽收第三天釋出的評價圖一模一樣，只是鍵帽被“加工”成了開裂、汙漬、變形的狀態，誇張到離譜。

她將對比證據提交給平臺。這一次，平臺沒有草率處理，而是駁回了買家的申請，關閉了退款通道。

通過收件人資訊，柑橘很清楚，自己面對的並不是一個老練的羊毛黨，而是一名普通大學生。使用 AI 假圖僅退款的人，第一次具象化了。

在許多老電商人心裡，職業羊毛黨至少還是一個有套路、有話術、有明確牟利目標的群體。而現在，一個原本和灰產毫無關係的普通人，只需要一個免費應用、幾句提示詞，就能生成一整套足以騙過平臺稽核的“證據鏈”；退款成功後，再把商品掛到二手平臺賣掉，順手再賺一筆。

對商家來說，這種變化帶來的不僅是損失，更是一種陌生的無力感——你根本來不及防。

AI 正在突破造謠的想像力

電商平臺上的 AI 假圖僅退款，只是冰山一角。

隨著 AI 大模型在生文、生圖、生影片、生音訊四個方向逐漸成熟並普及，過去只有專業團隊才能完成的造假行為，如今被壓縮成任何人都能上手的簡單操作。一個普通使用者，可以用文生圖生成“商品損壞照”，也可以用文生影片合成“目擊現場”；生成只需幾秒鐘，但在平臺上的可信度卻幾乎不輸真實內容。

這不是某一個技術漏洞，而是一整套由無數輕量化工具構成的造假矩陣。就像電商商家正在經歷的那樣，內容行業也在承受類似衝擊：名人被 AI 換臉帶貨卻投訴無門，MCN 機構用 AI 批次造謠，企業被源源不斷的 AI 黑稿攻擊……

“以前造謠要靠人的想像力，一個人一天最多編一兩個。”齊雲說，“AI 可以幾秒鐘，在一篇文章裡編十個。”

大約半年前，在一次日常輿情監控中，他發現了一篇公眾號文章。乍一看像是正經新聞，讀下來卻荒謬至極。文章寫道，他所服務公司的董事長辦公室牆上掛著 K 線圖，還捏造了財務總監的發言。

“離譜得很。”齊雲說，“我們董事長辦公室根本沒有圖，財務總監也不是那個人。”但文章依然被堂而皇之地釋出，並引發了不少討論。

在他看來，典型的 AI 黑稿有一個特徵：細節豐富，卻完全虛構，相對容易識別。更危險的是那些真假混雜、人機共寫的內容。對黑稿生產者來說，AI 只是工具——過去靠人工，寫財經稿至少要懂點東西，一天只能產出一兩篇；現在有了 AI，成本更低、效率更高，但人還是那批人。

這些灰產正在把 AI 嵌入商業模式，形成更順滑的利益鏈條。一條鏈路，用 AI 黑稿倒逼企業投廣告：黑稿越多、越難闢謠，企業越焦慮，就越容易花錢“消災”。

另一條鏈路，用 AI 黑稿給投資群引流、賣課。標題越聳動，內容越“像內幕”，越容易吸引想抓風口的人。AI 可以瞬間生成一批“重大利好 / 利空”的假截圖、假分析，塑造出幾個“股神”人設，把流量從公域匯入私域，再通過賣課、諮詢變現。

類似的模式還有很多。2024 年 6 月，央視新聞報道，一家 MCN 機構利用 AI 自動抓取資訊、生成圖文，並包裝成博眼球的“假新聞”進行流量變現，日均生成 4000–7000 篇內容，每天收入超過 1 萬元。

甚至在商業灰產之外，AI 造假也開始向“隨手試試”的方向擴散。上個月底，小鵬汽車就遭遇了一起典型案例：一段以廣州車展小鵬展臺為背景的低俗影片在網路傳播，畫面中的人物服裝、光影與展臺幾乎無縫銜接，不少網友信以為真。最終警方確認，該影片由一名男子利用 AI 技術生成，僅僅是“為了炫耀個人技術”，並非真實事件。

這正是讓人不安的地方：AI 已經把造假的門檻，降到了幾乎與好奇心齊平的位置。只需要一次嘗試、幾句提示詞，每個人都可能成為“造假者”——不一定出於惡意，而是因為太容易、太便利、幾乎沒有成本，也因為“反正不會怎樣”的心理。

平臺機制，跟不上 AI 灰產的節奏

生成式 AI 的普及，正在把造假變成一種零門檻、近乎零成本的日常行為。

對大多數 AI 助手來說，它並不“認為”自己在協助造假。如果你問一句：“能不能讓這張照片裡的橙子看起來像壞了一樣？”它可能會很貼心地給橙子加上黴斑，甚至主動問你要不要再生成一段配套影片。

與這種輕鬆製造虛假的能力形成鮮明對比的，是平臺稽核機制的滯後。

為了處理那篇離譜的 AI 黑稿，齊雲和同事前後忙了整整兩天。第一次，他們提交了加蓋公章的投訴函，失敗；第二次，他們針對文中每一條虛假資訊逐條反駁、舉證。僅僅說“我們公司的財務總監不是這個人”還不夠，還必須寫清楚真正的財務總監是誰，並附上交易所公告的簽名截圖。

整個過程既繁瑣又令人崩潰。“你造我的謠，我還得給你舉證。”齊雲憤懣地說，“我沒說過這句話，我要怎麼證明我沒說過？董事長辦公室沒有那張圖，難道我要進去拍一張？就算我拍了，你又怎麼證明那真的是董事長辦公室？”

報警或起訴則更不現實。他直言，一家上市公司的法務團隊可能只有六七個人，AI 黑稿鋪天蓋地，逐條走法律流程，根本不可能。對絕大多數企業來說，訴訟並不是可行選項。

在這種失控感中，齊雲意識到，平臺並沒有跟上 AI 灰產的節奏。“我不懂技術，”他說，“但我覺得技術公司應該有能力判斷什麼是 AI 生成的內容。”

目前，各大平臺對 AI 生成內容的管理，主要還是“打標籤”：對使用者上傳的 AI 圖片、影片，在角落標註“AI 生成”；但對文字內容，除平臺自帶的 AI 總結、AI 搜尋工具外，使用者自行釋出的文字，幾乎不會被標識是否由 AI 生成。

AI 生成文本，成了平臺治理的真空地帶，也更難識別。即便是在學術領域，用於檢測“AI 率”的工具，今年畢業季也引發巨大爭議，被質疑誤判嚴重、並不可靠。

當 AI 批次生產內容，資訊生態的失衡愈發明顯。“高質量內容被淹沒了。”齊雲說。在專業圈層，人們還能手動篩選；但在大眾資訊池裡，演算法更容易推送那些低成本、高刺激、可複製的 AI 內容。大量低質 AI 內容，正在把真實資訊擠進越來越狹窄的縫隙。

齊雲坦言，自己曾經喜歡和人基於事實討論。哪怕是負面稿件，也是一種智力較量。但現在，面對 AI 編造的謠言，他只覺得智商被侮辱——你甚至不知道該怎麼反駁，怎麼證明它就是胡說八道。“你不會把它當成一個合格的對手，只會很生氣。”

最終，齊雲選擇了轉崗。他說，現在一個公關，整天琢磨的是怎麼跟平臺打交道，怎麼寫投訴最有效，怎麼利用演算法限制傳播，這已經完全不是他當初入行時的工作。

但不是每個人都能轉身離開。更多的受害者，生活還要繼續，工作流程無法暫停。一邊是隨手就能生成的虛假內容，一邊是日復一日的自證與申訴。原本該由技術解決的問題，被悄然轉嫁給了個體。

當 AI 把造假的成本壓到歷史最低，又反向把維權成本推到新高，中間的縫隙，成了個體的猶豫與試探。造假開始與每個人的選擇糾纏在一起。當一張假圖、一段假影片、一篇假文章都能被輕易生成，當違法與不違法之間只剩下一句提示詞的距離，“能不能”與“該不該”開始混在一起。

真與假的界限，不再只由事實決定。

而是，由人決定。