最近，重慶警方破獲了一起利用AI技術(shù)偽造駕校學(xué)時的案件。不法分子用一種叫“跑馬機(jī)”的設(shè)備，配合AI動態(tài)人像模擬，讓學(xué)員坐在家里就能刷滿培訓(xùn)課時。更令人震驚的是，這已不是個別行為，而是形成了從設(shè)備生產(chǎn)、代理銷售到駕校合作的完整黑產(chǎn)鏈條。

與此同時，湖北警方打掉了省內(nèi)首起AI換臉入侵案——犯罪分子通過偽造法人面部信息，登錄機(jī)構(gòu)公眾號發(fā)布詐騙內(nèi)容；上海則查獲一個操控500多個自媒體賬號、用AI批量生成30萬條虛假帖文的造謠團(tuán)伙。這些案件有一個共同點(diǎn)：它們都不再依賴傳統(tǒng)作假手段，而是借助AI，讓虛假變得比真實(shí)還像真的。

我們曾堅信“有圖有真相”，如今AI能生成以假亂真的圖片；我們以為“視頻不會騙人”，現(xiàn)在一段換臉視頻足以讓親友開口借錢。技術(shù)沒有原罪，但它正以前所未有的速度，瓦解著社會運(yùn)轉(zhuǎn)的底層邏輯——信任。

過去，識別謊言還有跡可循。一張模糊的照片、一段語無倫次的文字，都可能是虛假信息的破綻。但現(xiàn)在，AI生成的內(nèi)容不僅清晰流暢，還能精準(zhǔn)模仿語氣、表情甚至微表情。它不需要情緒，卻能制造共情；它不了解事實(shí)，卻能編造細(xì)節(jié)。最危險的不是它多像真，而是它讓人開始懷疑一切。

2025年初，一位上海市民接到“女兒”的求救視頻電話，畫面中的女孩滿臉是血，哭喊著被綁架。他幾乎沒猶豫就轉(zhuǎn)了15萬元。事后才發(fā)現(xiàn)，那是騙子用女兒社交平臺上的照片和語音訓(xùn)練出的AI模型。這類案件越來越多，不是因?yàn)槿藗冏兇懒?，而是欺騙的技術(shù)已經(jīng)超出了普通人的防御能力。

更隱蔽的是那些不為騙錢、只為攪亂認(rèn)知的AI造謠。有人用AI編造“某地發(fā)生重大事故”，配上逼真的傷亡畫面，只為吸引流量；有人偽造“內(nèi)部紅頭文件”，聲稱“老人乘車將享半價優(yōu)惠”，專門在老年社群傳播。這些信息未必立刻造成經(jīng)濟(jì)損失，但它們在一點(diǎn)點(diǎn)透支公眾對網(wǎng)絡(luò)內(nèi)容的基本信任。

當(dāng)真假難辨成為常態(tài)，最直接的后果是“信任成本”飆升。我們開始不敢輕信一條消息，哪怕它來自熟人；我們對每一個視頻都要反復(fù)確認(rèn)，生怕落入陷阱。這種普遍的懷疑情緒，正在侵蝕社會協(xié)作的基礎(chǔ)。如果連最基本的交流都需要層層驗(yàn)證，人與人之間的連接還會剩下多少溫度？

有人會說，那就靠技術(shù)來對抗技術(shù)。確實(shí)，國內(nèi)已有企業(yè)開發(fā)出AI反詐檢測系統(tǒng)，比如度小滿的防深偽模型在實(shí)驗(yàn)室環(huán)境下識別準(zhǔn)確率超過99%，聯(lián)想也推出了可在5秒內(nèi)檢測換臉的本地化工具。手機(jī)廠商如小米、榮耀也在系統(tǒng)中加入了AI偽造內(nèi)容識別功能。

但現(xiàn)實(shí)是，技術(shù)防御遠(yuǎn)遠(yuǎn)跟不上攻擊速度。南都記者曾用三款主流國產(chǎn)手機(jī)測試AI換臉視頻識別能力，結(jié)果無一成功。許多所謂“高精度”檢測模型依賴強(qiáng)大算力，在服務(wù)器上運(yùn)行尚可，但到了普通用戶手中，就成了形同虛設(shè)的擺設(shè)。更何況，AI造假技術(shù)本身也在進(jìn)化——今天能被捕捉的光影異常，明天可能就被新算法完美修復(fù)。

更關(guān)鍵的是，技術(shù)只能解決“能不能識破”的問題，卻無法回答“該不該相信”的困惑。當(dāng)一個視頻既可能是AI偽造，也可能是真實(shí)記錄時，我們該如何抉擇？一味懷疑會讓我們陷入信息孤島，盲目相信又可能付出慘痛代價。這不是一個靠升級軟件就能解決的困境，而是一場關(guān)于認(rèn)知方式的社會轉(zhuǎn)型。

回到開頭那起駕校作弊案。真正值得警惕的，或許不是那384臺“跑馬機(jī)”，而是背后駕校與學(xué)員的“共謀”心態(tài)：一方愿意花錢買便利，一方樂于提供“服務(wù)”。這說明，AI黑產(chǎn)之所以猖獗，不僅因?yàn)榧夹g(shù)漏洞，更因?yàn)槿诵钥p隙。

同樣的邏輯也適用于信息領(lǐng)域。那些轉(zhuǎn)發(fā)AI謠言的人，有多少是真的信了，又有多少只是圖個熱鬧、博點(diǎn)關(guān)注？當(dāng)每個人都成了潛在的內(nèi)容生產(chǎn)者，責(zé)任邊界變得模糊，作惡的門檻也就越來越低。

值得欣慰的是，應(yīng)對機(jī)制正在建立。2025年9月1日起施行的《人工智能生成合成內(nèi)容標(biāo)識辦法》，要求所有AI生成內(nèi)容必須標(biāo)注來源，平臺需履行審核義務(wù)。這意味著，未來我們看到的每一段AI視頻、每一篇AI文章，都應(yīng)帶著“這是我造的”標(biāo)簽。這不是限制技術(shù)，而是為信任重建劃出底線。

但規(guī)則落地需要時間，而傷害已經(jīng)發(fā)生。在等待制度完善的過程中，普通人能做的，是重新校準(zhǔn)自己的信息判斷方式。比如，面對親友的緊急求助，不妨掛斷后打個電話確認(rèn)；看到爆炸性新聞，先查證權(quán)威信源；對那些煽動情緒、誘導(dǎo)轉(zhuǎn)發(fā)的內(nèi)容，多問一句“為什么現(xiàn)在出現(xiàn)”。

這些方法聽起來簡單，甚至有些笨拙，但在AI模糊現(xiàn)實(shí)邊界的今天，正是這些“原始”的驗(yàn)證動作，構(gòu)成了最堅固的信任防線。

技術(shù)總會超前于監(jiān)管，而人性永遠(yuǎn)慢于變化。AI沒有讓我們失去信任，它只是暴露了我們在快速變革中尚未準(zhǔn)備好的那一部分。真正的危機(jī)不在于機(jī)器會不會說謊，而在于我們是否還愿意、是否有能力去相信。

當(dāng)“眼見為實(shí)”不再成立，也許我們可以學(xué)會另一種真實(shí)：不急于下結(jié)論，不輕易被帶動，保有懷疑的勇氣，也留著相信的余地。這才是AI時代，普通人最該修煉的認(rèn)知免疫力。