2025年6月，央視主持人李梓萌從未說過的一句話，卻從她的“嘴”里傳遍網(wǎng)絡(luò)：“深海多烯魚油，專治頭暈手麻、記憶下降?！边@不是她主持的節(jié)目，也不是廣告代言，而是一場(chǎng)徹頭徹尾的AI偽造。北京一家公司用她的形象直播賣貨，產(chǎn)品卻是普通糖果。技術(shù)鑒定顯示，那個(gè)“她”根本不存在——只是一串代碼拼湊出的幻影。

這起全國(guó)首例AI仿冒公眾人物被行政處罰案，揭開了一個(gè)危險(xiǎn)的現(xiàn)實(shí)：技術(shù)已不再只是工具，它正在成為信任的掘墓人。李梓萌的臉被“盜用”，但真正受損的，是我們每個(gè)人對(duì)所見所聞的基本確信。

AI換臉已不再是實(shí)驗(yàn)室里的黑科技。如今，只需9.9元一天，普通人就能租用AI軟件，上傳一張照片，幾分鐘內(nèi)生成“明星帶貨”視頻。電商平臺(tái)甚至明碼標(biāo)價(jià)：劉亦菲的臉1280元，永久使用；三分鐘錄音，即可克隆聲紋，實(shí)現(xiàn)聲畫同步。這些偽造內(nèi)容繞過平臺(tái)檢測(cè)，在抖音、微信、快手的直播中暢通無阻。技術(shù)的平民化，讓欺詐的門檻降到了地板。

更可怕的是，這種偽造正在瓦解我們對(duì)信息的基本判斷。Jumio 2025年報(bào)告顯示，69%的全球受訪者因AI欺詐對(duì)線上內(nèi)容更加懷疑，36%的人不再相信“有圖有真相”。當(dāng)AI能完美復(fù)刻李梓萌的神態(tài)語氣，誰能保證下一秒出現(xiàn)在你手機(jī)里的“親友求救視頻”不是騙子？當(dāng)虛假內(nèi)容比真實(shí)信息更生動(dòng)、更煽情，辟謠的速度永遠(yuǎn)追不上謠言的傳播。

這不僅是李梓萌一個(gè)人的危機(jī)。名人光環(huán)本是公眾信任的延伸，如今卻被技術(shù)反噬，淪為欺詐的放大器。企業(yè)用AI偽造“專家推薦”“明星背書”，消費(fèi)者難辨真?zhèn)?；騙子用AI模仿親人聲音索要轉(zhuǎn)賬，親情成為攻擊入口；甚至真實(shí)新聞也被污名為“AI生成”，真相在懷疑中被消解。畢馬威調(diào)查顯示，58%的人認(rèn)為AI不可信，而93%的消費(fèi)者認(rèn)為防騙責(zé)任在自己——當(dāng)每個(gè)人都得化身偵探，社會(huì)的信任成本已高到無法承受。

技術(shù)不會(huì)停下，但社會(huì)不能失守。北京市場(chǎng)監(jiān)管局的處罰是一次亮劍，但法律必須跑在技術(shù)前面。平臺(tái)需強(qiáng)化源頭識(shí)別，建立數(shù)字身份認(rèn)證體系；監(jiān)管應(yīng)明確AI生成內(nèi)容的強(qiáng)制標(biāo)識(shí)義務(wù)；公眾也需提升媒介素養(yǎng)。更重要的是，我們必須重建一種共識(shí)：技術(shù)的自由，不能以犧牲集體信任為代價(jià)。

當(dāng)真實(shí)變得需要自證，虛假便已獲勝。我們捍衛(wèi)的不只是李梓萌的臉，而是這個(gè)社會(huì)還能不能相信“眼見為實(shí)”的最后底線。