2025年10月，某平臺在AI仿冒專項治理中，累計處罰了1.1萬個侵權(quán)仿冒達人賬號，下架了6700多個仿冒商品。 其中，演員溫崢嶸的仿冒視頻就被下架超過1萬條。

這些仿冒賬號使用AI換臉技術，冒充明星進行直播帶貨。有的賬號直接用AI生成溫崢嶸的肖像和聲音推銷產(chǎn)品，有的則用特效制作高度相似的卡通形象混淆視聽。

這類騙局并非首次出現(xiàn)。四五年前，演員靳東就曾是AI換臉的受害者。 當時，不法分子利用AI技術偽造靳東的視頻，以“戀愛”為名誘導中老年女性轉(zhuǎn)賬購物，甚至導致一位61歲阿姨離家出走追尋“真愛”。

2025年4月，中央網(wǎng)信辦在全國范圍內(nèi)部署開展了為期三個月的“清朗·整治AI技術濫用”專項行動。 專項行動分兩個階段進行，第一階段強化AI技術源頭治理，第二階段聚焦利用AI技術制作發(fā)布謠言、假冒他人等突出問題。

這些AI仿冒賬號往往有明顯的技術破綻。 警方提醒，如果在直播中看到AI換臉，當人物轉(zhuǎn)臉時側(cè)臉會變虛，上下左右晃動時會出現(xiàn)虛影。 還有的仿冒直播會出現(xiàn)口型對不上的情況。

AI換臉技術的濫用已經(jīng)造成多起嚴重詐騙案件。2023年，內(nèi)蒙古包頭一名公司老板在視頻通話中被AI偽裝的“好友”騙走430萬元，整個詐騙過程僅用了10分鐘。 2025年5月，上海警方破獲一起利用AI生成虛假網(wǎng)戀女友的詐騙案，涉案金額達200余萬元。

2021年4月，主持人白巖松在節(jié)目中公開打假，聲明自己沒有任何微博、微信、公眾號，“網(wǎng)上同名號沒一個是我”。 類似的高仿號還出現(xiàn)在鐘南山、馬未都、陳道明等名人身上。

針對AI換臉詐騙，警方建議采取多種措施防范。 在視頻通話時，可以要求對方上下左右晃晃頭，觀察是否有虛影；或者說一句方言測試對方，因為AI難以模仿真實的聲音和方言。 銀行匯款時，將到賬時間設置為“24小時到賬”，為處理問題預留時間。

未經(jīng)授權(quán)使用他人肖像進行AI換臉，或用AI生成虛假內(nèi)容進行商業(yè)宣傳，都是侵權(quán)行為。 受害者可要求停止侵害、消除影響、賠償損失。 像AI數(shù)字人虛假帶貨、AI生成虛假測評誤導消費的，還構(gòu)成虛假宣傳，涉事方需承擔相應法律責任。

日常生活中，警方提醒消費者應注意保護個人隱私，不隨意上傳包含個人信息的圖片、視頻。 如果要在網(wǎng)上發(fā)布照片，盡量避免透露個人信息或聯(lián)系方式，還有位置、工作地點，這樣能降低被詐騙的風險。