10月27日，新疆阿克蘇市公安局退還劉先生被騙的6000元，由于他遭遇的電詐情形特殊，阿克蘇市公安局刑事偵查大隊(duì)反詐中心主任陳新專門對(duì)其開(kāi)展防范AI詐騙宣傳。

10天前，劉先生遭遇了擬聲類AI詐騙。

作為阿克蘇市一家煙酒茶行的老板，劉先生的客戶頗多，生意往來(lái)頻繁，尤其是和一些老客戶長(zhǎng)時(shí)間相處后，便如朋友一般，對(duì)彼此都有一些了解。

10月17日，劉先生接到一通陌生來(lái)電，電話那頭自稱“陳某”的人說(shuō)：因手機(jī)電量耗盡關(guān)機(jī)，所以借朋友的電話與劉先生聯(lián)系。

聲音熟悉，口音也相似，盡管語(yǔ)調(diào)有些僵硬，劉先生也沒(méi)有對(duì)這通“老客戶”來(lái)電起疑。

“陳某”告訴劉先生，他的朋友要購(gòu)置一批煙酒，他便向朋友推薦了劉先生的店。但這期間請(qǐng)客送禮所產(chǎn)生的費(fèi)用，得由劉先生報(bào)銷。

一聽(tīng)有大生意，劉先生爽快答應(yīng)。隨后，他向“陳某”提供的銀行賬戶轉(zhuǎn)賬6000元。

接著，“陳某”又將話題轉(zhuǎn)到那位朋友最近投資的黃金項(xiàng)目上，希望劉先生也能參與其中，共同盈利。

這些反常的話語(yǔ)引起劉先生的懷疑，在他的印象里，從事建筑行業(yè)的陳某最不擅長(zhǎng)投資理財(cái)，如今主動(dòng)招攬，實(shí)屬異常。

為驗(yàn)證自己的猜測(cè)，劉先生邊通話邊給陳某的微信發(fā)送一條求證消息。

陳某回復(fù)了一個(gè)問(wèn)號(hào)。

看到問(wèn)號(hào)的那一刻，劉先生知道不妙，他趕忙掛斷電話報(bào)案。

“多虧劉先生及時(shí)報(bào)案。”陳新介紹，反詐中心民警快速鎖定收款賬號(hào)，凍結(jié)涉案資金，追查資金流向，發(fā)現(xiàn)被騙錢款已轉(zhuǎn)至陜西省西安市。

10月22日，民警在西安市抓獲為境外電詐團(tuán)伙洗錢的犯罪嫌疑人吳某，追回6000元案款。

目前，該案正在進(jìn)一步偵辦中。

“我遇到的是AI詐騙？之前從沒(méi)聽(tīng)說(shuō)過(guò)。”劉先生說(shuō)。

“這是一種新型詐騙。”陳新說(shuō)，伴隨人工智能快速發(fā)展，AI合成技術(shù)逐漸向低算力、小樣本學(xué)習(xí)方向演進(jìn)，大部分AI合成技術(shù)利用手機(jī)終端即可完成。

這就給了電詐團(tuán)伙可乘之機(jī)。以劉先生被騙案為例，詐騙分子先在不知不覺(jué)間抓取陳某的語(yǔ)音樣本——案發(fā)后，民警詢問(wèn)陳某相關(guān)情況，陳某對(duì)給劉先生打電話推介客戶一事感到匪夷所思。陳某回憶，10月初，他曾接到一個(gè)陌生電話，接通后，無(wú)人說(shuō)話，陳某“喂”了幾聲，問(wèn)了句“你是誰(shuí)”后，電話就被掛斷了。

“陳某發(fā)出的聲音被集中收集，成為AI合成技術(shù)的樣本。”陳新介紹，提取聲音后，利用AI擬聲技術(shù)，詐騙分子會(huì)生成與目標(biāo)對(duì)象音色、語(yǔ)調(diào)、節(jié)奏等特征相似的語(yǔ)音，并根據(jù)需要隨時(shí)輸入文本更改語(yǔ)音內(nèi)容，從而模仿目標(biāo)對(duì)象的聲音，以此騙取受害人的信任，進(jìn)行電信網(wǎng)絡(luò)詐騙。

“太可怕了，讓人防不勝防。”劉先生說(shuō)。

“除了你遇到的擬聲類AI詐騙，還有類似的AI換臉詐騙，更難以分辨。”陳新說(shuō)，由AI圖像合成技術(shù)演變的詐騙手法更加隱蔽和逼真，靈活性強(qiáng)，詐騙成功率高，很難防范和追查。

“如何預(yù)防AI詐騙呢？”劉先生問(wèn)。

陳新提醒，如果有陌生人或熟人通過(guò)電話或視頻要求轉(zhuǎn)賬匯款，一定要保持警惕，并通過(guò)其他方式核實(shí)對(duì)方身份。“此外，你還需要與熟人、家人約定一個(gè)暗語(yǔ)或隱私問(wèn)題，以便隨時(shí)查驗(yàn)身份，保護(hù)自己。”陳新說(shuō)。