就離譜！只因開了一個視頻會議，直接被騙1.8個億。

這是真真切切已經(jīng)在香港發(fā)生的一場犯罪：

一家跨國公司香港分公司的財務(wù)人員，按照“CFO”的指令，給對方指定賬戶共計轉(zhuǎn)賬2億港幣（約合1.8億人民幣）。

誰曾想，這個剛剛在視頻會議里跟自己“面對面”聊過的人，完全是Deepfake出來的！

先別著急罵這大兄弟警惕性太低，Ta也不是沒有過一絲絲懷疑，但是，這可不是什么詐騙界常見的一對一視頻通話——

參與會議的有好幾個熟面孔，無論是臉還是聲音，當(dāng)事人描述“每個人看起來都很真實(shí)啊”。

甭管怎么說，這事兒的驚悚程度，是有點(diǎn)嚇到網(wǎng)友們了。

借由AI技術(shù)犯罪的話題，一時間又成為了各大平臺的討論焦點(diǎn)。

沖鋒在AI批評一線的馬庫斯就*時間拉著網(wǎng)友們吃起了瓜：好家伙，這是《黑鏡》降臨了。

深度偽造的狗屎越來越真實(shí)了。

事件始末

我們暫且稱這位被騙的財務(wù)人員為“小帥”，事情的具體經(jīng)過是這樣嬸兒的……

最初，小帥收到了一封遠(yuǎn)在英國總部的“CFO”發(fā)來的郵件。由于內(nèi)容提到需要執(zhí)行一項(xiàng)秘密交易，小帥一開始有些疑慮，并懷疑這是網(wǎng)絡(luò)釣魚信息。

不想，騙子立馬展開下一步動作，邀請小帥進(jìn)行視頻會議。

小帥進(jìn)入視頻會議后徹底被眼前的一幕唬住了：不僅公司CFO在，小帥的一些同事也在，還有一些外部人員。

關(guān)鍵是，這些假同事和小帥認(rèn)識的真同事無論是模樣長相還是聲音，都別無二致。

會議中，這個假冒CFO還讓小帥做自我介紹，不過在此過程中會議突然中斷。

騙子隨后又通過即時通訊平臺、電郵、一對一視頻通話與小帥保持聯(lián)系。

如此接連下套，小帥最終中了騙子的詭計，按照會議中的指示，分別向5個香港銀行賬戶進(jìn)行了15次轉(zhuǎn)賬，總計2億港元，也就是約2560萬美元，約合RMB1.8個億。

從騙子聯(lián)系小帥開始，整個事件大概持續(xù)了一個周，直到小帥之后向公司總部核實(shí)情況，才驚覺整個事件不過是一場精心策劃的詐騙。

之后他們報了警。警方立即展開調(diào)查，發(fā)現(xiàn)會議中除小帥外的所有參與者，都是騙子使用公開的個人視頻和音頻片段重建的數(shù)字人。

視頻中讓小帥自我介紹并不是真的在和他互動，而只是單純的用虛擬形象下達(dá)指令。

警方還透露，不法分子曾使用相同的多人視頻通話策略，試圖詐騙該公司分部的另外一名員工，總共接觸了兩到三名員工。但警方未提供有關(guān)他們遭遇的完整信息。

目前該案還在進(jìn)一步調(diào)查中，尚未對詐騙者實(shí)施逮捕。

后續(xù)在新聞發(fā)布會上，香港警方表示已逮捕6名與此類詐騙有關(guān)的人員，且類似案件還有很多：

去年7-9月，有8張被盜的香港身份證被用于申請了90份貸款、登記了54個銀行賬戶；

至少有20次，AI Deepfake被用來模仿身份證上的人像，以騙過面部識別程序。

AI“克隆”有多猛

可以看到，整個案件中，最終讓小帥放下戒備的一大關(guān)鍵點(diǎn)就在于視頻會議中的假人過于真實(shí)。

那么現(xiàn)在的“數(shù)字克隆人”究竟能有多真？一起來看幾個栗子。

就比如下面這段霉霉說中文的視頻就來自一款爆火AI工具——HeyGen。

音色口型簡直*復(fù)刻，網(wǎng)友看了之后都嚇得直喊媽：

HeyGen的*展示中，和數(shù)字克隆人實(shí)時聊天也已成為現(xiàn)實(shí)。

AI語音合成方面，最近比較火的是一家叫做11Labs（ElevenLabs）的初創(chuàng)公司。

11Labs不僅能實(shí)現(xiàn)29個語種的語音生成，而且僅需短至1分鐘的音頻素材，就能很好地“克隆”任何一個人的聲音，語調(diào)、情緒變化都能模仿到位的那種。

關(guān)鍵是，現(xiàn)如今這些AI克隆術(shù)不僅真實(shí)度越拉越滿，門檻也在逐漸降低……

比如下面這種開源項(xiàng)目，已經(jīng)可以分分鐘實(shí)現(xiàn)實(shí)時視頻換臉。

項(xiàng)目主頁列有不少現(xiàn)成的不同人的面部模型，如果不喜歡還可以自己訓(xùn)練模型。

“數(shù)字克隆版的你即將到來”

或許是受到這一事件和前段時間的影響，上述這個實(shí)時換臉項(xiàng)目再獲關(guān)注，還新鮮沖上了GitHub趨勢榜。

就在這個項(xiàng)目的issues中，不少網(wǎng)友的抵觸情緒早已彌漫多時。

但正如許多網(wǎng)友提到的那樣，技術(shù)沒有善惡之分。并且更現(xiàn)實(shí)的問題在于，開弓沒有回頭箭。

于是很多人把關(guān)注的重點(diǎn)，放到了“如何防御”這件事上。

除了更多規(guī)范和政策的制定，從技術(shù)的角度來說，Nature就在“2024最值得關(guān)注的七項(xiàng)技術(shù)”一文中提到：

讓開發(fā)者在AI工具中加入隱形水印機(jī)制或許是一種方案。

而從個人的角度來說，提高警惕，已經(jīng)成為AIGC技術(shù)爆發(fā)時代不得不面對的命題。

香港警方也在這次事件中表示，將擴(kuò)大警報系統(tǒng)，以提前警告、阻止用戶向詐騙相關(guān)賬戶轉(zhuǎn)移資金。

不過，Deepfake假CFO騙走公司1.8個億這種事兒，多少還是有點(diǎn)過于離譜。

以致于不少網(wǎng)友提出了質(zhì)疑：

這么大一個公司，就沒點(diǎn)風(fēng)險管理措施？怕不是有內(nèi)鬼吧。

那么，你怎么看？