2019年9月4日，據(jù)外媒報(bào)道，現(xiàn)在已經(jīng)很難區(qū)分出來(lái)利用深度偽造技術(shù)制作的假文本、假視頻?，F(xiàn)在，這種情況似乎又延伸到了假語(yǔ)音。獲悉，近期發(fā)生的一起語(yǔ)音欺詐案件--又稱(chēng)vishing(voice phishing語(yǔ)音釣魚(yú)簡(jiǎn)稱(chēng))讓一家公司損失了24.3萬(wàn)美元。

據(jù)了解，今年3月，犯罪分子利用商業(yè)可用的語(yǔ)音生成AI軟件模仿了一位來(lái)自擁有一家英國(guó)能源公司的德國(guó)母公司的老板。然后他們騙這家能源公司的首席執(zhí)行官讓他在一個(gè)小時(shí)內(nèi)將資金匯給一家匈牙利供應(yīng)商，另外還保證這筆資金會(huì)立即得到報(bào)銷(xiāo)。

報(bào)道稱(chēng)，當(dāng)這位CEO聽(tīng)到熟悉的、帶有輕微德國(guó)口音的聲音之后并沒(méi)有對(duì)此產(chǎn)生懷疑。然而事實(shí)上，這筆匯款不僅沒(méi)有得到報(bào)銷(xiāo)而且騙子們還繼續(xù)冒充這位德國(guó)老板要求另一筆緊急匯款。不過(guò)這次，這位英國(guó)CEO拒絕付款了。

獲悉，這位英國(guó)CEO轉(zhuǎn)給所謂的匈牙利供應(yīng)商的這筆錢(qián)最終被轉(zhuǎn)移到了墨西哥及其他地方。當(dāng)局目前并未確定此次網(wǎng)絡(luò)犯罪背后的罪犯身份。

不難看出，這種基于AI的網(wǎng)絡(luò)攻擊僅僅是企業(yè)和組織在未來(lái)可能面臨的主要難題的開(kāi)始。隨著模仿聲音工具技術(shù)的不斷改進(jìn)，犯罪分子利用這些工具牟利的可能性也會(huì)不斷增加。

根據(jù)設(shè)計(jì)反欺詐語(yǔ)音軟件的網(wǎng)絡(luò)安全公司Pindrop在去年發(fā)布的報(bào)告顯示，從2013年到2017年，語(yǔ)音欺詐案件增加了350%，其中每638個(gè)電話(huà)中就有1個(gè)是人工合成的。由此可見(jiàn)，基于AI的工具的興起既有優(yōu)點(diǎn)也有缺點(diǎn)。一方面，它為技術(shù)的探索和創(chuàng)造提供了空間，而另一方面，它為犯罪、欺騙以及欺詐提供了可能性。