AI 語音成功欺騙公司高層匯款,科技詐騙防不勝防
一家保險公司透露,英國某能源公司的執行長在今年 3 月誤信人工智慧(AI)合成的語音為上級單位主管,並遵照對方指示匯款高額資金至歹徒帳戶。
科技詐騙
保險公司裕利安宜(Euler Hermes)指出,這間受害公司的執行長未注意具有德國口音的來電者是由歹徒利用 AI 假冒而成,並遵照其指示在 1 小時內匯款 22 萬歐元(約台幣 763 萬、 190 萬港幣)給一家匈牙利供應商。
裕利安宜詐欺專家克許(Rüdiger Kirsch)表示,受害者聽得出是他主管的聲音,因為有德國口音與相同聲調,而且對方還打了 3 次電話。裕利安宜發言人指出:「該軟體可以模仿聲音,包括音調、斷句與德國口音。」
[related-post url=”https://tomorrowsci.com/technology/ai-%e6%b3%95%e5%ae%98-%e6%84%9b%e6%b2%99%e5%b0%bc%e4%ba%9e-%e4%ba%ba%e5%b7%a5%e6%99%ba%e6%85%a7-%e8%a8%b4%e8%a8%9f%e6%a1%88%e4%bb%b6%e5%af%a9%e7%90%86/”]模仿聲音幾可亂真
在第一次匯款之後,歹徒又打了第二通電話,欺騙受害者對方已收到付款。之後再打第三通要求再次匯款,雖然三次聲音都相同,但最後一通是透過奧地利電話號碼播打,並要求匯款以償還某些款項。
因此,受害者開始對其真實性產生懷疑,最後並未照辦。至於之前被歹徒騙走的錢,據說已進入匈牙利一間銀行帳戶,再轉至墨西哥的某帳戶,最後被分配到其他地點,但嫌犯仍逍遙法外。
至少三起類似案件
今年 5 月, AI 公司 Dessa 推出模擬播客主持人喬·羅根(Joe Rogan)的聲音,結果幾乎與他低沉沙啞的音色相同,甚至連長期聽眾都不易分辨真偽。防毒軟體廠商賽門鐵克(Symantec)也指出,該公司已發現至少 3 起同樣以 AI 合成語音要求匯款的案例出現,其中一間受害公司已損失數百萬美元。
稍早 Google 推出 Duplex 服務,利用 AI 模仿真實人類的聲音,讓其可以代替用戶打電話。其他許多中國的小型新創公司也提供類似的免費服務。
資料來源:
- Brown, J. (2019). Scammer Successfully Deepfaked CEO’s Voice To Fool Underling Into Transferring $243,000. [online] Gizmodo.com.
- Statt, N. (2019). Thieves are now using AI deepfakes to trick companies into sending them money. [online] The Verge.