AI 語音成功欺騙公司高層匯款,科技詐騙防不勝防

人工智慧技術成熟後,被有心人士利用詐騙的新聞時有所聞(圖:Pixabay)

一家保險公司透露,英國某能源公司的執行長在今年 3 月誤信人工智慧(AI)合成的語音為上級單位主管,並遵照對方指示匯款高額資金至歹徒帳戶。

科技詐騙

保險公司裕利安宜(Euler Hermes)指出,這間受害公司的執行長未注意具有德國口音的來電者是由歹徒利用 AI 假冒而成,並遵照其指示在 1 小時內匯款 22 萬歐元(約台幣 763 萬、 190 萬港幣)給一家匈牙利供應商。

裕利安宜詐欺專家克許(Rüdiger Kirsch)表示,受害者聽得出是他主管的聲音,因為有德國口音與相同聲調,而且對方還打了 3 次電話。裕利安宜發言人指出:「該軟體可以模仿聲音,包括音調、斷句與德國口音。」

模仿聲音幾可亂真

在第一次匯款之後,歹徒又打了第二通電話,欺騙受害者對方已收到付款。之後再打第三通要求再次匯款,雖然三次聲音都相同,但最後一通是透過奧地利電話號碼播打,並要求匯款以償還某些款項。

因此,受害者開始對其真實性產生懷疑,最後並未照辦。至於之前被歹徒騙走的錢,據說已進入匈牙利一間銀行帳戶,再轉至墨西哥的某帳戶,最後被分配到其他地點,但嫌犯仍逍遙法外。

至少三起類似案件

今年 5 月, AI 公司 Dessa 推出模擬播客主持人喬·羅根(Joe Rogan)的聲音,結果幾乎與他低沉沙啞的音色相同,甚至連長期聽眾都不易分辨真偽。防毒軟體廠商賽門鐵克(Symantec)也指出,該公司已發現至少 3 起同樣以 AI 合成語音要求匯款的案例出現,其中一間受害公司已損失數百萬美元。

稍早 Google 推出 Duplex 服務,利用 AI 模仿真實人類的聲音,讓其可以代替用戶打電話。其他許多中國的小型新創公司也提供類似的免費服務。

資料來源:

  1. Brown, J. (2019). Scammer Successfully Deepfaked CEO’s Voice To Fool Underling Into Transferring $243,000. [online] Gizmodo.com.
  2. Statt, N. (2019). Thieves are now using AI deepfakes to trick companies into sending them money. [online] The Verge.
莊瑞萌
莊瑞萌 112 文章
南台科技大學畢業。熱愛翻譯,喜愛科技與環保新聞與議題。

為你推薦