一家保險公司透露，英國某能源公司的執行長在今年 3 月誤信人工智慧（AI）合成的語音為上級單位主管，並遵照對方指示匯款高額資金至歹徒帳戶。
科技詐騙
保險公司裕利安宜（Euler Hermes）指出，這間受害公司的執行長未注意具有德國口音的來電者是由歹徒利用 AI 假冒而成，並遵照其指示在 1 小時內匯款 22 萬歐元（約台幣 763 萬、 190 萬港幣）給一家匈牙利供應商。
裕利安宜詐欺專家克許（Rüdiger Kirsch）表示，受害者聽得出是他主管的聲音，因為有德國口音與相同聲調，而且對方還打了 3 次電話。裕利安宜發言人指出：「該軟體可以模仿聲音，包括音調、斷句與德國口音。」
模仿聲音幾可亂真
在第一次匯款之後，歹徒又打了第二通電話，欺騙受害者對方已收到付款。之後再打第三通要求再次匯款，雖然三次聲音都相同，但最後一通是透過奧地利電話號碼播打，並要求匯款以償還某些款項。
因此，受害者開始對其真實性產生懷疑，最後並未照辦。至於之前被歹徒騙走的錢，據說已進入匈牙利一間銀行帳戶，再轉至墨西哥的某帳戶，最後被分配到其他地點，但嫌犯仍逍遙法外。
至少三起類似案件
今年 5 月， AI 公司 Dessa 推出模擬播客主持人喬·羅根（Joe Rogan）的聲音，結果幾乎與他低沉沙啞的音色相同，甚至連長期聽眾都不易分辨真偽。防毒軟體廠商賽門鐵克（Symantec）也指出，該公司已發現至少 3 起同樣以 AI 合成語音要求匯款的案例出現，其中一間受害公司已損失數百萬美元。
稍早 Google 推出 Duplex 服務，利用 AI 模仿真實人類的聲音，讓其可以代替用戶打電話。其他許多中國的小型新創公司也提供類似的免費服務。
資料來源：
- Brown, J. (2019). Scammer Successfully Deepfaked CEO’s Voice To Fool Underling Into Transferring $243,000. [online] Gizmodo.com.
- Statt, N. (2019). Thieves are now using AI deepfakes to trick companies into sending them money. [online] The Verge.