科技前瞻

不只有假新聞,現在還可能出現不存在的記者

用人工智慧和機器學習合成媒體資訊的技術

路透社(Reuters)報導稱,有人利用deepfake技術、假名和假傳記來虛構一個記者的身份在幾家知名國際報紙上發表文章,Deepfake(深偽技術)指的是用人工智慧和機器學習(Machine learning,ML)(AI/ML)合成的媒體資訊(圖片、聲音、影像等),將無辜明星、政客等知名人物的臉孔和聲音合成進成人影片和宣傳訊息內,這種「影片換臉」的技術,不知情的人乍看之下會真的相信影片的內容。

發表了六篇文章的記者並不存在

路透社無法追蹤到他們的幕後黑手,根據調查,他們在《耶路撒冷郵報》和《以色列時報》上發表了六篇文章和社論,而作者完全是虛構的,這一騙局提醒人們,虛假信息在網上傳播是有多麼容易而科技的技術又是多麼容易做到這一點。不過根據一些網上的資料,奧利弗·泰勒是伯明翰大學的一名學生,熱愛政治和咖啡。但是關於泰勒的真實記錄並不存在,他的電話號碼也沒有聯繫上,無論是路透社還是負責報導他的出版物都無法證實他這個人的存在。

多名專家告訴路透社,泰勒的照片幾乎可以肯定是偽造的,似乎是由「thispersondoesnotexist.com」等網站背後的同一技術生成的。這是由一位名為「Phillip Wang」的開發者,打造了一個名為「ThisPersonDoesNotExist(這個人不存在)」的網站,顧名思議就是可以無限量地產生其實並不存在的人的肖像照。這個工具利用了 NVIDIA 設計的生成式對抗網路(generative adversarial network)和大量的人臉資料,來訓練一個模型,產生「合理」的人臉來,這套系統大約每兩秒就能產生一個新的臉出來。

[related-post url=”https://tomorrowsci.com/technology/馬斯克將實現晶片植入人腦當中的計畫/”]

創造虛擬人物成為宣傳手法

宣傳人員為記者創造人物形象並非史無前例。Daily Beast的一項調查發現,一個由19名假記者組成的網絡被用來在各種較為保守的出版物上發佈政治內容,其中幾家似乎使用了deepfake技術。

《耶路撒冷郵報》對路透社說,儘管泰勒的文章沒有獲得多少關注,但很明顯的對我們來說就是一種威脅,營運商很可能會躲在造假技術背後,在有信譽的渠道發佈虛假信息,《以色列時報》評論編輯Miriam Herschlag對路透社表示,我們絕對需要找到這名冒名者並加強防禦。

圖片來源:bnext

資料來源:DAN ROBITZSKI(2020,JULY 15).SOMEONE USED DEEPFAKE TECH TO INVENT A FAKE JOURNALIST. Futurism

更多科學與科技新聞都可以直接上 明日科學網站 www.tomorrowsci.com