用人工智慧和機器學習合成媒體資訊的技術

路透社(Reuters)報導稱,有人利用deepfake技術、假名和假傳記來虛構一個記者的身份在幾家知名國際報紙上發表文章,Deepfake(深偽技術)指的是用人工智慧和機器學習(Machine learning,ML)(AI/ML)合成的媒體資訊(圖片、聲音、影像等),將無辜明星、政客等知名人物的臉孔和聲音合成進成人影片和宣傳訊息內,這種「影片換臉」的技術,不知情的人乍看之下會真的相信影片的內容。

發表了六篇文章的記者並不存在

路透社無法追蹤到他們的幕後黑手,根據調查,他們在《耶路撒冷郵報》和《以色列時報》上發表了六篇文章和社論,而作者完全是虛構的,這一騙局提醒人們,虛假信息在網上傳播是有多麼容易而科技的技術又是多麼容易做到這一點。不過根據一些網上的資料,奧利弗·泰勒是伯明翰大學的一名學生,熱愛政治和咖啡。但是關於泰勒的真實記錄並不存在,他的電話號碼也沒有聯繫上,無論是路透社還是負責報導他的出版物都無法證實他這個人的存在。

多名專家告訴路透社,泰勒的照片幾乎可以肯定是偽造的,似乎是由「thispersondoesnotexist.com」等網站背後的同一技術生成的。這是由一位名為「Phillip Wang」的開發者,打造了一個名為「ThisPersonDoesNotExist(這個人不存在)」的網站,顧名思議就是可以無限量地產生其實並不存在的人的肖像照。這個工具利用了 NVIDIA 設計的生成式對抗網路(generative adversarial network)和大量的人臉資料,來訓練一個模型,產生「合理」的人臉來,這套系統大約每兩秒就能產生一個新的臉出來。

創造虛擬人物成為宣傳手法

宣傳人員為記者創造人物形象並非史無前例。Daily Beast的一項調查發現,一個由19名假記者組成的網絡被用來在各種較為保守的出版物上發佈政治內容,其中幾家似乎使用了deepfake技術。

《耶路撒冷郵報》對路透社說,儘管泰勒的文章沒有獲得多少關注,但很明顯的對我們來說就是一種威脅,營運商很可能會躲在造假技術背後,在有信譽的渠道發佈虛假信息,《以色列時報》評論編輯Miriam Herschlag對路透社表示,我們絕對需要找到這名冒名者並加強防禦。

圖片來源:bnext

資料來源:DAN ROBITZSKI(2020,JULY 15).SOMEONE USED DEEPFAKE TECH TO INVENT A FAKE JOURNALIST. Futurism

更多科學與科技新聞都可以直接上 明日科學網站 www.tomorrowsci.com

You May Also Like

大腦植入晶片,癱瘓病人成功重拾活動能力

8年前,比爾·哥切華爾(Bill Kochevar)因為一場意外,導致肩膀以下的身體從此癱瘓,直至他…

波音飛行車完成首次測試飛行,未來可望採自駕模式飛行

美國飛機製造商波音公司(Boeing Co)日前宣布,已在維吉尼亞州測試旗下第一款自駕載客飛行車 (…

漁產可線上大宗採購,印尼漁業新創Aruna獲得3500萬美金投資

印尼新創Aruna在A輪融資中獲得3500美金的融資,目標要建立可持續發展的漁業與海洋經濟。該新創透過連接漁民、餐廳與出口商,希望創造一個公平的漁業交易市場,並將印尼的魚產品銷售到世界各地。

日本將首次於國際太空站進行「太空電梯」實驗

以一條極長的纜繩蔓延至太空中,將貨運、太空人運送至國際太空站,甚至是月球,這是太空電梯(space …

馬斯克:未來只要一張經濟艙的價格,就能搭乘火箭進行地球長途飛行

SpaceX 執行長伊隆·馬斯克(Elon Musk)精心策劃將人類送上火星的火箭,可能在地球上有更…

什麼是合成生物學? — 當科學家遇上工程師

「合成生物學」是一個跨學科研究,當中除了牽涉到分子生物學、生物科技,更會使用工程學的知識,尤其是電機…