用人工智慧和機器學習合成媒體資訊的技術

路透社(Reuters)報導稱,有人利用deepfake技術、假名和假傳記來虛構一個記者的身份在幾家知名國際報紙上發表文章,Deepfake(深偽技術)指的是用人工智慧和機器學習(Machine learning,ML)(AI/ML)合成的媒體資訊(圖片、聲音、影像等),將無辜明星、政客等知名人物的臉孔和聲音合成進成人影片和宣傳訊息內,這種「影片換臉」的技術,不知情的人乍看之下會真的相信影片的內容。

發表了六篇文章的記者並不存在

路透社無法追蹤到他們的幕後黑手,根據調查,他們在《耶路撒冷郵報》和《以色列時報》上發表了六篇文章和社論,而作者完全是虛構的,這一騙局提醒人們,虛假信息在網上傳播是有多麼容易而科技的技術又是多麼容易做到這一點。不過根據一些網上的資料,奧利弗·泰勒是伯明翰大學的一名學生,熱愛政治和咖啡。但是關於泰勒的真實記錄並不存在,他的電話號碼也沒有聯繫上,無論是路透社還是負責報導他的出版物都無法證實他這個人的存在。

多名專家告訴路透社,泰勒的照片幾乎可以肯定是偽造的,似乎是由「thispersondoesnotexist.com」等網站背後的同一技術生成的。這是由一位名為「Phillip Wang」的開發者,打造了一個名為「ThisPersonDoesNotExist(這個人不存在)」的網站,顧名思議就是可以無限量地產生其實並不存在的人的肖像照。這個工具利用了 NVIDIA 設計的生成式對抗網路(generative adversarial network)和大量的人臉資料,來訓練一個模型,產生「合理」的人臉來,這套系統大約每兩秒就能產生一個新的臉出來。

創造虛擬人物成為宣傳手法

宣傳人員為記者創造人物形象並非史無前例。Daily Beast的一項調查發現,一個由19名假記者組成的網絡被用來在各種較為保守的出版物上發佈政治內容,其中幾家似乎使用了deepfake技術。

《耶路撒冷郵報》對路透社說,儘管泰勒的文章沒有獲得多少關注,但很明顯的對我們來說就是一種威脅,營運商很可能會躲在造假技術背後,在有信譽的渠道發佈虛假信息,《以色列時報》評論編輯Miriam Herschlag對路透社表示,我們絕對需要找到這名冒名者並加強防禦。

圖片來源:bnext

資料來源:DAN ROBITZSKI(2020,JULY 15).SOMEONE USED DEEPFAKE TECH TO INVENT A FAKE JOURNALIST. Futurism

更多科學與科技新聞都可以直接上 明日科學網站 www.tomorrowsci.com

You May Also Like

e27:2021馬來西亞值得關注的 25家新創!

馬來西亞有3200萬人口,其中華人人口超過700萬人,不但鄰近新加坡成為新加坡的腹地,也有許多馬來西亞人創辦的公司在新加坡發揚光大,例如東南亞最大的獨角獸Grab;而人口素質高、工作勤奮等也是馬來西亞在人才上的優勢。近年,有61%信奉伊斯蘭教的馬來西亞更努力連結伊斯蘭社會,希望成為伊斯蘭金融中心。亞洲科技媒體 e27 列出馬來西亞在 2021 年取得顯著成就的科技新創公司。

日本研發機器狼,幫助農民保護作物免於野生動物危害

日本木更津市附近的農村,最近佇立著一隻嚇人的機器狼。這隻被取名為「超級怪獸狼」(Super Mons…

Google 推出無線耳機 Pixel Buds,可即時翻譯 40 種語言

Google 在 10 月 5 日舉辦產品發表會,發表一系列新產品,其中之一是首款支援即時翻譯的無線…

SpaceX 宣佈明年發射火箭,將兩名太空人送到月球軌道

上月,美國太空探索科技公司 SpaceX 宣布,將於明年發射太空船,將兩名太空人送到月球軌道,為私人…

追蹤兒童疫苗接種史,MIT 開發將接種紀錄植入皮膚的隱形墨水

在開發中國家進行疫苗接種時,追蹤每位孩童的接種歷史往往麻煩又費力。麻省理工學院(MIT)一組研發團隊…

台灣樂天銀行、LINE BANK才開幕,香港數位銀行WeLab卻正籌備上市中,擴張東南亞

台灣純網銀樂天銀行、LINE BANK近日陸續正式營運,但香港的同業數位銀行WeLab,卻已經走向盈利,甚至籌備上市的路途。