科技前瞻

網軍來襲?Facebook 發現用 AI 生成照片的假帳號,在社群媒體引導政治風向

最近,Facebook 及 Twitter 大規模移除數百個假帳號,這些假帳號在社群媒體上散布支持美國總統川普(Donald Trump)的訊息,同時利用人工智慧(AI)合成人臉作為個人頭像來假扮美國人。

幕後黑手

Facebook 表示,他們發現這些帳號連結到一家美國媒體公司「The BL」,該公司旗下有「美麗日報」網站,並宣稱與大紀元媒體集團(Epoch Media Group)有關聯。2019 年 8 月曾有報導指出,大紀元在 Facebook 及 Twitter 等社群媒體上張貼支持川普的言論。大紀元與法輪功組織之間有密切關聯,這個團體遭受中國政府的嚴重迫害。

雖然大紀元否認與 BL 之間有任何關聯,但 Facebook 發言人表示,直到 BL 經營的假帳號及專頁被停用之前,這些 BL 高層都還是大紀元旗下 Facebook 專頁的活躍管理員。

[related-post url=”https://tomorrowsci.com/technology/%e7%be%8e%e7%9b%a3%e7%ae%a1%e6%a9%9f%e6%a7%8b-%e8%87%89%e6%9b%b8-%e5%80%8b%e8%b3%87%e6%b4%a9%e6%bc%8f-%e5%8d%94%e5%95%86-%e5%8f%97%e7%bd%b0%e6%95%b8%e5%8d%81%e5%84%84/”]

大規模網軍

Facebook 指出,許多在最近的活動中使用的假帳號,似乎是透過 AI 產生偽造個人頭像。這些帳號會在假扮成美國人的同時,在其他 Facebook 群組中張貼 BL 旗下網站的內容。這些帳號經常頻繁發布支持川普的言論,並連結到 BL 及大紀元時報平台外的新聞網站。這些帳號及專頁的管理員位於美國及越南。

Facebook 表示,他們已移除了連結到 BL 的 610 個帳號、89 個 Facebook 專頁、156 個群組及 72 個 Instagram 帳號。大約有 5500 萬個帳號追蹤了其中這些 Facebook 專頁,而且有 9.2 萬個帳號追蹤了至少其中一個 Instagram 帳號。Facebook 表示,BL 在廣告上花了近 950 萬美金(約 2 億 8600 萬台幣或 7400 萬港幣)。

Facebook 安全政策負責人奈森尼爾·葛萊契(Nathaniel Gleicher)表示:「BL 現在已經被 Facebook 停用。我們會持續調查所有與其連結的網路。若我們發現他們涉及任何欺騙行為,將會採取適當行動。」

參考資料:

  1. Kelly, M., (2019, December 20). Facebook and Twitter shutter pro-Trump network reaching 55 million accounts. The Verge
  2. Zadrozny, B & Collins, B. (2019, August 20). Trump, QAnon and an impending judgment day: Behind the Facebook-fueled rise of The Epoch Times. NBC News