科技前瞻

報告揭秘:英國國防部可能已投入無人機自主武器的研發

根據近期發表的一份報告顯示,英國國防部正投入資金與國防承包商及研究機構,進行無人機的自主武器研發。但英國國防部對此予以否認。

自主武器

自主武器(autonomous weapon)指的是能自主運作的軍事武器,這種武器能選擇並攻擊目標,而不需人類的干預。

該報告的作者彼得·伯特(Peter Burt)表示:「儘管英國內部的民眾意見不希望軍方建立自主武器,但仍有明確的證據顯示,國防部正在與國防承包商及大學進行合作建立相關的科技。」

報告中指出其中一項實例,英國國防部已在威頓基地(RAF Wyton)的聯合軍事情報中心部署「預測性認知控制系統」(predictive cognitive control system)。該系統透過人類無法掌控的龐大且複雜的數據,以深度神經網路(deep learning neural networks )進行分析,提供給相關單位直接的軍事指示建議。

危險性

這會導致一種令人擔憂的狀況,若未來提供錯誤數據給這些自主武器,可能導致系統判斷失常,而出現無法挽回的憾事。伯特表示:「我們已經見到英國政府開始於雷神無人機(Taranis stealth drone)建立全自動武器系統,因此完全獨立於人類操作的無人機自主武器,將不再是遙不可及的未來。」

英國國防部的資料確實將雷神無人機描述為「全自動航空器」,英國前國防部部長德拉森勳爵(Lord Drayson)也表示,雷神無人機可在近乎無人類操控下執行任務。

[related-post url=”https://tomorrowsci.com/technology/反對與軍方合作,google-員工集體請辭/”]

無可避免

美國加州大學(University of California)的人工智慧專家斯圖爾特·羅素教授(Stuart Russell),曾在英國議會調查的證詞上表示,小型的無人機自主武器對於有能力的廠商而言,僅需約 18 – 24 個月的時間便能大量生產。而英國政府也開始承認,開發全自動化的自主武器已是無可避免的趨勢。

但英國國防部的發言人表示:「目前國防部沒有計畫建立完全獨立於人類操作的全自動武器。所有的武器仍然能由人類進行掌控,以確保不會發生疏忽。」

 

參考資料:

  1. Doward, J. (2018, November 10). Britain funds research into drones that decide who they kill, says report. The Guardian
  2. Burt, P. (2018, November 10). Off the Leash: How the UK is developing the technology to build armed autonomous drones. Drone Wars UK