圖:POVOLNI/TRIVEDI

網路安全公司 McAfee 用一條約 5 公分的膠帶,成功騙過特斯拉汽車(Tesla)的輔助駕駛系統,讓車輛在自動駕駛時,在限速區域加速行駛。

對抗式攻擊

研究人員將一張黑色膠帶貼到速限標誌,騙過了特斯拉第一代配備的 Mobileye EyeQ3 攝影機系統,使其將速限判讀為 85 英里 而不是 35 英里,進而使時速增加 50 英里(約 80.5 公里)。

這項試驗由網路安全公司 McAfee 進行。該公司先進威脅研究團隊的史帝夫·波瓦尼(Steve Povolny)及習凡格·特列維帝(Shivangee Trivedi)表示,Mobileye EyeQ3 攝影機系統偵測速限標誌上的數字,並將該資訊輸入自動駕駛系統。而他們的試驗顯示「對抗式攻擊」(adversarial machine learning),讓機器學習模型判斷錯誤的輸入資料,可能會破壞自動駕駛系統,對希望將此技術商業化的人帶來安全性的挑戰。

愚弄機器學習系統

此研究結果顯示,機器學習系統可能會在攸關生死的情況下被攻擊。最近,這一系列的研究有增加的趨勢。例如加州大學柏克萊分校(UC Berkeley)在 2017 年的一項研究顯示,在停車號誌的特定位置貼上四張黑白貼紙,就能讓自駕車誤以為停車號誌是時速 45 英里的速限標誌。

波瓦尼表示:「我們進行此研究是因為在未來某個時間點,這些人工智慧系統會開始處理人類目前所做的任務。如果我們沒有事先察覺這類攻擊,並對系統設計更加謹慎,那我們等於就有一連串相互連結的電腦,而它們將是影響最大且最合適的攻擊平台。」

雙方論點

McAfee 證實已向特斯拉及 Mobileye 公司披露實驗結果。特斯拉已於 2016 年停止使用 Mobileye 系統,並表示不會修改第一代車款的硬體設備。Mobileye 的發言人則認為,就算人類也可能會誤判限速標誌。該公司不認為欺騙攝影機系統是一種攻擊,儘管該系統在特斯拉的巡航控制中扮演要角,但是該系統並非設計用於自動駕駛。

Mobileye 的發言人表示:「自駕車技術不會只依賴感測,也會藉由各種其他技術及資料來支援,例如群眾外包地圖(crowdsourced mapping),以確保從攝影機感測器接收資訊的可靠度,並提供更強大的安全性。」

特斯拉最新車款已使用專有攝影機,而 Mobileye EyeQ3 也更新其攝影機系統,這些新型攝影機在初始測試中不會受到此攻擊的影響。

不過波瓦尼提到,現在仍然有龐大數量的特斯拉汽車正使用這個脆弱的硬體設備。他指出特斯拉汽車第一版的硬體設備無法升級至較新的硬體設備。他也表示:「我們正努力做的是,試圖提高消費者及供應者對於各種可能出現各種缺陷的意識。我們不是在散播恐懼,並表示若是開這種車,它就會加速超出速限,也不是要讓這件事造成轟動。」

參考資料:

  1. O’Neill, P. H., (2020, February 19). Hackers can trick a Tesla into accelerating by 50 miles per hour. MIT Technology Review
  2. Eykholt, K., et al., (2017, July 27). Robust Physical-World Attacks on Deep Learning Models. arXiv.org
您可能也喜歡

什麼是合成生物學? — 當科學家遇上工程師

「合成生物學」是一個跨學科研究,當中除了牽涉到分子生物學、生物科技,更會使用工程學的知識,尤其是電機…

Google終於推出屬於自家的TV裝置 – 「Sabrina」

Google新發布的「Sabrina」看起來像是Android電視和Chromecast的合併,這也…

一組科學團隊藉由彼此之間沒有物理性接觸的電子產生了量子遙傳現象

一組研究人員宣稱他們使用個別電子而達成了量子遙傳(quantum teleportation)。 量…

馬斯克表示未來不需要耳機就能聽音樂

埃隆·馬斯克的美國神經科技公司Neuralink準備在8月28日揭曉期待已久的消息,Neuralin…

首款「無電池手機」現身,可利用環境中的無線電訊號和光線供電

美國華盛頓大學一個由電腦工程師與電機工程師組成的研究團隊成功發明了一種手機,這種手機並沒有電池,所有…

谷歌發明了可以在人類皮膚上觸控的科技

谷歌眼鏡的失敗 初代 Google Glass 於 2013&nbsp…