美國研究:自動駕駛汽車可能較容易撞到深色皮膚的行人

自動駕駛汽車(圖:NVIDIA/Victor Tangermann)

我們已經知道有些臉部辨識系統在辨認深色皮膚的人時準確率較低,而現在用來幫助自駕車導航的人工智慧系統似乎也有相同的問題。該問題可能會對深膚色的行人造成危險,顯示人工智慧可能也會出現種族方面的偏見。

有偏見的人工智慧

根據一篇近日發表的研究,美國喬治亞理工學院(Georgia Institute of Technology)的研究人員對 8 個用於先進物體偵測系統的人工智慧模型進行詳細研究。這些系統能夠讓自駕車辨識路標、行人及其他物體。

研究人員根據常用來分類人類膚色的費氏量表(Fitzpatrick scale)上的分數,將行人的影像分成兩組,並測試這些人工智慧模型。研究結果顯示,當遇到量表上皮膚顏色最深的三種人時,這些模型均表現不佳。

平均來看,即使研究人員將照片在白天或晚上拍攝的變數考慮進去,當檢視皮膚膚色較深的群組時,這些模型的準確度會降低約 5%。

解決問題方法

這項研究表示,在路上充滿自駕車的未來,深膚色行人的安全可能不如淺色皮膚的行人。

根據這個研究,研究人員將能找出所需的技術,將更多深色皮膚行人的影像讓人工智慧系統進行訓練,並更加重視系統偵測這些影像的準確率,以避免未來路上充滿帶有偏見的自駕車。

 

參考資料:

  1. Houser, K., (2019, Mar 5). Self-Driving Cars May Hit People With Darker Skin More Often. Futurism
  2. Wilson, B. et al., Predictive Inequity in Object Detection. arXiv:1902.11097

 

黃威翔
黃威翔 79 文章
清華大學材料工程學系碩士畢業生。一個喜歡學外語,但又在科學領域打滾的平凡人,喜歡美食,日劇,電影,旅遊。

為你推薦