我們已經知道有些臉部辨識系統在辨認深色皮膚的人時準確率較低,而現在用來幫助自駕車導航的人工智慧系統似乎也有相同的問題。該問題可能會對深膚色的行人造成危險,顯示人工智慧可能也會出現種族方面的偏見。
有偏見的人工智慧
根據一篇近日發表的研究,美國喬治亞理工學院(Georgia Institute of Technology)的研究人員對 8 個用於先進物體偵測系統的人工智慧模型進行詳細研究。這些系統能夠讓自駕車辨識路標、行人及其他物體。
研究人員根據常用來分類人類膚色的費氏量表(Fitzpatrick scale)上的分數,將行人的影像分成兩組,並測試這些人工智慧模型。研究結果顯示,當遇到量表上皮膚顏色最深的三種人時,這些模型均表現不佳。
平均來看,即使研究人員將照片在白天或晚上拍攝的變數考慮進去,當檢視皮膚膚色較深的群組時,這些模型的準確度會降低約 5%。
解決問題方法
這項研究表示,在路上充滿自駕車的未來,深膚色行人的安全可能不如淺色皮膚的行人。
根據這個研究,研究人員將能找出所需的技術,將更多深色皮膚行人的影像讓人工智慧系統進行訓練,並更加重視系統偵測這些影像的準確率,以避免未來路上充滿帶有偏見的自駕車。
參考資料:
- Houser, K., (2019, Mar 5). Self-Driving Cars May Hit People With Darker Skin More Often. Futurism
- Wilson, B. et al., Predictive Inequity in Object Detection. arXiv:1902.11097