(圖:BigThink)

隨著科技發展,人工智慧 ( AI ) 有望最終成為我們生活中的一部分,也勢必在某些情況下,需要代人類做出必要的道德與價值判斷。因此,一套可以提供 AI 在面臨相關抉擇時有所依據的基本架構,其實有其必要與迫切性。但如何達到這樣的目標,實在沒有簡單的帝王之路。

設想這樣的情境:當一部自動駕駛車輛,在剎車系統失靈的情形下,即將撞上路口正在穿越馬路的行人。假設你是自動駕駛軟體的程式設計者,你會希望你所寫的程式採取怎麼樣的措施?急轉彎,撞上路旁經過的長者、孩童或晨跑者?再假設,那位正在穿越馬路的行人,其實是警方正在通緝的謀殺案嫌犯,過往也前科累累,你是否仍然希望程式採取同樣的反應?

向人類學習道德判斷

這是由麻省理工學院 ( MIT ) 主持,於 2016 年上線,名為「道德機器」 ( Moral Machine ) 的網站對於網友的問卷調查題目。不難看出,這只是傳統「電車問題」( trolley problem ) 的現代化版本。

卡內基梅隆大學艾瑞爾.波卡夏 ( Ariel Procaccia ) 教授與 MIT 依亞.羅文 ( Iyad Rahwan ) 教授,有意利用上述資料庫,搭配適當的演算法設計,讓人工智慧主動學習,如何在缺乏人類指示的情況下,自主做出道德判斷。而這目標其實遠比想像中的複雜:因為純粹就機率而言,AI所可能面臨的情境,肯定遠高於資料庫中人類已經給予的資料。

然而,細究其中深意,不難發現隨處可見的缺陷與謬誤。

其中所牽涉的複雜問題

以問卷題目為例,「電車問題」並非如一般所想—一個單純的哲學思想實驗。其中諸多細節其實都是精心設計,用以挑撥能影響我們決策的情緒 ( emotion ) 與感性 ( sentiment ) 因素,藉此反駁多數決擇理論中「理性決策者」 ( rational agent ) 的基本假設。這意味著:其中所假設的情境,其實無法如實反應我們生活中所必須實際面對的抉擇。

再者,過往的人類歷史與經驗可證:群眾絕非可靠的道德依歸。心理上責任的分散與盲目跟從,使得群眾相較於個人而言,有時更容易做出令人髮指的行為,卻沒有任何一個個體意識到或願意及時遏止。

單就研究方法而言,過分仰賴網路調查,無形間排除了那些不具備電腦網路使用能力或對相關議題興致缺缺的族群,造成統計學上的抽樣偏誤 ( sampling bias )。系統的匿名機制不但無助於改善如此偏誤,更可能造成調查對象刻意給出扭曲、不合情理的回應,使得調查結果更進一步失真。

「道德或倫理」( morality or ethics ) 與「風俗」 ( custom ) 是不同的概念

AI的道德決策能力不可否認地有其必要性。但若AI最終只是根據區域、國籍與文化的特異性,做出反射性的答覆與反應,「代人類做出道德決策」的說法便未免夸夸其談、言過其實了。

 

參考資料:

  1. Noothigattu, R. et al. (2017, September). A voting-based system for ethical decision making. unpublished.
  2. Conitzer, V. et al. (2017). Moral decision making frameworks for artificial intelligence. AAAI-17.
  3. Christian, J. (2017, 16 October). What would the average human do? The Outline.
You May Also Like

NASA 成功研發出能在金星上運行的電腦

雖然水星是最靠近太陽的行星,但其實金星才是太陽系中最酷熱的星球。它的地表溫度高達 460°C,且大氣…

降低對中國依賴!印度通訊部長: iPhone 11 正在印度生產

繼 iPhone SE 和 iPhone 6S iPhone 7、iPhone XR 之後,高階機種…

在未來,路口交通號誌可能會多出第四種顏色,幫忙控制路口交通

在一個假設性的未來中,自駕車能夠在繁忙的馬路上穿梭。在這樣的未來中,交通號誌可能會裝上第四種顏色,而…

歐盟若跟進美英封殺華為,中國可能對 Nokia、等品牌採報復性管制

根據《華爾街日報》報導,若是歐盟跟隨美國和英國禁止 5G 網路使用華為技術,中國擬對兩家公司在中國生…

Apple 宣佈推出 Apple Music Radio 全新直播電台

兩個全新直播電台支援 165 個國家或地區的播放。另外,蘋果也宣布全球旗艦廣播電台 Beats 1 …

失眠怎麼辦?超夯睡眠科技有解!?

根據2018年的統計,台灣鎮靜安眠類的藥物使用量高達9.18億顆,高居世界第二,亞洲第一;而服用的人…