讓機器人了解自身存在的危機感，能讓它們表現得更好。南加州大學（University of Southern California）的一項研究認為，在這個充滿未知且不可預測的世界，一個有智慧的機器人應該要擁有自我保護的能力。
自我保護能力
這項研究的主要研究者安東尼奧·達馬西奧教授（Antonio Damasio）是大腦與智慧領域的專家，在了解大腦處理情緒、感覺、決策及意識的步驟上做出開創性的貢獻。此研究中，他與南加州大學的「大腦與創意機構」（Brain and Creativity Institute，BCI）研究員金森·曼博士（Kingson Man）共同發表了一個模型，此模型是根據哲學、思維科學和機器人技術研究而成。
達馬西奧教授及曼博士認為，要製造出一種彈性機器人的方法，不是讓它們堅不可催，而是讓它們有脆弱的一面，進而擁有約束或自我保護的策略。研究人員表示，如果人工智慧能感應到觸覺或壓力，那麼它們也能感知自身存在的危險及未來的風險 ，以便進行更好的決策 。
這個想法援引了生存遊戲的設計概念。在遊戲中，一群玩家被給予有限的資源，而他們必須找到一個平衡或消滅他們的競爭者。桌遊「沉船之謎」（Shipwreck Arcana）是合作型生存遊戲的絕佳例子。要贏的話，玩家必須盡可能讓人們從船難中生存。玩家可以分享資源讓更多人存活，或是可以犧牲某些玩家的資源，來增加一個人存活下來的可能性。
如人類般思考
知道自身「健康狀態」的機器人不是最新概念。例如，當汽車告訴你汽油不足或引擎過熱時，這就是一種直接的自我保護行為。只不過，沒有中間層的迴路來讓模型自主思考或決定優先順序。取而代之，車子只有感測器，而這些感測器只會顯示錯誤訊息讓駕駛知道。
該研究表示：「在某些情況下，有能力執行類似人類體內平衡（homeostasis）步驟的機器，可能會從動機來源習得評估行為的新方法，這類似於生物體的感受。」例如一台可以對駕駛的通勤路線及引擎狀態進行思考的汽車，在行駛時偵測到引擎可能出現問題，便自動每 10 分鐘開啟排氣制動來冷卻引擎。這個例子符合上述邏輯，與其由感測器進行警告，這台汽車能思考避免車輛故障的各種分析，或者評估每種情況的可能性 ，以進行更佳的決策 。
人類大腦輕易就能做到這些事。人類會將五種以上的感覺訊息傳輸到大腦中，我們的身體會跟著訊息進行調整。雖然科學家可能無法完全理解人類身體的複雜程度，但人類的大腦與身體基本上就是機器的概念。因此，隨著越來越複雜的材料及運算技術，機器人的思考將更接近人類。
參考資料：
- Delbert, K., (2019, November 18). Robots Need to Know They Can Die at Any Minute, Just Like the Rest of Us. Popular Mechanics
- Man, K. et al., (2019, October 9). Homeostasis and soft robotics in the design of feeling machines. Nature Machine Intelligence. doi.org/10.1038/s42256-019-0103-7
- Nield, D., (2019, November 14). Fun New Paper Says We Should Make Machines Freak Out About Their Own Mortality. ScienceAlert