Google 研發人工智能死穴,防止 AI 叛變

Google 旗下的人工智能研究所 DeepMind,最近以他們研發的 AI 程式打敗世界圍棋冠軍李世乭後一夜成名,無疑為人工智能技術立下了一個里程碑。 但 DeepMind 卻表示,在棋藝上打敗人類只是研究的開始;他們的最終目標,是研發像人類一樣能獨立思考和從經驗中學習的人工智能。

這不禁為大眾帶來憂慮:假如一天人工智能系統發生故障、受病毒感染、甚至選擇背叛人類,我們將有能力反抗嗎?

正因此,DeepMind 最近和牛津大學人類未來研究院(Future of Humanity Institute)合作,發表了一篇論文,指出「人工智能不可能隨時處於最佳狀態」,在某些情況下,人類操作者可能需要「按下一個緊急按鈕」,方止 AI 造成任何的傷害。換而言之,我們必需設計出他們的死穴。

DeepMind 研究所創辦人之一的素里曼先生(Mustafa Suleyman)強調,DeepMind 並非一個只會下棋的程式,而是一個「人工綜合性智能」(Artificial General Intelligence),這表示 DeepMind 並不需要任何預先輸入的程式,也能獨自從資料及數據中學習。

那麼這些「人工綜合性智能」也能找出自己的死穴,然後學習如何超越它,打敗我們最後的防線嗎?在 DeepMind 和牛津大學合作發表的論文中,科學家解釋他們正探索一個能防止 AI 人工智能找出他們死穴的方法。

Google 人工智能與圍棋世界冠軍的對決(圖:Geordie Wood)
Google 人工智能與圍棋世界冠軍的對決(圖:Geordie Wood)

如今,AI 人工智能每年都以驚人的速度在不斷成長。素里曼舉例說,DeepMind 在2012 年曾以 84% 的準確度分類了一百萬張照片內的動物,引來傳媒一時轟動。但在大眾的迴響逐漸平息後,DeepMind 依然一直在更新和學習,三年後,它的準確度竟已達到 94.5%,足足減少了百分之十的誤差。

在某些工作上,人工智能無疑地已達到、甚至已超越我們人類的技術水平。以往,圍棋一直被視為世界上最複雜的棋盤遊戲,策略千變萬化,每一步皆存在數百個可能性,超出電腦計算的範圍。即使在 1997 年,DeepBlue 電腦打敗國際象棋冠軍後,大眾依然不能相信電腦一日能夠掌握圍棋。想不到在 20 年內,DeepMind 已成功征服這人類多年智慧的結晶,令人興奮之餘,亦同時讓人憂慮未來人工智能將能夠取代我們。