曾與電腦科學家艾倫.圖靈一起研究密碼學的英國數學家歐文.
J. 古 德(Irving J. Good,1916-2009) 在一九六五年說出了自己的憂慮。

他在〈關於第一臺超智能機器的猜測〉(“Speculations Concerning the First Ultraintelligent Machine”)這篇論文 中,針對發生超人類「智慧大爆發」(intelligence explosion)現象的可能性表示憂心,寫道:「將超智能機器定義為一切智力活動都遠遠超越任何聰慧人類的機器。由於設計機器也包含在這些智力活動中,因此超智能機器能設計出更好的機器;這勢必導致無庸置疑的智慧大爆發,而人類智力將被遠遠拋在後面。人類只要完成第一臺超智能機器, 就不再需要自己進行任何發明了,但前提是這部機器要夠溫順服從,願意讓我們控制它。」

換句話說,如果人類構建出通用人工智慧(AGI,也就是知識和能力範疇都不受限的人工智慧),它應可透過工程設計能力提升自我,因此能夠反覆不斷地重新設計自己的硬體和軟體。舉一例具體說明,像這樣的 AGI 可以使用神經網路和演化式演算法製造出數百個獨立的模組,這些模塊會相互交流合作,進而提高複雜性、速度和效率。若是嘗試將有潛在危險性的人工智慧局限住或與網路上的其他部分隔離開來,很可能無法奏效,因為即使在程式設計時訂定了良善有意義的目標和任務,比方說製造更好的燈泡,要是它決定將整個北美洲都變成燈泡製造廠怎麼辦?

當然,若要說這種超級智能不太可能出現,理由也不少,例如它仍須依賴速度沒那麼快的人員和網路硬體。從另一角度來看,面對治癒疾病和解決環境問題這種與時間賽跑的危機,智慧大爆發也可能對人類極為有利。但是,智慧大爆發對人類社會整體會造成什麼樣的影響呢?如果產生了超級智慧型武器, 甚至是顯得有理智且(模擬表現得)比真人配偶更有同情心的人造伴侶呢?

(本文書摘內容出自 柯利弗德•皮寇弗 (Clifford A. Pickover)《AI之書:圖解人工智慧發展史》,由 時報出版 授權轉載,並同意 明日科學 編寫導讀與修訂標題。)

You May Also Like

馬斯克:SpaceX 將「第一優先」打造星際飛船

馬斯克:SpaceX 將「第一優先」打造星際飛船 太空探索公司 SpaceX 於上月30日成功將兩名…

研究發現螞蟻會留下了化學痕跡讓蜘蛛可以避開牠們結網

螞蟻留下了化學痕跡 火蟻的化學信號可以讓蜘蛛逃跑!研究人員5月19日在《英國皇家學會科學》上報告說:…

NASA 好奇號在火星上發現有機物「噻吩」,或能證明火星曾有生命

一個由天體生物學家組成的國際團隊宣稱,美國太空總署(NASA)好奇號(Curiosity)火星探測車…

澳洲針鼴居然有四個性器官,它們彼此之間還能互換位置

單孔目是卵生哺乳類 單孔目(學名:Monotremata)是哺乳綱動物中原獸亞綱的僅有的一目,只分布…

沒有暗物質?最新重力理論無需暗物質及暗能量解釋宇宙

阿姆斯特丹大學(University of Amsterdam)著名弦論(string theory…

駭客對農業組織進行網路攻擊!這可能導致全球食物短缺

網絡罪犯攻擊食品行業 糧食供應是否真的面臨網絡威脅?網絡罪犯有可能攻擊食品行業嗎?答案顯然是肯定的,…