曾與電腦科學家艾倫.圖靈一起研究密碼學的英國數學家歐文.
J. 古 德(Irving J. Good,1916-2009) 在一九六五年說出了自己的憂慮。

他在〈關於第一臺超智能機器的猜測〉(“Speculations Concerning the First Ultraintelligent Machine”)這篇論文 中,針對發生超人類「智慧大爆發」(intelligence explosion)現象的可能性表示憂心,寫道:「將超智能機器定義為一切智力活動都遠遠超越任何聰慧人類的機器。由於設計機器也包含在這些智力活動中,因此超智能機器能設計出更好的機器;這勢必導致無庸置疑的智慧大爆發,而人類智力將被遠遠拋在後面。人類只要完成第一臺超智能機器, 就不再需要自己進行任何發明了,但前提是這部機器要夠溫順服從,願意讓我們控制它。」

換句話說,如果人類構建出通用人工智慧(AGI,也就是知識和能力範疇都不受限的人工智慧),它應可透過工程設計能力提升自我,因此能夠反覆不斷地重新設計自己的硬體和軟體。舉一例具體說明,像這樣的 AGI 可以使用神經網路和演化式演算法製造出數百個獨立的模組,這些模塊會相互交流合作,進而提高複雜性、速度和效率。若是嘗試將有潛在危險性的人工智慧局限住或與網路上的其他部分隔離開來,很可能無法奏效,因為即使在程式設計時訂定了良善有意義的目標和任務,比方說製造更好的燈泡,要是它決定將整個北美洲都變成燈泡製造廠怎麼辦?

當然,若要說這種超級智能不太可能出現,理由也不少,例如它仍須依賴速度沒那麼快的人員和網路硬體。從另一角度來看,面對治癒疾病和解決環境問題這種與時間賽跑的危機,智慧大爆發也可能對人類極為有利。但是,智慧大爆發對人類社會整體會造成什麼樣的影響呢?如果產生了超級智慧型武器, 甚至是顯得有理智且(模擬表現得)比真人配偶更有同情心的人造伴侶呢?

(本文書摘內容出自 柯利弗德•皮寇弗 (Clifford A. Pickover)《AI之書:圖解人工智慧發展史》,由 時報出版 授權轉載,並同意 明日科學 編寫導讀與修訂標題。)

您可能也喜歡

科學家提出三個小技巧,幫助人們體驗清醒夢

科學家最新研究發現,通過恰當的指導和練習,和三個小步驟,便可大大提高清醒夢的出現機率。在身心得到休息…

如果人掉進黑洞下場會如何?

你即將要掉入一個黑洞。儘管困難重重,若是你存活了下來,在你面前等待的會是什麼?你最後會出現在哪裡,若…

十年前科學家發現的費米氣泡在近日發生不尋常的現象

兩個由旋轉的氣體和宇宙射線組成的巨大氣泡位於銀河系平面的上方和下方,科學家卻不知道這背後是什麼。 它…

南北極將會在二十年內完全逆轉

過去出現許多地磁場倒轉證據 地球的磁性,是地球內部的物理性質之一。地球是一個大磁體,在其周圍形成磁場…

不必等 50 年!專家堅信最快 2030 年就能實現核融合發電

使用核融合技術為人類提供便宜又潔淨的電力,一直是科學家的夢想。過去,專家大多推測約「50 年後」才有…

拯救了數十萬人生命的不死細胞——「海拉細胞」

試想像一下你是一位 1950 年代的醫生,於醫學研究所進行研究工作。某天,你意外遇到一位患有高度惡性…