曾與電腦科學家艾倫.圖靈一起研究密碼學的英國數學家歐文.
J. 古 德(Irving J. Good,1916-2009) 在一九六五年說出了自己的憂慮。

他在〈關於第一臺超智能機器的猜測〉(“Speculations Concerning the First Ultraintelligent Machine”)這篇論文 中,針對發生超人類「智慧大爆發」(intelligence explosion)現象的可能性表示憂心,寫道:「將超智能機器定義為一切智力活動都遠遠超越任何聰慧人類的機器。由於設計機器也包含在這些智力活動中,因此超智能機器能設計出更好的機器;這勢必導致無庸置疑的智慧大爆發,而人類智力將被遠遠拋在後面。人類只要完成第一臺超智能機器, 就不再需要自己進行任何發明了,但前提是這部機器要夠溫順服從,願意讓我們控制它。」

換句話說,如果人類構建出通用人工智慧(AGI,也就是知識和能力範疇都不受限的人工智慧),它應可透過工程設計能力提升自我,因此能夠反覆不斷地重新設計自己的硬體和軟體。舉一例具體說明,像這樣的 AGI 可以使用神經網路和演化式演算法製造出數百個獨立的模組,這些模塊會相互交流合作,進而提高複雜性、速度和效率。若是嘗試將有潛在危險性的人工智慧局限住或與網路上的其他部分隔離開來,很可能無法奏效,因為即使在程式設計時訂定了良善有意義的目標和任務,比方說製造更好的燈泡,要是它決定將整個北美洲都變成燈泡製造廠怎麼辦?

當然,若要說這種超級智能不太可能出現,理由也不少,例如它仍須依賴速度沒那麼快的人員和網路硬體。從另一角度來看,面對治癒疾病和解決環境問題這種與時間賽跑的危機,智慧大爆發也可能對人類極為有利。但是,智慧大爆發對人類社會整體會造成什麼樣的影響呢?如果產生了超級智慧型武器, 甚至是顯得有理智且(模擬表現得)比真人配偶更有同情心的人造伴侶呢?

(本文書摘內容出自 柯利弗德•皮寇弗 (Clifford A. Pickover)《AI之書:圖解人工智慧發展史》,由 時報出版 授權轉載,並同意 明日科學 編寫導讀與修訂標題。)

You May Also Like

科學家認為來自其他星球的外星病毒正是人類所需要的

微生物的生命存在 如果我們人類去到一個充滿外星生命的外星世界,我們所看到的就不會只有人類大小的外星人…

金星上發現的磷化氫被推估是來自厭氧生物

磷化氫不能保證金星上存在生命 早期的科學家常常認為金星上有生命存在,在天文學和通俗文化中,金星總是以…

科學家拍攝到了在火星表面美麗形狀的新月形沙丘

這張有趣的圖片是來自火星勘測軌道飛行器上的 HiRISE 相機,圖片上可以看見一片迷人的沙丘,這稱為…

美國科學家對猴子進行基因編輯,以修補牠們的膽固醇,這可能有機會用於人類身上

如果這對人類有效的話,結果會讓人非常驚訝。 較危險的膽固醇 在一項極具野心的嶄新基因編輯研究中,科學…

科學家在兩塊隕石中發現比太陽系更古老的物質

今年一月,一組研究團隊在一顆於 1969 年撞擊澳洲的隕石中,發現了年代約 50 到 70 億年的塵…

天文學家在銀河系的一個旋臂上發現了長達3000光年的突出物

長達3000光年的突出物 銀河系的旋臂所形成的形狀比過去認識到的還要複雜很多,天文學家在我們星系中發…