曾與電腦科學家艾倫.圖靈一起研究密碼學的英國數學家歐文.
J. 古 德(Irving J. Good,1916-2009) 在一九六五年說出了自己的憂慮。

他在〈關於第一臺超智能機器的猜測〉(“Speculations Concerning the First Ultraintelligent Machine”)這篇論文 中,針對發生超人類「智慧大爆發」(intelligence explosion)現象的可能性表示憂心,寫道:「將超智能機器定義為一切智力活動都遠遠超越任何聰慧人類的機器。由於設計機器也包含在這些智力活動中,因此超智能機器能設計出更好的機器;這勢必導致無庸置疑的智慧大爆發,而人類智力將被遠遠拋在後面。人類只要完成第一臺超智能機器, 就不再需要自己進行任何發明了,但前提是這部機器要夠溫順服從,願意讓我們控制它。」

換句話說,如果人類構建出通用人工智慧(AGI,也就是知識和能力範疇都不受限的人工智慧),它應可透過工程設計能力提升自我,因此能夠反覆不斷地重新設計自己的硬體和軟體。舉一例具體說明,像這樣的 AGI 可以使用神經網路和演化式演算法製造出數百個獨立的模組,這些模塊會相互交流合作,進而提高複雜性、速度和效率。若是嘗試將有潛在危險性的人工智慧局限住或與網路上的其他部分隔離開來,很可能無法奏效,因為即使在程式設計時訂定了良善有意義的目標和任務,比方說製造更好的燈泡,要是它決定將整個北美洲都變成燈泡製造廠怎麼辦?

當然,若要說這種超級智能不太可能出現,理由也不少,例如它仍須依賴速度沒那麼快的人員和網路硬體。從另一角度來看,面對治癒疾病和解決環境問題這種與時間賽跑的危機,智慧大爆發也可能對人類極為有利。但是,智慧大爆發對人類社會整體會造成什麼樣的影響呢?如果產生了超級智慧型武器, 甚至是顯得有理智且(模擬表現得)比真人配偶更有同情心的人造伴侶呢?

(本文書摘內容出自 柯利弗德•皮寇弗 (Clifford A. Pickover)《AI之書:圖解人工智慧發展史》,由 時報出版 授權轉載,並同意 明日科學 編寫導讀與修訂標題。)

You May Also Like

彗星上被發現存在固體磷的跡象,可能表示生命的來源來自外太空

彗星可能含有生命所需六元素 一項最新的研究表示,彗星可能含有地球上生命所需的六種最重要元素。彗星的主…

澳洲科學家在製造量子電腦上踏出了巨大的一步,打造出第一個量子電路

澳洲科學家們創造了世界上第一個量子電腦電路,包含了所有在傳統電腦晶片上會看到的基本元件,但是是在量子…

研究指出:憂鬱症患者的細胞會比同齡者多衰老兩年

細胞比一般人多衰老了兩年 我們應該讓憂鬱症患者暸解該疾病的治療需要有更大的急迫性,因為研究指出它實際…

政府無法監管加密貨幣市場?現行法規無法應用在該領域

非同質化代幣NFT 非同質化代幣(Non-fungible token)更廣為人知的名稱是NFT,N…

黑洞周圍的「戴森球體」可能是外星文明的能量來源

戴森球的巨型球體結構 戴森球是一種的巨型球體結構,它完全包圍住太陽(或任何其他恆星)以利用其能量,對…

木衛二證實對空噴水,衛星地下海可能蘊藏外星生命

木衛二(Europa)被證實對空噴射羽狀水柱,或將為「探索其地下海」這份原本艱鉅的工作帶來突破。日後…