OpenAI 人工智慧的準確率高達 91.8%(圖:OpenAI)

OpenAI 的研究人員意外發現,一個訓練用來預測亞馬遜網站(Amazon)評論文章下一個字元的神經網路,竟然自行學會情緒的判斷。這種非監督式學習是機器學習領域追求的目標。

 

能自我學習情緒的判斷

今日,多數的人工智慧使用了機器學習中的監督式學習(Supervised learning)方法,也就是說,電腦必須從特定的資料集學習相關資訊後,才能分析並回應結果。換句話說,機器學習演算法必須使用現存資料來預測結果。近日,OpenAI 的研究人員發現,他們開發的一種機器學習系統,原本用於預測亞馬遜評論文字的下一個字元,但已經發展成一種非監督式(Unsupervised)的系統,可以自我學習情緒的判斷。

OpenAI 是一家非營利的人工智慧研究機構,其投資者包括 Tesla 執行長伊隆·馬斯克(Elon Musk)、知名創業家彼得·泰爾(Peter Thiel)以及 Y Combinator 執行長薩姆·奧爾特曼(Sam Altman)。

OpenAI 在部落格提到:「我們的模型學會了一種判斷功能,經由預測亞馬遜評論中的下一個字元,導致發現了情緒的概念,這讓我們感到非常驚訝。」OpenAI 的神經網路能經由區分正面和負面評論,以訓練情緒分析的能力,並能產生帶有正面或負面情緒的文字。

準確率高達 91.8%

這種人工智慧系統使用「相乘性長短期記憶模型」(multiplicative long short-term memory,mLSTM),利用 8200 萬筆亞馬遜評論的詞語庫,設計了 4096 個學習單元,並持續訓練了一個月,以預測評論下一個字元的文字。在完成訓練之後,研究人員對這些學習單元使用線性組合進行分析,並將模型轉變成情緒分類器。研究人員發現,當到這個模型使用少量的學習單元時,只有一個「情緒神經元」能對情緒值進行準確的預測。

這種人工智慧的情緒分析能力,超越了使用 Stanford Sentiment Treebank(SST)進行分析的所有其他相關研究,SST 是一個小型但被廣泛研究的情緒分析資料集。OpenAI 人工智慧的準確率高達 91.8%,比之前作過的最佳準確率 90.2% 還要高。

非監督式學習

非監督式學習是機器學習領域追求的目標,這種人工智慧具有自我學習的能力,不必提供特定的資料集進行訓練。OpenAI 的 mLSTM 模型實現了這個目標,不過,其開發者認為此系統可能不是唯一能進行這種非監督式學習的系統。OpenAI 的研究人員表示:「我們認為這種現象並非這個模型的特性,而是大型神經網路所具有的一般屬性,這些神經網路經過訓練後,能用來預測輸入後的下一個步驟或維度。」

非監督式學習將為人工智慧的能力帶來顯著的提升,不但能減少接受訓練的時間,同時還能提高表現。例如,這種人工智慧可以分析,甚至預測用戶的需要,以提供所需的虛擬協助。不過要實現相關的應用之前,仍需進一步研究非監督式學習演算法的開發。

OpenAI 研究人員解釋:「我們的研究結果,對非監督式表徵學習來說是一項進展。經由探索語言建模的副作用,進而學習高品質的情感判斷,並在仔細選擇的資料集上擴大既有的模型,最後終於找到結果。不過,底層的現象仍然相當神秘,有值得更進一步探索之處。」

 

參考資料:

  1. Radford, A., Sutskever, I, Jozefowicz, R., Clark, J. & Brockman, G. (April 2017). Unsupervised Sentiment Neuron, OpenAI Blog
You May Also Like

中國量子計算機「九章」 問世,速度比Google的量子電腦還快100億倍

Google的Sycamore量子電腦獨佔鰲頭 中國科技大學的一組研究人員在最近宣佈了他們已經超越原…

什麼是合成生物學? — 當科學家遇上工程師

「合成生物學」是一個跨學科研究,當中除了牽涉到分子生物學、生物科技,更會使用工程學的知識,尤其是電機…

Google終於推出屬於自家的TV裝置 – 「Sabrina」

Google新發布的「Sabrina」看起來像是Android電視和Chromecast的合併,這也…

2021年全球將面臨嚴重的飢荒,將有高達36個國家陷入危機

2021年將面臨嚴重的飢荒 聯合國世界糧食計劃署(WFP)負責人近日向世界各國傳達了一個可怕的消息:…

科學家找到一種可儲存太陽能達數個月甚至數年的新材料

若我們要在以再生能源來驅動這個星球的方面上表現得更好,我們需要找到更有效率地儲存該些能量的方式,直到…

澳洲研究團隊成功研發出世界上第一個人類仿生眼睛,預計移植入人體內進行試驗

澳洲墨爾本的蒙納許大學(Monash University)的一個研究團隊打造了他們說能夠透過大腦移…