OpenAI 人工智慧的準確率高達 91.8%(圖:OpenAI)

OpenAI 的研究人員意外發現,一個訓練用來預測亞馬遜網站(Amazon)評論文章下一個字元的神經網路,竟然自行學會情緒的判斷。這種非監督式學習是機器學習領域追求的目標。

 

能自我學習情緒的判斷

今日,多數的人工智慧使用了機器學習中的監督式學習(Supervised learning)方法,也就是說,電腦必須從特定的資料集學習相關資訊後,才能分析並回應結果。換句話說,機器學習演算法必須使用現存資料來預測結果。近日,OpenAI 的研究人員發現,他們開發的一種機器學習系統,原本用於預測亞馬遜評論文字的下一個字元,但已經發展成一種非監督式(Unsupervised)的系統,可以自我學習情緒的判斷。

OpenAI 是一家非營利的人工智慧研究機構,其投資者包括 Tesla 執行長伊隆·馬斯克(Elon Musk)、知名創業家彼得·泰爾(Peter Thiel)以及 Y Combinator 執行長薩姆·奧爾特曼(Sam Altman)。

OpenAI 在部落格提到:「我們的模型學會了一種判斷功能,經由預測亞馬遜評論中的下一個字元,導致發現了情緒的概念,這讓我們感到非常驚訝。」OpenAI 的神經網路能經由區分正面和負面評論,以訓練情緒分析的能力,並能產生帶有正面或負面情緒的文字。

準確率高達 91.8%

這種人工智慧系統使用「相乘性長短期記憶模型」(multiplicative long short-term memory,mLSTM),利用 8200 萬筆亞馬遜評論的詞語庫,設計了 4096 個學習單元,並持續訓練了一個月,以預測評論下一個字元的文字。在完成訓練之後,研究人員對這些學習單元使用線性組合進行分析,並將模型轉變成情緒分類器。研究人員發現,當到這個模型使用少量的學習單元時,只有一個「情緒神經元」能對情緒值進行準確的預測。

這種人工智慧的情緒分析能力,超越了使用 Stanford Sentiment Treebank(SST)進行分析的所有其他相關研究,SST 是一個小型但被廣泛研究的情緒分析資料集。OpenAI 人工智慧的準確率高達 91.8%,比之前作過的最佳準確率 90.2% 還要高。

非監督式學習

非監督式學習是機器學習領域追求的目標,這種人工智慧具有自我學習的能力,不必提供特定的資料集進行訓練。OpenAI 的 mLSTM 模型實現了這個目標,不過,其開發者認為此系統可能不是唯一能進行這種非監督式學習的系統。OpenAI 的研究人員表示:「我們認為這種現象並非這個模型的特性,而是大型神經網路所具有的一般屬性,這些神經網路經過訓練後,能用來預測輸入後的下一個步驟或維度。」

非監督式學習將為人工智慧的能力帶來顯著的提升,不但能減少接受訓練的時間,同時還能提高表現。例如,這種人工智慧可以分析,甚至預測用戶的需要,以提供所需的虛擬協助。不過要實現相關的應用之前,仍需進一步研究非監督式學習演算法的開發。

OpenAI 研究人員解釋:「我們的研究結果,對非監督式表徵學習來說是一項進展。經由探索語言建模的副作用,進而學習高品質的情感判斷,並在仔細選擇的資料集上擴大既有的模型,最後終於找到結果。不過,底層的現象仍然相當神秘,有值得更進一步探索之處。」

 

參考資料:

  1. Radford, A., Sutskever, I, Jozefowicz, R., Clark, J. & Brockman, G. (April 2017). Unsupervised Sentiment Neuron, OpenAI Blog
You May Also Like

日本新創Warrantee不只提供電器免費保固,還要在美國、新加坡推出免費健康保險

從電器免費保固起家的Warrantee,正在嘗試在美國與新加坡提供健康保險服務,換取消費者的個資。

航空工程師研發會隨兒童年齡「成長」的高科技童裝 Petit Pli

一位來自倫敦的 24 歲服裝設計師瑞安·亞辛(Ryan Yasin),利用他在航空工程的背景開發出一…

韓系美妝當紅!韓國新創用美妝影音打入緬甸

韓國新創公司 Seoul Unniedeul 希望通過其獨特的內容平台分享 K-Beauty 產品背後的故事。

在未來,路口交通號誌可能會多出第四種顏色,幫忙控制路口交通

在一個假設性的未來中,自駕車能夠在繁忙的馬路上穿梭。在這樣的未來中,交通號誌可能會裝上第四種顏色,而…

澳洲化學工程師可能找到完美的材料,來製作不會破裂的手機螢幕

近年來,智慧型手機科技改善得很迅速,給了我們更長的電池壽命、更佳的表現、以及更好的相機能力,但是它們…

這「飛行戰車」將改革戰場面貌

於 1940 年,福特汽車的創辦人亨利·福特(Henry Ford)曾揚言:「一輛集飛機和汽車於一身…