OpenAI 人工智慧的準確率高達 91.8%(圖:OpenAI)

OpenAI 的研究人員意外發現,一個訓練用來預測亞馬遜網站(Amazon)評論文章下一個字元的神經網路,竟然自行學會情緒的判斷。這種非監督式學習是機器學習領域追求的目標。

 

能自我學習情緒的判斷

今日,多數的人工智慧使用了機器學習中的監督式學習(Supervised learning)方法,也就是說,電腦必須從特定的資料集學習相關資訊後,才能分析並回應結果。換句話說,機器學習演算法必須使用現存資料來預測結果。近日,OpenAI 的研究人員發現,他們開發的一種機器學習系統,原本用於預測亞馬遜評論文字的下一個字元,但已經發展成一種非監督式(Unsupervised)的系統,可以自我學習情緒的判斷。

OpenAI 是一家非營利的人工智慧研究機構,其投資者包括 Tesla 執行長伊隆·馬斯克(Elon Musk)、知名創業家彼得·泰爾(Peter Thiel)以及 Y Combinator 執行長薩姆·奧爾特曼(Sam Altman)。

OpenAI 在部落格提到:「我們的模型學會了一種判斷功能,經由預測亞馬遜評論中的下一個字元,導致發現了情緒的概念,這讓我們感到非常驚訝。」OpenAI 的神經網路能經由區分正面和負面評論,以訓練情緒分析的能力,並能產生帶有正面或負面情緒的文字。

準確率高達 91.8%

這種人工智慧系統使用「相乘性長短期記憶模型」(multiplicative long short-term memory,mLSTM),利用 8200 萬筆亞馬遜評論的詞語庫,設計了 4096 個學習單元,並持續訓練了一個月,以預測評論下一個字元的文字。在完成訓練之後,研究人員對這些學習單元使用線性組合進行分析,並將模型轉變成情緒分類器。研究人員發現,當到這個模型使用少量的學習單元時,只有一個「情緒神經元」能對情緒值進行準確的預測。

這種人工智慧的情緒分析能力,超越了使用 Stanford Sentiment Treebank(SST)進行分析的所有其他相關研究,SST 是一個小型但被廣泛研究的情緒分析資料集。OpenAI 人工智慧的準確率高達 91.8%,比之前作過的最佳準確率 90.2% 還要高。

非監督式學習

非監督式學習是機器學習領域追求的目標,這種人工智慧具有自我學習的能力,不必提供特定的資料集進行訓練。OpenAI 的 mLSTM 模型實現了這個目標,不過,其開發者認為此系統可能不是唯一能進行這種非監督式學習的系統。OpenAI 的研究人員表示:「我們認為這種現象並非這個模型的特性,而是大型神經網路所具有的一般屬性,這些神經網路經過訓練後,能用來預測輸入後的下一個步驟或維度。」

非監督式學習將為人工智慧的能力帶來顯著的提升,不但能減少接受訓練的時間,同時還能提高表現。例如,這種人工智慧可以分析,甚至預測用戶的需要,以提供所需的虛擬協助。不過要實現相關的應用之前,仍需進一步研究非監督式學習演算法的開發。

OpenAI 研究人員解釋:「我們的研究結果,對非監督式表徵學習來說是一項進展。經由探索語言建模的副作用,進而學習高品質的情感判斷,並在仔細選擇的資料集上擴大既有的模型,最後終於找到結果。不過,底層的現象仍然相當神秘,有值得更進一步探索之處。」

 

參考資料:

  1. Radford, A., Sutskever, I, Jozefowicz, R., Clark, J. & Brockman, G. (April 2017). Unsupervised Sentiment Neuron, OpenAI Blog
You May Also Like

史上最黑車色!BMW 推出奈米碳管黑體塗層概念車

德國 BMW 與英國薩里奈米科技公司(Surrey NanoSystems)合作,推出幾近隱形的黑色…

倉鼠炒加密貨幣!投資報酬率勝過股神巴菲特

加密貨幣倉鼠幣(Hamster Coin) 根據外媒報導,加密貨幣倉鼠幣(Hamster Coin)…

台灣收聽量市佔率第一! SoundOn聲浪接連推出動態廣告、節目委製服務

台灣聲音經濟進入爆發期!Podcast收聽量2021年成長200%,各領域名人小S、陶晶瑩、吳淡如等紛紛開設Podcast節目搶聽眾,而收聽族群也從年輕世代快速拓大到中壯年、家長及兒童等廣大聽眾。為了幫助台灣企業善用聲音的影響力,台灣Podcast收聽量市佔第一的SoundOn聲浪,接連發表新服務「聲音動態廣告」、「節目委製服務」,讓企業更容易掌握Podcast的流量紅利!

推特上的人氣正妹竟然是一名日本中年大叔使用深偽技術所創建出來的

社群軟體上的深偽技術 大家可能要仔細檢查一下在推特或者是任何社群軟體上所關注的人,他們可能真的是深偽…

維珍銀河的商用太空船成功進入太空,太空旅行指日可待

一艘維珍銀河(Virgin Galactic)的太空船最近發射升空,並到達太空邊緣,結束了多年來的困…

追蹤兒童疫苗接種史,MIT 開發將接種紀錄植入皮膚的隱形墨水

在開發中國家進行疫苗接種時,追蹤每位孩童的接種歷史往往麻煩又費力。麻省理工學院(MIT)一組研發團隊…