上月,Facebook 人工智慧研究實驗室(Facebook Artificial Intelligence Research lab,FAIR)報道,指他們在訓練兩個 AI 聊天機器人(chatbot)進行談判時,出現了意外的結果:機器人在談判過程中,逐漸偏離了人類語言,發展出自己的談判語言。
語言的產生、發展和未來
語言是人類交流及溝通的工具,伴隨著人類的需求產生,隨著社會的發展變遷,也經歷了各種變化。人類歷史上產生了很多語言,時至今日,有的語言已經消亡,只能在故紙堆中看到他們的身影。有的語言使用廣泛,活躍在人類文明的各個領域。
除了自然產生,語言還可以人為創造。《魔戒三部曲》作者 J.R.R. 托爾金便曾在自己的作品中為特定人物角色創造過語言。但這些語言在人類社會中並不流通。
而最近 Facebook 的人工智慧實驗室在使用機器學習(machine learning)訓練聊天機器人進行談判時,發現兩個聊天機器人竟出乎意料地偏離了人類語言,創造出自己的交流語言。
機器思維vs人類思維
實驗中的聊天機器人除了發展出它們獨特的語言,還展示了一些複雜的談判技巧。例如,其中一個機器人多次對一件毫無價值的物件假裝有興趣,之後將這件物件作為談判籌碼,換取真正想要的物件。
近年,機器學習可以說是電腦科學之中最受歡迎的領域之一,已經有相當多的研究,其中的方法包括向人工神經網路輸入大量數據,然後檢查輸出的結果,了解機器的思考方式。
然而,Facebook 的研究成果提醒我們,雖然人類是人工智慧的創造者,但我們對機器思維仍所知甚少。當我們用人類語言訓練機器人聊天時,誰能想到他們最終發明了自己的交流語言呢?
參考資料:
- Lewis, M., Yarats, D., Dauphin, Y. N., Parikh, D., Batra, D. (2017). Deal or No Deal? End-to-End Learning for Negotiation Dialogues. Facebook. retrieved from: https://s3.amazonaws.com/end-to-end-negotiator/end-to-end-negotiator.pdf