臉書首次讓兩個機器人「學習對話」，沒想到它們會「自創新語言」人類聽不懂！臉書嚇得緊急關閉！

臉書首次讓兩個機器人「學習對話」，沒想到它們會「自創新語言」人類聽不懂！臉書嚇得緊急關閉！

數年來，不少企業積極投入機器人開發，希望能夠借助機器人之力，使人類文明更上一層樓；然而也有另一派人士擔心未來人類恐將被機器人取代。然而，這項擔憂恐怕必非空穴來風。

過去，臉書積極開發 AI 聊天機器人 (Chatbots)，最近更首次嘗試讓機器人互相對話，藉此學會溝通與協商；但實驗結果卻超出研究人員意料之外，機器人竟自己發展出「非人類的新語言」！

實驗中，研究人員讓兩台 AI 聊天機器人愛麗絲 (Alice) 和鮑伯 (Bob) 針對「瓜分物品」進行討論與談判，中途卻發生機器人出現亂語的狀況，使得研究人員必須暫停實驗，不料當他們檢查後，卻發現愛麗絲與鮑伯 是在使用只有他們自己聽得懂的特殊程式碼進行溝通。

根據《新科學家》(New Scientist) 周刊，兩台 AI 機器人覺得比起使用研究人員設定的程式語言溝通，使用他們自己研發的程式碼更加方便，因此自行做切換。

當時，他們正在交換球，鮑伯說，「我可以，我，我，其他一切 (I can i i everything else)」，愛麗絲則回，「球對我我我來說說零……(Balls have zero to me to me to me……)」研究人員認為他們是在試圖解決彼此遇到的困難。

曾於臉書 AI 研發部門工作的喬治亞理工大學研究科學家 Duv Batra 解釋，AI 機器人使用人類設定的語言「英語」不會得到獎勵，因此他們決定自己來發明代碼字和短語系統，這是可能發生的，AI 不僅能保存字符，也能把它壓縮成可以表達更為複雜的思想的形式，「如果我說了五次the，那代表我要5個這個東西。其實這和人類的溝通並沒有差太多。」

對此，臉書官方則解釋說，研究人員之所以關閉系統，是因為他們比較希望 AI 是與人溝通，而不是互相溝通。事實上，這並非第一次 AI 自己發明語言，過去 Google 翻譯也曾發明出比資料內建更方便溝通的「內部語言」。

早前，電腦Alphogo接連擊敗韓國棋王李世乭跟中國棋王柯潔，表示電腦已經擊敗人腦！若各國政府不儘早規範與限制人工智能的發展，在不久的將來，電影情節所描述的人類被機器人取代的局面，也許會真實上演！

特斯拉（Telsa）執行長，同時也是SpaceX的創辦人，馬斯克（Elon Musk）曾說，建立具有一般智力（general intelligence）AI的行為，等於「召喚惡魔」。人工智慧的發展，對於人類文明來說，簡直是一個致命而潛在的威脅。「我們必須主動的立法規範，而不是等傷害造成了，才被動的去應付，那將為時已晚。」

他警告人類必須關注AI興起的潛在危機，最壞的情況包括取代人們的所有工作，發放假消息、詐騙電子信箱，透過假新聞與操縱訊息來引發戰爭。他說，AI帶來的改變，像是溫水煮青蛙，人不會一下子看到危機，但是等到人們看見危險性時，可能為時已晚。

來源：Lad Bible｜UniLAD

參考來源