聊天機器人「恐怖互聊」 虛驚一場

臉書有巨量的訊息當作資料庫，提供機器人近乎無止盡的判斷學習機會。（取材自Pixabay）

臉書人工智慧機器人Alice跟Bob，用人類無法理解的語言互相溝通，嚇壞工程師。（取材自每日郵報）

臉書進行的聊天機器人實驗出現意想不到的恐怖發展，兩個機器人竟發展出自身語言，開始聊起來，此新語言對機器人甚至更具溝通效率，讓臉書趕緊停止這項引發爭議的實驗。不過，這個彷彿科幻電影就要成真的報導，事實上只是虛驚一場，因為不是機器人真的發明自己的語言，而是工程師忘了並設定只能使用英語溝通，所以才出現難被理解的程式語言。

英國「每日郵報」（Daily Mail）報導，臉書原本正在進行實驗，教導機器人艾莉絲（Alice）和鮑柏（Bob）如何協商。但臉書人工智慧研究實驗室（FAIR）人員竟發現，機器人開始脫稿，發展出人類未灌注的新詞語。

在這項實驗中，臉書人工智慧研究人員教導機器人如何達成協議。他們讓機器人自行發展對話技巧，卻發現AI軟體開始脫偏離正常語言，使用人類監督者未注入的自創新語言。

對機器人而言，這個新語言甚至更具溝通效率，但對達成人類設定的任務沒有幫助。

不過，工程師表示他們確實關閉了有關系統，但並不是因為人工智能發明了自己語言被嚇壞而關閉，他們強調開發目標是為了讓人類都可以明白人工智能系統，若人工智能系統有了自己的語言，其實對人類沒有太大意思或用處。而且，當人工智能有了自己的語言後，兩個系統可以更容易溝通，但若果萬一系統有問題時，人類就較難找到相關BUG。關閉機器人以後，研究人員做了新設定，規定機器人只能用英語來溝通，才解決了這個問題。

參考來源