close
“Facebook 關閉“失控”的人工智能系統，因其發展出人類無法理解的語言。”看到這句話嚇死瞭。
事情是這樣的：據“外媒報導”，Facebook 開發的聊天機器人創造瞭自己的語言。雖然語言還是英語，但人類無法理解。
關於“人工智能是否邪惡”的話題，Facebook 創始人馬克·紮克伯格上周還在跟特斯拉 CEO 馬斯克爭吵。馬斯克站正方，認為人工智能非常值得擔憂，紮克伯格站反方，認為人工智能很有益處，擔憂完全是過慮。
所以……紮克伯格就這麼快就被打臉瞭？曾在著名科幻電影《魔鬼終結者》中出現過的“SkyNet”（天網），真的來臨瞭？
抱歉，這完全是在胡扯。我們來看看到底是怎麼一回事。
Facebook 的人工智能研究院（FAIR）想要訓練一個聊天機器人，讓它學會談判，於是他們開發瞭一個人工智能系統。為瞭幫助大傢理解，我們一步一步解釋：
Facebook 用瞭一個神經網絡結構來開發這個系統。這個結構叫做“生成式對抗網絡”（Generative Adversarial Networks），以下簡稱 GAN。
你可以把神經網絡理解為一種多層次的、模仿人腦神經元之間相互連接的思考方式的“電腦程序”。
而 GAN 是一種在目前非常先進的神經網絡結構，可以理解為兩個神經網絡玩《快打旋風》。玩的越多、時間越長，大傢的水準都會越來越高。當然，GAN 也有 3 個甚至更多個神經網絡的結構。
聊天機器人你肯定見過：蘋果 Siri 就是一個，亞馬遜 Alexa 和 Google Assitant 也是。
Facebook 的這項研究也是如此。研究人員訓練瞭這樣一個聊天機器人，讓它帶著“目的”和人類對話。而這個目的也很簡單：一共有兩本書、一頂帽子和 3 個籃球，3 樣東西分別設定瞭不同的權重，為的是讓機器人明白它到底有多想要這些東西，然後去和其他人談判。
Facebook 觀察到的結果是比較正常的，呈現在下圖靜電油煙機出租中：
（Source：Facebook）
但是人跟機器人聊天已經不稀奇瞭……兩個機器人能聊成什麼樣？研究人員都很感興趣。
今天的對話就發生在聊天機器人 Alice 和聊天機器人 Bob 之間：
上圖是什麼鬼？
原來，研究人員把這兩個聊天機器人湊到一起，但忘瞭給神經網絡設定“用英語溝通”的指令。
剛才說瞭，神經網絡是個程序，裡面有一大堆各種線性的數學公式，有時候線性的公式無法取得想要的結果，有些非線性的需求沒法用線性公式表達出來，這時候就要設定一個激勵函數。激勵函數對於神經網絡，簡單來說就是告訴神經網絡“這樣做得分更高”。
“堅持用英語說話沒有激勵函數，”這個研究小組的成員之一、喬治亞理工學院的訪問學者 Dhruv Batra 這樣解釋 Alice 和 Bob 奇怪的對話。“機器人會脫線發明一些它們之間才能理解的句法”。
結果，Alice 和 Bob 就聊成瞭這樣。等於是研究人員告訴瞭它們：“請用英文”，但忘瞭告訴它們：“請用英文語法”。
研究人員真的是因為“事情失控瞭”，才“不得不拔掉系統的插頭”嗎？事情真的像聽上去那樣讓人膽顫心驚嗎？
並非如此。
“我們的目標是讓機器人和人聊天（提高和人聊天的技巧）。”小組的另一名研究員 Mike Lewis 指出，Alice 和 Bob 的對話根本就是個試驗而已，讓兩個聊天機器人聊天根本沒有意義。
（Source：Facebook）
而且，Alice 和 Bob 根本就沒有發明新的語言，因為他們還是在用“i”、“balls”、“the”等英文單字溝通，隻是創造瞭一種新的表達方式而已。
而且他們“發明”的新語言，人類真的聽不懂嗎？再看一遍它們的對話：
Bob: I can ii everything else
Alice: balls have台中靜電油煙處理機租賃 zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
如果你明白瞭前面描述的試驗目的，很容易就能明白它們的套路。句法的確是亂的，但一句話裡 to me 重復的越多，這個東西對它的意義越大（權重越高）。
翻譯過來就是：
Bob：我可以我任何其他（其他任何東西都可以給你）
Alic油煙處理機出租e：球有 0 對我對我對我對我對我對我對我對我（我沒有球，球對靜電油煙處理機出租我特別特別特別特別特別特別特別特別重要）
Bob：你我任何其他（你可以拿走其他任何東西）
Alice：球有球對我對我對我對我對我對我對我對我（我要球，球對我特別特別特別特別特別特別特別特別重要）
而且根本不是在談判，就是很普通的表達而已。不給就吵嘛……
Facebook 並沒有“關掉”這個系統，而是重新設定瞭正確的激勵，修正瞭機器人的行為，讓機器人用標準的英文語法來進行交流。修正的原因也不是因為害怕 AI 失控──他們的目標是讓機器人和人聊天（提高和人聊天的技巧）。兩個聊天機器人聊天根本沒有意義。
GAN 這個東西，蘋果曾經用它搭建瞭一個系統，讓它自動合成能以假亂真的圖片，但設計的目的並非欺騙人，而是為學界和業界的其他研究者帶來幫助。因為訓練神經網絡需要大量的圖片，但世界上已有的、已標記的圖片資料庫也就那麼多，蘋果的這項研究，能自動創建帶標記的、能被用來訓練的圖片，解決瞭大傢燃眉之急。
今年 2 月，筆者介紹過 Google 本部的人工智能團隊 Google Brain 做的另外一個實驗：同樣用GAN，他們訓練瞭 3 個機器人 Alice、Bob 和 Eve，讓 Alice 和 Bob 兩人從零開始琢磨出一個加密方法，讓 Eve 來猜。這 3 個網絡的加密學知識都是 0，但隨著訓練次數越來越多，Alice 和 Bob 默契越來越好，Eve 也破解不瞭。
──這才是發明瞭人類都不懂的語言，可是也沒看見 Google 著急啊?a href="http://rent.8e.com.tw/">新竹靜電機租賃?br/>
人工智能能夠幫助人類做很多事情，比如圖像辨識技術就被投入到圖片搜索引擎中，當你在搜索引擎裡搜索關鍵詞，選擇圖片，才能找到符合描述的照片。
再比如語音辨識和自然語言理解技術，當你和 Siri、Alexa 說話的時候，它們才能比較準確地理解你的意圖。
從神經網絡技術的發展程度來看，人工智能的確很厲害瞭，但我可以告訴你的是：圖像辨識、語言理解準確度上能做到現在這麼高，完全是因為人類程序設計調優的結果。
它既不知道自己是誰，也不知道自己在哪兒，更不知道自己在幹什麼。
所以和人工智能相比，那些成天瞎說人工智能威脅論的人才更可怕吧……
（本文由 PingWest?授權轉載；首圖來源：Pixabay）
延伸閱讀： 人工智能威脅論觀點不同，馬斯克隔空批紮克伯格對 AI 認知之不足 Facebook讓 AI 互相溝通學習談判，途中發現機器人開發出自己的語言在對話 Google 的 AI 可以“有默契”地說“悄悄話” 如需獲取更多資訊，請關註微信公眾賬號：Technews科技新報
關於 最新文章 PingwestPingWest是一傢全球視野的前沿科技媒體，提供關於中國與美國的最前沿科技創業資訊，致力於成為溝通這兩個全球最大互聯網/移動市場的互聯網社區。 Latest posts by Pingwest (see all) Pebble 創始人再創業：能為 AirPods 充電的手機殼 - 2017 年 09 月 09 日 Android 8.1 也將追隨 iPhone 拋棄 3.5mm 耳機孔 - 2017 年 09 月 08 日 華為首次超越蘋果，成為全球第二大智能手機品牌 - 2017 年 09 月 07 日 未經許可，任何媒體、網站或個人不得復制、轉載、或以其他方式使用本網站的內容，違者必究。
AUGI SPORTS｜重機車靴｜重機車靴推薦｜重機專用車靴｜重機防摔鞋｜重機防摔鞋推薦｜重機防摔鞋
AUGI SPORTS｜augisports｜racing boots｜urban boots｜motorcycle boots
全站熱搜
留言列表
