06
YOU ARE WHAT YOU EAT
機器智能會反噬我們嗎

最近的著作中關于機器智能的一個共同話題是：最好的新型學習機器將會組成外星形式的智能。我對此不太確定。“外星智能”（alien AIs）這一概念背后的邏輯通常如此：讓機器解決真實世界復雜問題的最好方法，是將它們設置為對數字敏感的學習機器，這樣就能夠最大限度地從公開的大數據中獲益。這類機器學習解決復雜問題的方法通常是檢測模式、檢測模式之中的模式、揭露隱藏在混亂數據流深處的模式。這將極有可能實現利用深度學習算法越來越深入地挖掘數據流。當這些學習完成之后，得到的結果或許是一個可以進行工作的系統。但系統的知識結構對于最初建立這個系統的工程師和程序員們來說，是不透明的。

真的不透明嗎？從某種意義上說，是的。所有那些深度學習、多層學習、統計驅動學習的結果，我們無法（至少沒有進一步的工作）清楚地知道什么變成了源代碼。外星智能呢？我準備就此下一個大賭注，并實地測試一個可能的驚人論斷。我認為，這些機器學習的越多，它們就越可能最終使用人類能夠辨認的思維方式進行思考。它們將最終擁有像人類一樣廣闊的知識結構，以完成它們的任務和做決策。它們甚至將學習使用大體上和人類一樣的情感和道德標簽。如果我的想法正確，就解除了我們共同的擔憂——它們是新興的外星智能，我們無法理解它們的目標和利益，因此它們或許會用無法想象的方式攻擊我們。也許，它們攻擊我們的方式讓我們很熟悉，因此有人希望通過常規的步驟給予它們應有的尊重和自由，這樣人類就可以避免被攻擊。

為什么機器會像人類一樣思考？其原因與人類的思維方式是客觀公正的或獨特的無關。相反，它與人類如何復制大數據食物鏈有關。這些人工智能，如果它們以類人智能的形式出現的話，就將不得不消耗大量關于人類經驗和人類利益的電子軌跡來進行學習，因為這是關于世界一般事實的最大的可用寶庫。為了擺脫這一領域的限制，這些人工智能不得不查閱我們放在Facebook、谷歌、亞馬遜、Twitter上的浩如煙海的詞匯和圖像。在它們被灌輸天體物理學知識或蛋白質折疊問題之前，突破人類智能需要更加豐富多樣的知識大餐。這頓大餐就是我們日常儲存在電子媒體中的人類經驗集合。

我們將這些強大的學習機器沉浸在統計的世界中，它們將從我們自己約定的舊軌跡中進行學習。無數圖片將會灌輸給它，例如彈跳嬰兒游戲圖片、彈球游戲圖片、LOLcats圖片。它們必須把這些東西壓縮成一個多級世界模型，從模型中找到特征、實體、屬性（潛在的變量），以最好地捕捉到數據流。面對人類灌輸的這樣一頓知識大餐，這些人工智能別無選擇，只有建立一個與我們人類有很多共同之處的世界模型。相比于變成試圖統治世界的超級大壞蛋，它們可能更容易對玩超級馬里奧上癮。

這樣的結論（只是試探性的，還有點兒開玩笑的意味）與兩個主流觀點相反。

◎首先，正如前面提到的，它反對了當前和未來的人工智能基本上是外星智能的觀點，外星智能從大數據和計算統計中學習，使它們的智能變得越來越難以讓人類理解。

◎其次，它質疑了另一個觀點，即對于人性化理解的權威途徑是通過對人性化體現的理解，包括它暗示的所有互動潛能（站、坐、跳等）。

盡管我們理解世界的典型途徑需要很多這樣的互動，但人工智能可能并非如此。人工智能系統無疑更喜歡一些與物理世界互動的方法。然而，隨著反映人類與世界互動模式的豐富的信息路徑的公開，這些沖突將會被化解。因此，它們能夠像你旁邊的人一樣理解和欣賞足球與棒球。這里用于比較的是另一個健全的人。

當然，還有更多要考慮的東西。例如，人工智能將看到大量人類電子軌跡，因此能夠全天候地去了解影響它們的模式。這意味著，它們更可能會以一種復雜的分布式系統的方式來模擬我們，而不是以個體的方式。這個差異可能會對其產生影響。那么動機和情感又如何呢？也許這些本質上取決于人類所體現的特征，例如面對危險時的直覺和本能反應。但請注意，人類生活的這些特征或許在電子知識庫中已經留下了痕跡。

我可能是錯的。但最起碼，我認為在將我們自制的人工智能塑造成新形式的外星智能之前，我們應該三思。俗話說，吃什么決定了你是什么人，而這些學習系統很可能將會反噬我們。這是一個大時代。