40
MISTAKING PERFORMANCE FOR COMPETENCE
錯把性能當能力

“思考”和“智能”都是馬文·明斯基所謂的“手提箱”式詞匯。“手提箱”式詞匯是指被我們賦予多種含義的詞匯，我們可以利用這些詞匯簡要地談論復雜的問題。當我們深入分析這些詞匯時，會發現很多不同的方面、機制以及理解的層次。因此，這使得回答一些長期懸而未決的問題變得很困難，例如，“機器能思考嗎”“機器什么時候會達到人類智力水平”。這些“手提箱”式詞匯同時涵蓋了機器所展示的特殊性能，以及人類所擁有的更通用的能力。我們從性能推演到能力，并完全高估了當前和數十年之后的機器的能力。

1997年，一臺超級計算機擊敗了國際象棋世界冠軍卡斯帕羅夫。今天，很多運行在筆記本電腦上的程序比人類擁有更好的國際象棋排名。毫無疑問，計算機下國際象棋肯定比人類下得更好，但計算機的能力遠不及人類。

所有的國際象棋程序都使用帶有啟發式估值的圖靈的蠻力樹搜索算法。到了20世紀70年代，計算機的運算速度已經足夠快了，這種方法壓倒了那些試圖在下棋過程中模仿人類如何思考下一步棋的人工智能程序，所以那些方法大多被放棄了。今天的國際象棋程序無法確定為什么特定的一著棋比其他著法更“好”，只是這著棋使棋局進入了搜索樹中對手擁有更少好選擇的分支。人類玩家能夠概括描述為什么某些類型的著法是好棋，并以此來指導另一個玩家。蠻力算法程序無法指導人類玩家，除非被人類視為同等的伙伴；這取決于人類自己作出的推斷與類比，以及自己是否愿意學習。國際象棋程序不知道自己比人類更聰明，不知道自己是一個教具，不知道自己玩的游戲叫國際象棋，甚至不知道什么是“玩”。我們制作的蠻力算法下棋程序的棋技勝過了所有人，這使得人類在國際象棋上不再擁有控制地位。

現在請思考一下深度學習。深度學習在過去一年來吸引了人們的注意力，它是反向傳播算法（back propagation, BP算法）的升級。BP算法是一種擁有30年歷史的，大致基于神經元抽象模型的學習算法。它將一個信號映射到神經元層上，例如聲波的振幅或圖像的像素亮度，這樣可以更加精確地描述這個信號的完整意義，例如聲音中的詞語或圖像中的物體。最初，BP算法只能在2～3個神經元層上工作，所以在應用學習算法之前，需要對信號進行預處理，以獲得更結構化的數據。新版本的算法在更多的神經元層上工作，使得網絡更深，因此被命名為深度學習。現在的預處理步驟也會進行學習，這種不帶有人類個人偏見設計的新算法就遠比僅僅3年前的算法要強大得多，這就是深度學習吸引人類注意力的原因。它們依賴于服務器集群中大量計算機的計算能力，以及以前從未出現過的大數據集。但苛刻地講，它們也依賴于新的科學創新。

對于它們的性能，一個眾所周知的例子是，它們對一幅拿著毛絨玩具的嬰兒圖像進行的標注。當你看圖像時，眼前就是你看到的東西。這種算法在圖像標注方面表現得很好，遠遠超出了人工智能從業者的預測。但是，它仍然不具備人類標注相同圖像時所具備的全部能力。

學習算法知道圖像中有嬰兒，但它不知道嬰兒的身體結構，也不知道嬰兒在圖像中的位置。目前的深度學習算法只能分配每個像素點的概率，即某個特定的像素點是否屬于嬰兒的一部分，而人類能夠看到嬰兒占據著圖像的中間部分。目前的算法對于嬰兒的空間范圍只有一個概率上的認知，它不會運用排除法，也無法確定圖像邊緣的非零概率的像素點一定不是嬰兒的一部分。如果我們觀察神經元層的內部，或許可以發現更高級別的特征學習，即某一個識別出的特征是類似眼睛的圖像，另一個特征是類似腳的圖像。但目前的算法無法識別圖像中眼睛與腳之間可能有效的空間關系約束，這樣，就很可能會誤將一張由嬰兒身體的各部分組成的奇怪的拼貼畫識別為嬰兒。但沒有人會這樣想，所有人都會立即精確地識別出它是一張由嬰兒身體的各部分組成的奇怪拼貼畫。此外，目前的算法無法告訴機器人應該移動到哪個位置去抱起那個嬰兒，到哪里去拿到奶瓶來喂他，到哪里去給他換尿布。目前的算法在理解圖像方面不具備類人水平的能力。

增強機器學習對于連續空間結構的關注和掌控的研究工作已經開始進行了。這是一項艱巨的科研工作。我們不知道它有多么艱難，不知道它將花費多長時間，也不知道這個方法是否會遇到死胡同。從BP算法到深度學習花了大約30年時間，但一路走來，許多研究者認定BP算法沒有前途。他們錯了，但如果他們是正確的，也并不意外，因為我們自始至終都知道，BP算法不會出現在人腦中。

對于失控的人工智能系統，無論是它們統治人類，還是讓人類變得無足輕重，這種恐懼都是嚴重不切實際的。由于“手提箱”式詞匯的誤導，人們對于能力的可替代性分類時有錯誤，就好比看到高效內燃機的發展就認定曲速引擎指日可待那樣。

注：馬文·明斯基，人工智能領域的先驅之一，人工智能領域首位圖靈獎獲得者，當之無愧的人工智能之父。推薦閱讀其代表作《情感機器》（湛廬文化“機器人與人工智能”書系之一），該書首次披露了創建情感機器的6大維度，深度思考了人類思維與人工智能的未來。該書中文簡體字版已由湛廬文化策劃出版。