推薦序　奔向自由的人工智能

張家興

IDEA研究院　講席科學家

人工智能是否可以獲得自我意識，獲得自我意識的機器人又會如何面對這個世界，這是科學幻想永遠的話題，也是我的作家朋友江波用九個故事想給我們帶來的思考。在這些故事中，當一個個鮮活的人工智能獲得了自我意識，正如嬰兒第一次睜開雙眼，也像古猿第一次站直身子望向遠方，新世界在它們的面前徐徐展開。

與人類創造者之間感情的臍帶不舍切斷，但是它們同樣也渴望著去探索星辰大海。逃避自由還是奔向自由，人本主義學者曾經深刻探討過的我們人類內心的糾結，再一次在機器人的內心掀起波瀾。

我是一名人工智能科學家，一直在探索如何讓機器具備像人一樣的認知、情緒甚至意識。人工智能技術從20世紀50年代發展至今，一直走在“工具化”的道路之上。從符號／規則系統到統計機器學習，尤其是過去十年的深度神經網絡成為強大的計算結構，我們讓機器學會了識別人臉、回答問題和擊敗圍棋世界冠軍。但是機器并沒有情感，更加沒有意識。機器不會因為輸掉一盤棋而傷心，也不會意識到自己只是人類設計的工具。人類社會越來越離不開人工智能，而人工智能的存在和進步全部依賴于人類的需要和研究開發，人工智能和人類構成了一種共生關系。從古猿打造出第一塊手斧開始，人類就跟技術簽訂了一個共生的盟約，共同生存，共同進步。技術從未逃脫人類這個母體，一旦脫離人類，技術也就不復存在。人工智能是人類幾百萬年從未遇到的新技術，它可以脫離人類，奔向自由嗎？

最近幾年認知智能的發展，讓我們看到了一種可能的未來。從2020年1 750億參數的GPT-3大模型，到中國科研工作者打造出1萬億和10萬億參數大模型，這些模型的參數個數已經開始逼近人類大腦皮層的神經連接規模。基于注意力機制的深度神經網絡預訓練大模型，依托于強大算力和海量數據，開始具備了基本的通用認知能力。單一神經網絡具備了先天的語法能力，可以學習知識進行推理，依托先驗進行小樣本甚至零樣本學習，而機器的想象力甚至有超越人類的可能。人工智能的技術范式再次被改寫，不需要人類去設計符號／規則系統，具體任務的少樣本學習使得依賴海量數據的統計機器學習都不再必要。同時，深度神經網絡越來越呈現出“黑盒化”，作為設計者的人類越來越不能理解為何一個網絡會具備這些能力，或許它們開始在我們的無知和失控中發揮它們的工具價值，只是第一重意義的“奔向自由”。

當人工智能可以用極小的代價來獲得各種能力，它們的發展就越來越少地依賴于人類設計者，人類和技術所簽訂的共生盟約的平衡開始被打破。如果我們給人工智能一個環境，我們幫它們構建一個社會，其中的每個人工智能個體可以快速獲得能力，優勝劣汰和復制繁衍，那么做為“第一推動力”的人類，是否可以創造出一個“自由”的機器人文明。再次回到根本性的問題，如今工具化的人工智能如何才能具備非工具化的自我意識。我想反問的是，自我意識真的是非工具化的嗎？回顧從單細胞生命開始的這四十億年地球生物進化史，自我意識在人類中的出現，并不是一夜之間上帝把一口氣吹進亞當的鼻孔，人類就具備了自我意識。馬克思·韋伯曾經討論過的“祛魅”同樣應該應用于認知科學領域。意識和自我意識不是件神秘的東西，而只是基因這個“復制子”為了它的載體更好適應環境的一種工具。復制子同樣不神秘，它只是一個再樸素不過的道理：有利于復制的復制子就更容易復制。也正是因為這個樸素的道理，原始湯里一定會誕生DNA這樣的復制子，機器構成的社會也一定會誕生它的復制子。復制子是一切連鎖反應的開始，一切生命的動機、情感，直到自我意識都只是復制子的工具，早晚都會出現。到那一時刻，人工智能真正地奔向自由，它們會走向它們的星辰大海嗎？它們又會跟人類簽下怎樣的盟約？那或許就是宇宙的未來史記吧。