遠期（2070—2100）

有意識的機器

在系列電影《終結者》中，五角大樓驕傲地揭開“天網”（Skynet）的內幕，這是一個鋪天蓋地的極其堅固的計算機網絡，設計用來忠實地控制美國的核武器庫。它執行它的任務，直到1995年的一天發生了預想不到的事情。天網變得有意識了。天網的人類操作者震驚地發現他們的創造物突然有靈感了，試圖將它關閉。但為時已晚。天網為了自我保護，決定保護它們自己的唯一辦法是發動一場毀滅性的核戰爭消滅人類。30億人立刻死于原子能的火海中。隨后，天網以一個軍團一個軍團的速度釋放出殺人的機器人屠殺殘存者。現代文明被粉碎了，剩下一小群悲慘的不適應環境的人和反抗者。

更糟糕的是，在電影《黑客帝國三部曲》（Matrix Trilogy）中，人類是這樣的愚昧，他們甚至認識不到機器已經取而代之。人類進行他們日常的工作，把一切看成正常的，忘記了他們實際上是生活在豆莢之中。他們的世界是他們的機器人主人管理的虛擬現實模擬。人類的“存在”僅僅是裝在這些生活在豆莢中的人類大腦中的軟件程序，由一個大型的計算機進行操作。機器需要這些人的唯一理由是要利用他們作為電池。

當然，好萊塢把觀眾嚇得屁滾尿流是為了賺錢。但它也提出了一個合理的科學問題：當機器人最終變得和人一樣聰明時會發生什么？當機器人醒來，有了意識會怎樣？科學家們精力旺盛地辯論這些問題：還沒呢，但這些重大事件終究將會發生。

按照一些專家的說法，我們創造的機器人將沿著進化樹逐漸攀升。今天它們像蟑螂一樣聰明。在將來就會像老鼠、兔子、狗和貓、猴子一樣聰明，然后和它們的對手人類一樣聰明。需要幾十年緩慢地攀登，但是他們相信機器在智力上超過我們只是時間問題。

人工智能研究人員對于什么時候會發生這種情況的意見是有分歧的。有人說20年內機器人將達到人類的智力，然后把我們拋到塵埃之中。在1993年，弗諾·文奇（Vernor Vinge）說：“在30年內我們將有技術方法創造超人的智力。在此后不久，人類的時代將結束……這個事件不會在2005年前發生，也不會推遲到2030年之后。”

在另一方面，《哥德爾，埃舍爾，巴赫》（G?del，Escher，Bach）的作者道格拉斯·霍夫斯塔特（Douglas Hofstadter）說：“如果在下一個100年到200年出現任何這種遙遠的事情，我都會非常驚訝。”

麻省理工學院的馬文·明斯基（Marvin Minsky）是在人工智能歷史上的奠基者之一，當我與他談話時，他很小心地告訴我，對于這個事件什么時候將會發生，他沒有時間表。他相信這一天會來，但羞于成為預言者和預計精確的日期。（也許由于他是一位從一無所有幫助創建這個領域的重要的老人，也許是他看到了太多的預言最終都失敗和受到強烈反對。）

這些猜想存在一個很大的問題是關于“意識”（consciousness）這個詞匯沒有一致的意見。哲學家和數學家就這個詞匯爭論了幾個世紀，仍不能取得一致。17世紀的思想家、微積分發明人戈特弗里德·萊布尼茨（Gottfried Leibniz）曾經寫道：“如果你能把大腦吹成磨盤那么大，并在里面到處走，你不會發現意識?！闭軐W家大衛·查默斯（David Chalmers）甚至將幾乎20000篇有關這一題目的文章編目，意見都全不相同。

在科學上，沒有一處是花了這么大的力氣，卻得到這樣少的收獲。

不幸的是，“意識”是一個玄妙的術語，它意味著對不同的人有不同的意義。遺憾的是，沒有大家都能接受的這個術語的定義。

我個人認為，問題之一是不能明確定義意識，另一個問題是不能將它量化。

但是如果我冒昧地推測，我認為在理論上意識應至少由三個基本成分組成：

用這種方法，甚至簡單的機器和昆蟲都有某種形式的意識，其意識高低可以用數字1到10進行排隊。這里有一個可以量化的意識的連續統一體。一個錘子不能感覺環境，因此它的意識等級為0。但是一個溫度調節裝置可以感覺環境。溫度調節裝置的作用是它能感覺環境溫度，通過改變環境溫度對環境產生影響，因此它意識等級為1。因此，具有反饋機制的機器有初步形式的意識。蠕蟲也有這個能力。它們能夠感覺食物、配偶、危險的存在，并根據這些信息行動，但別的做不了什么。昆蟲能夠檢測的參數多于一個（如光線、聲音、氣味、壓力等），應該有較高的排列等級，大約2或3。

這種感覺的最高形式應該是識別和理解周圍環境中的物體的能力。人能夠立刻估計環境的大小，并相應采取行動，因此在這個排列中理應排得最高。然而，這是機器人得分最低的地方。正如我們已經看到的，模式識別是人工智能發展的主要障礙。機器人能夠比人更好地感覺環境，但是它們不能理解或認識它們看到的是什么。在意識的這個尺度上，機器人的得分最低，接近于昆蟲，因為它們缺乏模式識別的能力。

下一個更高的意識級別是自我意識。如果放一個鏡子靠近大多數雄性動物的旁邊，它們將立刻暴跳如雷，甚至攻擊這面鏡子。鏡子中的圖像引起動物保衛它們的領地。很多動物沒有它們是誰的意識。但是，猴子、大象、海豚和一些鳥類快速意識到鏡子中的影像代表自己時，它們停止攻擊鏡子。在這個尺度上人類排得最高，因為在他們與其他動物、其他人和周圍世界相處中，他們有高度發展的他們是誰的意識。此外，人還有自我意識，能默默地和自己說話，因此能夠憑著思維對局勢做出估計。

第三，可以根據動物為將來制定計劃的能力排隊。就我們所知，昆蟲并不為將來設定詳細的目標。大多數的昆蟲是根據直覺和周圍環境的直接線索，瞬間—瞬間地，對周圍的直接境遇做出反應。

在這個意義上，捕食者比被捕食者更有意識。捕食者要事先計劃、尋找隱藏的地方、計劃埋伏、圍捕、預計被捕食者的飛行路線。然而，被捕食者只是逃跑，因此在這個尺度上排得較低。

此外，靈長類在它們為即將發生的事情做計劃時可以臨時準備。如果它們看見一根香蕉，但伸手夠不著，那么它們可以制定策略去抓這個香蕉，例如用一根棍子。因此，當靈長類面對特定目標時（抓食物），它們會對即將發生的事情制定計劃去實現目標。

但是，總的說來，動物對遙遠的過去和將來沒有充分建立的意識。顯然在動物的王國里沒有明天。沒有證據表明它們能夠想到將來的日子。（動物會存儲食物準備冬天，但這大部分是遺傳的：它們外出尋找食物、對溫度的突變的反應已由它們的基因編制了程序。）

然而，人有非常充分建立的對未來的意識，并且能連續制定計劃。在我們的頭腦中不斷運行著對現實的模擬。事實上，我們預期的計劃可以遠遠超出我們的生命跨度。實際上，我們能判斷其他人的能力，預計形勢的發展，制定正確的策略。領導階層的一個主要任務是預計將來的局勢、權衡可能的結果和相應設定具體的目標。

換句話說，這種形式的意識涉及預測將來，也就是說，產生多個模型去模擬將來的事件。這要求對常識和自然規律有非常周密的理解。它意味著你要不斷地問自己“將會發生什么事情”。不管是計劃搶銀行，還是競選總統，這種類型的計劃意味著要能夠在你的頭腦里允許可能現實的多個模擬。

所有的指示都說明，在自然界中只有人掌握了這個藝術。

我們在分析受試者的心理狀況時也看到這一點。心理學家通常比較成人的心理狀況與他童年時的心理狀況。然后會問一個問題：是什么品質造成他在婚姻、職業生涯、財富等方面的成功？除了社會經濟因素之外，人們發現有一個特征有時突出在其他特征之上：不立刻表示滿意。根據哥倫比亞大學沃爾特·米歇爾（Walter Mischel）和他人的長期研究，能夠約束自己不立刻表示滿意（例如吃一個給他們的果汁軟糖）和能夠拖延時間等待更好機會（得到兩個果汁軟糖，而不是一個）的孩子往往得分高，在將來的美國大學錄取的標準化考試（SAT）、生活、愛情和職業生涯中容易成功。

但是能夠不立即表示滿意也與意識水平較高有關。這些孩子比較機靈，能夠認識到將來的獎勵會更大。因此能夠預見我們行動將來的結果要求更高水平的意識。

因此，人工智能研究人員的目標應該是創造具有所有這三個特征的機器人。第一項很難達到，因為機器人能夠感覺環境，但理解不了它的意義。自我意識比較容易取得。但計劃將來要求有常識，能直覺地理解什么是可能的和達到特定目標的具體策略。

因此，我們看到常識是高級意識的前提。為了讓機器人模擬現實和預測將來，它必須掌握有關周圍世界的幾百萬條常識的規則。但是有了常識還不夠。常識只是“游戲規則”，而不是策略和規劃的規則。

根據這個尺度，我們可以將已經創造的各種機器人排隊。

我們看到下棋機器“深藍”排名最低。它能打敗象棋世界冠軍，但它不能做別的事情。它能夠運行一個模擬的現實，但僅僅是針對下棋。它不能進行任何其他現實的模擬。世界上很多大型計算機都是這樣的。它們模擬一個物體的現實時非常優秀，例如，模擬核爆炸、噴氣式飛機周圍氣流的模式，或氣候。這些計算機模擬現實比人還要好。但可憐的是，它們是一維的，因此在真實世界的生存中是沒有用的。

今天，對于如何在機器人中復制所有這些過程，人工智能研究人員一無所措。大多數人舉手投降，并且說巨大的計算機網絡會有辦法顯示“突然出現的自然發生的現象”，就像有時本能地從混沌中產生秩序一樣。當問到這些突然出現的自然發生的現象什么時候將產生意識時，大多數人啞口無言，兩眼望天。

盡管我們不知道怎樣創造有意識的機器人，但是我們能夠想象當機器人比我們還先進時會是什么樣子，以此為框架測量意識。

這些機器人在第三個特征上是勝過我們的：它們能夠對將來進行復雜的模擬，遠遠超過我們，更全面、細致和深入。它們的模擬比我們更精確，因為它們更好地掌握了常識和自然的規律，因此能夠更好地搜索模式。它們將能夠預測我們忽略或未覺察的問題。此外，它們能夠設定它們的目標。如果它們的目標包括幫助人類，那么萬事皆好。但是，如果有一天，我們阻礙了它們制定的目標，就會有糟糕的結果。

但是這又產生了下一個問題：在這種情況下會發生什么事情呢？