5 圖靈測試：咖啡館對話

道格拉斯·R. 侯世達

（1981）

參與者

克里斯：物理專業學生；帕特：生物專業學生；桑迪：哲學專業學生

克里斯：桑迪，謝謝你推薦我閱讀艾倫·圖靈的文章《計算機器與智能》。文章真是精彩，當然也引我思考——思考我的思考。

桑迪：很高興聽你這么說。你還像以前一樣懷疑人工智能（AI）嗎？

克：你誤會了。我不反對人工智能。我認為它很了不起——也許還有點瘋狂，但不就該這樣嗎？我只是認為，你們這些AI鼓吹者太低估人類的心靈了。有些事是計算機永永遠遠也做不到的。比如，你能想象計算機寫出普魯斯特式的小說嗎？那豐富的想象力，復雜的人物設定……

桑：羅馬不是一天建成的！

克：從文章來看，圖靈果然是個很有趣的人。他還活著嗎？

桑：不，他1954年就死了，才41歲。如果他還活著，今年也才67歲。不過現在他已經成了超級傳奇人物，似乎很難想象這么傳奇的人還活著。

克：他怎么死的？

桑：幾乎可以肯定是自殺。他是同性戀，不得不應付外界的許多愚蠢和苛待。到最后他顯然是承受不住，自殺了。

克：悲傷的故事。

桑：的確啊。讓我難過的是，他從未目睹計算機在裝置和理論方面取得的驚人進展。

帕特：嘿二位，你們不打算跟我講一下嗎，圖靈的文章說了些什么？

桑：其實是關于兩件事。一個是問“機器能思考嗎”，確切點說是“機器最終是否能思考”。啊先說一下他認為答案是“能”。他回答問題的方式是把一系列的反對意見挨個駁倒。他試圖表達的另一點是，這個問題字面上沒什么意義，情感意味太重了。許多人被人是機器或者機器也能思考的提法攪得心神不寧。圖靈試圖用情感色彩沒有那么強的措辭來化解這個問題。比如說，帕特，你怎么看待“思考機器”這個想法？

帕：坦白說，我覺得這個詞讓人困惑。你知道是什么讓我困惑嗎？是報紙和電視上的那些廣告，它們說“能思考的產品”或者“智能烤箱”什么什么的。我真不知道應不應該太當真。

桑：我知道你說的那些廣告，我想它們應該讓很多人都感到了困惑。一方面，經常有人反復抱怨說“計算機真笨，你必須把每件事都詳詳細細地告訴它們”，另一方面，那些狂轟濫炸的廣告又把“智能產品”吹得天花亂墜。

克：確實如此。你們知道嗎，有個計算機終端生產商要把自己的產品叫作“傻瓜終端”，好讓它們顯得與眾不同。

桑：倒挺可愛，不過這也是添亂。一想到這個，“電腦”（electronic brain）這詞就總是跑進我腦袋。這個詞，許多人輕易地就接受了下來，另一些人則不假思索地拒絕。很少有人能耐心地分析問題，看看它到底有多少意義。

帕：圖靈有沒有提到什么解決辦法，比如某種針對機器的智力測試？

桑：如果有的話，一定很有趣，但還沒有機器哪怕接近能做智力測試的水平。不過，圖靈提出了一個測試，理論上能夠用于任何機器，來測定它是否能思考。

帕：這個測試對這個問題會明確給出“是”或“否”的回答嗎？要是它這么表示了的話，我可要懷疑了。

桑：它沒有啦。某種意義上這正是它的一項優點。它顯示了邊界是多么模糊，整個問題又是多么微妙。

帕：那么，就像哲學中常見的那樣，這個測試只是個措辭問題。

桑：也許吧，不過這些措辭感情充沛，因此對我來說，探討這些問題，試著厘清關鍵措辭的意思，算是件重要事。這些問題對我們的自我概念來說十分重要，我們不該把它們掃到地毯之下，視而不見。

帕：那就告訴我圖靈測試是怎么回事吧。

桑：這個想法是基于他所說的“模仿游戲”。游戲中，一男一女分別進入兩間屋子，第三方可以通過某種電傳打字設備向他們提問。第三方可以向任一房間提問，但不知道哪個人在哪個房間里。而詢問者就是要弄清女人在哪個房間里?，F在這個女人要通過她的回答盡可能地幫助詢問者。但是男人要盡可能地迷惑詢問者，假裝女人來回答。如果他成功地欺騙了詢問者……

帕：詢問者只能看到寫下來的話吧？然后覺得能從中看出回答者的性別？這個游戲聽起來很有挑戰性。我很想哪天參加一次。詢問者在測試之前認識哪位回答者嗎？他們中有人認識對方嗎？

桑：那樣可不大成。如果詢問者認識其中一位，甚至兩位都認識，所有難察難辨的暗示就都要冒出來了。三個人誰也不認識誰才最可靠。

帕：什么問題都能問嗎，沒有任何限制？

桑：那是當然。就得這樣。

帕：那么，你不認為這個游戲很快就會滑向特別與性有關的問題嗎？我能想象那個男人會在游戲中露餡，因為他會過于急切地想要表現得令人信服，所以會回答一些非常赤裸裸的問題，而多數女人都會認為這些問題過于私人，羞于啟齒，即使通過匿名的計算機連接，她們也不會回答。

桑：嗯，有道理。

克：另一種可能性是盤問與傳統性別角色差異有關的細節方面，比如女裝尺寸等等。模仿游戲中的心理學可能非常微妙。我認為詢問者是男是女可能會有區別。你不認為女人能比男人更快發現某些暴露真相的差異嗎？

帕：這么說，或許這就是區分男女的方法！

桑：嗯……這又是個新情況。不管怎么說，我不知道有沒有人認真試過原版的模仿游戲，哪怕是用現代的計算機終端來做會相對簡單。不過我得承認，我也不確定，無論結果如何，它又能證明什么。

帕：我也很好奇這個。如果詢問者——假設是位女性——沒能正確分辨出誰是女人，能證明什么？肯定不能證明那個男人原本是女人吧。

桑：沒錯。我覺得好玩的就是，雖然我從根本上說相信圖靈測試，但我不能確定這個測試的基礎——模仿游戲本身意義何在。

克：我覺得用模仿游戲來測試“思考機器”，就像用它來測試女性氣質，我挺不以為然。

帕：從你的話里我知道，圖靈測試是模仿游戲的一種擴展，只是兩個房間里的是一臺機器和一個人。

桑：正是這樣。機器竭盡所能讓詢問者相信它是人類，而人類則努力證明自己不是計算機。

帕：除去“機器竭盡所能”這樣弦外有音的字眼，你說的這些非常有趣。但你怎么知道這個測試能觸及思考的本質？也許它測試的是完全不該測的東西。隨便舉個例子，可能有人覺得只有機器跳舞跳得特別好，好到讓人覺不出它是機器，他才認為機器能思考。還有人可能會提出些別的特征。機器能打字騙人，這又有什么了不起呢？

桑：我不明白你怎么能這么說。我以前聽過這種反對意見，但老實說，反對得讓人費解。機器不能手舞足蹈，不能搬起石頭砸你的腳，又怎么樣呢？如果無論你想談什么，它都能應答得法，這不就表明它能思考嗎？至少對我而言就是如此。依照我看，圖靈干凈利落地在思考和人類的其他特征之間劃了一條清晰的界線。

帕：現在是你讓人費解了。如果一個男人能在模仿游戲中取勝說明不了什么問題，一臺機器能在圖靈測試中取勝又能說明什么呢？

克：問得好。

桑：在我看來，如果一個男人在模仿游戲中取勝了，那就能說明點兒什么。你不能得出結論說他本來是女人，但是你肯定能說他很好地洞察了女性心理（如果真有所謂“女性心理”的話）。現在，如果一臺計算機能夠騙過某個人，以為它是人，我想類似地，你就得承認，它很好地洞察了做一個人是怎樣的，洞察了“人的境遇”（不管它究竟是什么）。

帕：可能吧，但這也不一定就等于思考，對吧？在我看來，通過圖靈測試只能證明有些機器能很好地模擬出思想。

克：我完全同意帕特的意見。我們都知道，今天那些精巧的計算機程序能模擬各種復雜現象。例如在物理學中，我們用它們來模擬粒子、原子、固體、液體、氣體、星系等等的表現。但是沒人會把這些模擬當作真事。

桑：哲學家丹尼爾·丹尼特在《頭腦風暴》（Brainstorms）一書中，對模擬颶風也表達了類似的觀點。

克：這個例子也很好。顯然，計算機在模擬颶風的時候，它里面并沒有發生一場颶風，因為計算機的存儲器并沒有被時速200英里的大風撕成比特碎片，機房的地板也沒有被雨水淹沒，等等吧。

桑：得了吧，這么說可不公平。首先程序員就沒說過模擬就是真正的颶風。它只是模擬了颶風的某些方面。其次，你說模擬的颶風中沒有傾盆大雨或者時速200英里的大風時，是在使障眼法。對我們來說當然沒有狂風暴雨，但如果程序非常具體的話，其中就可能有一些模擬的人站在地上，遭遇這些狂風暴雨，就像我們遭遇颶風襲擊時一樣。在他們心中，或者就說在他們模擬的心中，颶風不是模擬，而是一個包含暴雨和破壞的真實現象。

克：哦，好家伙，場景真夠科幻的！現在我們談起模擬整個人群，而不是一個單獨的心靈了。

桑：不是這么講，我只是想告訴你，為什么你這個“模擬的李逵是李鬼不是真李逵”（the real McCoy）的論點是錯誤的。這依賴于一個默認的假設：能用舊眼光觀察模擬現象，也同樣能用舊眼光接觸正在發生的事。但實際上觀察者需要占據特殊的有利位置才能認清正在發生什么。具體在這個例子中，就是要戴上特殊的“計算機眼鏡”，才能看見狂風暴雨等等。

帕：“計算機眼鏡”？我不懂你在說什么！

桑：我是說要想看到颶風中的風雨，你必須用正確的方式去看。你——

克：不不不！模擬的颶風里沒有雨！無論模擬對人來說有多像，它也永遠不會真的有雨！也沒有哪臺計算機會在模擬風的過程中被撕成碎片！

桑：當然不會，但你把不同的層次混為一談了。真正的颶風也不會把物理定律撕成碎片。在模擬颶風的例子里，如果你往計算機的存儲器里巴望，指望找到斷開的電線什么的，那你肯定會失望。你要往合適的層次看。應該去查看存儲器中代碼編寫出的一個個結構。你會看到一些抽象的鏈接被破壞，有些變量的值變了很多，等等。這就是你要的大洪水，你要的大破壞——真真切切，只不過有點隱蔽，有點難發現。

克：抱歉，這可沒法讓我買賬。你是執意讓我尋找一種新型的大破壞，它本來與颶風毫無關系。按這種想法，你管任何東西都能叫颶風，只要戴上你那副特殊的“眼鏡”看，它所造成的效果能叫作“大洪水和大破壞”就行了。

桑：對，你完全明白了！你認識颶風是通過它的“效果”。你可不能進入颶風，在風眼中間尋找某些虛無縹緲的“颶風的本質”“颶風的靈魂”！因為存在某種特定模式——中間有一個風眼的螺旋形風暴等等——你才會說它是颶風。當然你可以堅持說，你管什么東西叫颶風，還需要有許多條件。

帕：那你不認為成為颶風的一個關鍵先決條件，是它得是種大氣現象嗎？計算機里面怎么能有風暴？要我說，模擬就是模擬就是模擬！

桑：那我猜你會認為，就連計算機的計算也是模擬的，是假裝的計算。只有人才能做真正的計算。是嗎？

帕：嗯，計算機能得出正確的答案，所以它們的計算不能說全是假裝，但這些仍然只不過是些模式。這里面沒有發生理解。就拿收銀機來說吧，它的齒輪彼此咬合著轉動的時候，你真能說你認為它在計算嗎？就我理解，計算機不過是一種豪華收銀機罷了。

桑：如果你的意思是收銀機沒有學童做算術題那樣的感覺，我同意。但這就是“計算”的意思嗎？這是計算必不可少的部分嗎？如果說是，那和至今以來大家的想法都相反。我們要寫個非常復雜的程序才能進行“真正的”計算。當然，這個程序有時也會粗心犯錯，有時答案會潦草得難以辨認，偶爾還會在紙上亂寫亂畫……它不會比郵局職員筆算你的總金額更可靠。那現在，我突然覺得這種程序最終也能寫出來。這樣我們就能知道郵局職員和學童是怎么做計算的了。

帕：我認為你永遠也做不到。

桑：也許能，也許不能，但這不是我要說的。你說收銀機不能計算，這讓我想到丹尼特的《頭腦風暴》中還有一段話我特別喜歡——這段話頗為反諷，這正是我喜歡它的原因。它大概是這么說的：“收銀機不能真正做計算，它只能轉動齒輪。但收銀機也不能真正轉動齒輪，它只能遵守物理定律?！钡つ崽乇緛硎钦f計算機的，我改成了收銀機。你也可以用同樣的推理來說人：“人不能真正做計算，他們所能做的只是操作心理符號。但他們也不能真正操作心理符號，他們所做的只是按照各種模式來發放（?re）各種神經元。但他們也不能真正發放神經元，他們只能讓物理定律來為自己發放神經元。”等等等等。你難道沒發現，丹尼特的歸謬法會引著讓你得出結論說，計算不存在，颶風也不存在，任何高于粒子和物理定律層次的東西都不存在？你說計算機只是擺弄符號，并不是真正在計算，又會有什么收獲？

帕：這個例子可能太極端了，不過它也支持了我的觀點：真正的現象和任何對它的模擬都有很大區別。對颶風來說是這樣，對人的思維來說更是這樣。

桑：哎，我不想在這個問題上過多糾纏，不過讓我再舉個例子。如果你是個無線電愛好者，在收聽另一位無線電愛好者用摩爾斯電碼廣播，你也用摩爾斯電碼來回答他，那么你叫他“無線電另一端的那個人”是不是聽起來有點搞笑呢？

帕：不，這樣說沒什么問題，雖說是假設另一邊有個人存在。

桑：是的，但是你也不能過去看呀。你準備去辨認對方的“人之為人性”（personhood），通過的途徑卻相當不尋常。你不需要看到這個人的身體或聽到他的聲音，需要的卻可以說是一種相當抽象的展示——電碼。我要說的就是這個：要“看到”短嘀和長嗒背后的人，你就要做一些解碼和解讀工作。這不是直接的感知，而是間接的。你必須剝去一兩層，才能看到隱藏其下的現實。你戴上“無線電愛好者的眼鏡”才能“看到”嘀嗒聲背后的那個人。就像模擬颶風一樣！你不會看到它讓機房變得黑沉沉——你要給機器的存儲器解碼。你要戴上特殊的“存儲器解碼眼鏡”，然后你就看見颶風了！

帕：欸欸欸，你慢點，別想滑過去！在短波無線電這個例子里，那邊是個真人，也許在斐濟群島或者其他什么地方。我坐在無線電旁邊解碼，就說明了那個人存在。就像看見一個影子就能推論說那邊有個東西投射了這影子一樣。但沒人會把影子和物體混為一談！拿颶風來說，模擬颶風的背后并沒有真的颶風讓計算機來遵循其模式。你只有一個“影子颶風”，沒有真東西。我只是拒絕把影子和現實混為一談。

桑：好吧。我不想把這一點說死。我也承認，說模擬的颶風就是颶風有點傻。不過我想指出，這并不像你乍看上去時以為的那么傻。當你考慮模擬思維的時候，眼前的問題可是與模擬颶風有很大區別。

帕：我看不出來為什么。在我看來頭腦風暴就是一場心理颶風。不過說正經的，你必須說服我才行。

桑：好吧，為了說服你，我還要先就颶風問題再補充幾點。

帕：哦不！唉，好吧好吧。

桑：沒人能說清楚——用完全精確的語言說清楚——颶風究竟是什么。許多風暴都有一種共同的抽象模式，因此我們管這些風暴叫颶風。但我們不可能在颶風和非颶風之間劃出清晰的分界線。風暴有龍卷風、氣旋、臺風、塵暴……木星上的大紅斑是颶風嗎？太陽黑子是颶風嗎？人工風洞里有颶風嗎？試管里呢？你甚至可以在想象中把“颶風”的概念擴大到中子星表面的微觀風暴。

克：這倒也不是牽強附會。“地震”的概念已經擴大到了中子星上。天體物理學家說，我們有時能觀察到脈沖星發出脈沖的速率會發生微小的變化，這是由于中子星表面剛剛發生了“自轉突變”——星震。

桑：對，現在我想起來了?！白赞D突變”這個概念給我的感覺是美妙的古怪——一種發生在超現實表面上的超現實震顫。^[1]

克：你能想象嗎，純由核物質構成的一個巨大旋轉球體上的板塊構造？

桑：這個想法很瘋狂。這么說星震和地震都可以歸入一個更加抽象的新類別中。科學就是這樣不斷擴大我們熟悉的概念，讓這些概念離我們熟悉的經驗越來越遠，只有某些本質保持不變。數字系統就是一個經典例子：從正數到負數，然后到有理數、實數、復數，再到什么“Z（斑馬）以外”——蘇斯博士的措辭。^[2]

帕：我覺得我能懂你的意思，桑迪。生物學中有許多用相當抽象的方式來建立緊密親緣關系的例子。確定哪些物種屬于哪一科，往往就要落到這些物種在某一層次上的共有模式。如果你的分類系統是根據非常抽象的模式來建立的，那么我想許多種不同的現象都能歸為“同一類”，雖然從許多表面特征來看這些同類現象彼此完全不像。因此，或許我能明白——至少能明白一點——為什么你認為模擬颶風在某些有趣的意義上也能是一場颶風。

克：或者擴大了含義的詞不是“颶風”，而是“是”！

帕：為什么？

克：如果圖靈能擴大動詞“思考”的含義，為什么我不能擴大動詞“是”的含義？我的意思無非是說，有人故意混淆模擬的東西和真正的東西，在哲學上做了許多障目之事。這比擴大幾個“颶風”之類名詞的含義要嚴重得多。

桑：我喜歡“是”的含義被擴大了這個想法，但我認為你的“障目”詆毀太過分了。總之吧，如果你們不反對的話，關于模擬颶風我再說一點，然后就開始進入模擬心靈的話題。請你們考慮一個非常逼真的模擬颶風——我的意思是逐個原子的模擬，當然我承認這種逼真度是不可能的。我希望你們能同意，這樣它就有了所有能定義“颶風類事物的本質”的抽象結構。那是什么讓你不能稱它為颶風呢？

帕：我以為你剛才已經從二者相同的論點上后退了！

桑：是后退了，但是后來這些例子出現了，我不得不回到我之前的論點上。不過就按我剛才說的，我后退一步，回到思維的問題上，這才是我們這里的真問題。與颶風相比，思維是一種更抽象的結構，是一種描述方式，用來描述某些發生在腦這個媒介中的復雜事件。不過事實上，思維可以發生在幾十億個腦中的任何一個之內。這些腦的物理結構各不相同，但都能承擔“同一件事”：思考。那么，重要的就是抽象的模式，而不是媒介。同樣的“渦流”可以發生在任何腦中，所以沒人能說自己的思考比其他人的更是“真貨”?，F在，如果我們設想同樣類型的渦流也能發生在一種新型的媒介中，你還能否認其中也有思考嗎？

帕：大概不能，不過你剛剛變換了問題?，F在問題是，你怎么能確定發生的真是“同樣類型”的渦流呢？

桑：圖靈測試的妙處就是它能告訴你這個。

克：我一點也看不出來。你怎么知道計算機中發生的事與我心中發生的事屬于同一類型？就因為它能像我一樣回答問題？你只是看了它的外在表現。

桑：但是我和你說話的時候，你怎么知道我心中有類似于你所說的“思考”的東西？圖靈測試是一個美妙的探測工具，有點像物理學中的粒子加速器?？死锼梗蚁肽銜矚g這個類比。就像在物理學中一樣，如果你想知道原子或亞原子層面上發生了什么，因為你不能直接看，所以你就把加速過的粒子發散到相關目標上，觀察它們的運動方式，從中推斷目標的內在屬性。圖靈測試把這種想法擴大到了心靈上。它把心靈當作一個“目標”，不能直接看到，但可以通過更加抽象的方法演繹出它的結構。你可以通過向心靈這個目標“發散”問題，了解它的內部運行方式，就像在物理學中一樣。

克：更準確點說是，你可以去假設，有可能是哪種內部結構導致了所觀察到的行為——但事實上這些內部結構可能存在也可能不存在。

桑：等等！你是在說原子核只是假設的實體？畢竟，原子的那些粒子發散了出去，它們的運動方式已經證明了——或許我應該說“暗示了”？——原子核的存在——或許我應該說“假設性的存在”？

克：在我看來，物理系統要比心靈簡單得多，所得推論的確定性相應也大得多。

桑：做實驗和解釋實驗的難度相應地也大得多。在圖靈測試中，只要一個小時就能進行許多高度精微的實驗。我堅持認為，人們相信別人有意識，只是因為他們一直在對別人進行外部觀察——這本身就像是一個圖靈測試。

帕：大體上說可能是這樣的，不過這比只是通過電傳打字機和人交談要復雜一些。我們看到別人有身體，看到他們的臉和表情——我們看到他們是和我們一樣的人類，所以我們認為他們會思考。

桑：在我看來，這種對思維是什么的觀點似乎非常人類中心主義。這是不是意味著，與一個程序編得非常好的計算機相比，你更愿意說商店里的假人模特有思維，就因為模特看上去更像人？

帕：要讓我承認一個東西有思考能力，顯然不僅需要身體上與人類的外形有某些模糊的相似之處。但是不能否認，有機質（organic quality）和相同的起源，會在一定程度上提高可信度，這非常重要。

桑：這就是我們的分歧點。我覺得這簡直太沙文主義了。我覺得關鍵問題是內部結構的相似性——不是身體結構、有機結構、化學結構，而是組織結構，即軟件。一個東西能否思考，對我來說似乎是一個能否用特定方式描述其組織模式的問題，而且我非常愿意相信，圖靈測試能探測到這種組織模式是存在還是不存在。我必須說，你以我的身體為證據來證明我是一個能思考的存在，這太膚淺了。在我看來，圖靈測試要比只看外在形式深刻得多。

帕：嘿，你并沒有讓我更加信服。讓人們相信某個東西真能思考的不僅僅是它的身體外形；就像我說的，還有共同的起源。即你我都來自DNA分子，我認為這個想法更深刻。這么說吧：人體的外形顯示人類有著深刻的共同生物學淵源，是這種深刻讓人們非常相信這樣一個身體的主人能夠思考。

桑：但這都是間接證據。你肯定想要一些直接證據吧？這就是圖靈測試的目的。我認為這是測試“思維性”（thinkinghood）的唯一方法。

克：但你可能會被圖靈測試欺騙，就像詢問者可能會把男人當成女人。

桑：我承認，如果實施這個測試時太快、太淺顯，我可能會被騙。但我會選擇我能想到的最深入的問題。

克：我想看看這個程序是不是能看懂笑話。這才是真正的智力測驗。

桑：我同意，對于一個據稱有智力的程序來說，幽默大概是一場嚴峻考驗，不過在我看來，同樣重要、或許更加重要的，是測試它的情感反應。所以我會問它對某些音樂或者文學作品的反應，特別是對我最愛的那些。

克：要是它說“我不知道這首曲子”甚至“我對音樂不感興趣”，怎么辦？要是它回避所有與情感有關的問題呢？

桑：這就會讓我產生懷疑了。如果它一直以特定方式回避某些特定問題，我就會嚴重懷疑跟我說話的是不是一個有思維的東西。

克：為什么這么說？為什么它不能是一個有思維但是沒有情感的東西？

桑：你擊中了敏感點。我只是不能相信情感和思維可以分離。換句話說，我認為情感是從思維能力中自動產生的副產品。思維的本性中必然蘊含情感。

克：那要是你錯了呢？要是我造出來一臺能思考但不會表達情感的機器呢？它的智力可能得不到承認，因為它通不過你那種測試。

桑：我希望你能向我指出情感問題和非情感問題的邊界在哪兒。你可能想就一本偉大小說的含義發問，而這也需要理解人類的情感！這是思考，還是只是冰冷的計算？你可能想就一個微妙的措辭發問，為此你需要理解詞語的言外之意。圖靈在文章中舉了這樣的例子。你可能想問它對一個復雜的愛情關系有什么建議，這就需要了解人類的各種動機及其根源。現在如果它完不成這種任務，我就很難說它能思考。就我而言，思考能力、感受能力和意識，都是同一個現象的不同面向，沒有哪一個能脫離其他面向而單獨出現。

克：反正就是，為什么不可能造出一臺機器，它什么也感受不到，但就是能思考、能做復雜決定？我看不出這里面有什么矛盾。

桑：我覺得矛盾。我想你說的時候想象的是一臺四方形的金屬機器，也許還待在一間空調房里——一個堅硬冰冷、有棱有角的物體，里面有上百萬條彩色電線，一臺一動不動地待在地板磚上的機器，嗡嗡作響或吱吱作響或怎么樣，然后吐出紙條。這種機器能下一手好棋，我確實承認這需要做出許多決策。但我決不會說這樣一臺機器是有意識的。

克：怎么會？對機械論者來說，會下棋的機器不就是有了意識雛形嗎？

桑：我這個機械論者不這么想。我認為，意識來自一種精確的組織模式——我們目前還沒搞清楚怎么具體描述它。但是我認為我們可以逐漸理解它。在我看來，意識需要用一種特定的方式，在內部反映出外部世界，還要能根據在內部表征出來的模型對外部現實做出反應。除此之外，對一臺有意識的機器來說，至關重要的是，它應該包含一個高度發達且靈活性（?exibility）強的自我模型。在這一點上，現在的所有程序，包括最好的下棋程序，都倒下了。

克：下棋程序不是能預測將來，在算下一步走法時對自己說“如果你走這兒，我就走那兒，要是你再這么走，我就那么走”嗎？這不是一種自我模型嗎？

桑：不算是?；蛘?，如果你非要說它是的話，也是一種非常有限的自我模型。只有在最狹隘的意義上，才能說它是對自我的理解。比如說，一個下棋程序對自己為什么要下棋，對自己是一個程序、位于一臺計算機中、有一個人類對手等等，通通沒有概念。它也不知道輸贏是什么——

帕：你怎么知道它沒有這種感覺？你怎么敢說下棋程序有什么感覺或者知道些什么？

桑：噢，得了！我們都知道某些東西什么感覺都沒有，什么都不知道。扔出去的石頭對拋物線一無所知，旋轉的風扇也完全不知道什么叫空氣。我確實無法證明這些說法，現在我們都快說到信仰問題上了。

帕：這讓我想起讀過的一個道家故事。大概是這樣說的。兩位智者站在小溪上方的一座橋上。其中一個人對另一個人說：“真希望我是一條魚。它們多快活！”另一個人回答說：“你怎么知道魚快不快活？你又不是魚。”第一個人說：“你又不是我，怎么知道我不知道魚的感受？”

桑：太棒了！討論意識確實需要有些限制。否則不是趕唯我論的時髦——“我是宇宙中唯一有意識的存在”，就是趕泛心論（panpsychism）的時髦——“宇宙萬物都有意識”！

帕：誰知道呢？也許確實就是萬物都有意識。

桑：有些人聲稱石頭甚至電子之類的粒子也有某種意識，如果你要加入他們的話，我想我們就從此各走各路吧。這是神秘主義的論調，我可看不透。至于下棋程序，我碰巧知道它們是怎么運轉的，我可以肯定地告訴你它們沒有意識！絕對不可能有！

帕：為什么不可能？

桑：程序中只有對下棋目標的最基本知識?！跋缕濉边@個概念被轉化為反復不斷地比較許多數字并選擇最大的一個，這樣的機械動作。下棋程序不會因為輸棋而感到羞愧，也不會因為贏棋而感到驕傲。它的自我模型非常簡陋。它只要花最少的力氣，下棋完成任務就行了，不會多做一點事。但非常有趣的是，我們還是想談論下棋計算機的“愿望”（desire）。我們說“它想把王放在一排卒子后面”“它喜歡早點把車走出來”或者“它以為我沒有看出這步隱藏的棋路”。

帕：嗯，我們也這么說昆蟲。我們在某個地方發現一只離群的螞蟻，就會說“它想回家”或者“它想把那只死蜜蜂拖回蟻巢”。事實上，我們對什么動物都會使用這些帶有感情色彩的語言，但我們并不能肯定它們能感覺到多少。我不覺得說狗或者貓高興或悲傷、有什么愿望或相信什么等等有什么問題，但我肯定不會認為它們的悲傷像人類的悲傷一樣深刻復雜。

桑：但你不會說它是“模擬的悲傷”，對不對？

帕：當然不會。我認為它是真實的。

桑：使用這種帶有目的色彩或心理色彩的語言是在所難免的。我認為使用這種語言很正當，雖然也不要做得太過分吧。而且，將這些語言用于今天的下棋程序時，其意義也不像用于人時那么豐富。

克：我還是看不出為什么智力一定要包含情感。為什么你不能想象一種只有計算沒有感受的智力？

桑：答案有幾個！第一，任何智力都必須有動機。許多人可能認為機器的思維比人的更“客觀”，但這完全不是實情。機器看到一個場面時，也必須集中注意力，按照預先設定好的范疇來過濾這一場面，就像一個人一樣。這就意味著對事物要有所權衡取舍。信息處理的各個層次上都會發生這種情況。

帕：你的意思是？

桑：現在就拿我當例子吧。你可能以為我只是在提出一些智力方面的觀點，不需要任何情感。但是我為什么會關心這些觀點？為什么我特別強調“關心”這兩個字？因為我在這場談話里有情感投入！人們彼此交談，是因為相信一些東西，而不是因為空洞機械的反射。即使是最理智的交談，也是由某些底層的激情驅動的。每場對話中都隱藏著情感的暗流——談話者希望獲得傾聽和理解，希望他所說的話獲得尊重。

帕：聽起來你的意思是，人們需要別人對他們說的話感興趣，否則話就沒法談。

桑：對！如果沒有興趣驅使，我就不會費心去和誰說話。而興趣只是各種潛意識偏好的另一總稱。我說話的時候，我的所有偏好共同發揮作用，在表面這一層，你注意到的就是我的行為方式，我的人格（personality）。不過，這種行為方式來自大量小小的優先權、偏好和傾向。如果你把這上百萬個相互影響的東西加起來，就能得到某種相當于各種愿望的東西。所有的都加進來！這也讓我想起了另一個問題，關于毫無感受冷冰冰的計算。當然，無感計算是存在的：在收銀機中，在袖珍計算器中。我要說，甚至今天所有的計算機程序也都是這樣的。不過，如果你把足夠多的無感計算組合成一個巨大的相互協調的組織，最后你就能看到另一個層面上出現了某些特性。你所能看到的——其實是你不得不看到的——不是一堆小小的計算，而是一個由傾向、愿望、信念等類的東西組成的系統。事情變得足夠復雜之后，你就不得不改變描述的層次。在某種程度上這已經發生了，這就是為什么我們會用“想要”“思考”“試圖”“希望”之類的詞來描述下棋程序和機械思維在其他方面的嘗試。丹尼特把這種層次轉換叫作觀察者“采用了意向性姿態（intentional stance）”。我想，只有程序自己對自己采用意向性姿態之后，人工智能方面才會發生真正有意思的事情！

克：那會是一個非常奇特的跨層次反饋回路。

桑：肯定。當然，我的觀點是，對今天的程序采用完全意義上的意向性姿態，還為時過早。至少我的觀點是這樣。

克：對我來說，一個與之有關的重要問題是：在何種程度上對人類以外的東西采用意向性姿態是有效的？

帕：我肯定會對哺乳動物采用意向性姿態。

桑：我同意。

克：這很有意思！為什么會這樣，桑迪？你肯定不會說貓狗也能通過圖靈測試吧？但是你不是認為圖靈測試是測試思維存在的唯一方法嗎？你怎么能同時持有這兩種想法？

桑：嗯……好吧。我想我必須承認，圖靈測試只有對一定程度以上的意識才管用?？赡苡行┯兴季S的東西也通不過測試。但另一方面來說，在我看來，只要能通過測試，就是真正有意識、能思考的東西。

帕：你怎么能認為計算機是有意識的東西？如果這聽來像是刻板印象的話，那我道歉，不過當我想到有意識的東西時，我可不會把這個想法和機器聯系在一起。對我來說，意識是和柔軟、溫暖的身體聯系在一起的，雖然這聽起來可能有點傻。

克：聽一位生物學家這么說確實有點古怪。你們不是要用化學和物理的語言來對待生命，足以讓所有神奇的東西都消失嗎？

帕：也不盡然。有時化學和物理還會增加“那兒發生了些神奇事情”的感覺！反正吧我不是總能把我的科學知識和本能感覺整合在一起。

克：我想我也是這樣。

帕：所以你要怎么解決像我這樣的頑固偏見呢？

桑：我會試圖挖掘隱藏在你的“機器”概念之下的東西，找到其中的直覺含義，這些含義看不見，但會深刻地影響你的觀點。我想我們都有一種從工業革命時代殘留下來的想象，覺得機器都是些笨重的鋼鐵裝置，由某些轟轟作響的引擎驅動，笨拙地運轉。說不定這甚至是計算機的發明者查爾斯·巴貝奇對人類的看法！畢竟，他把他那臺有著許多齒輪的大型計算機叫作分析機（分析引擎）。

帕：哦，我當然不會認為人只是豪華型蒸汽挖掘機或電動開罐器。人有一些東西，就好像，好像——他們內心有種“火焰”，有種活的東西，有種不可預測、飄忽不定的閃光，但卻是有創造力的東西！

桑：太好了！這就是我想聽到的。這么想非常“人性”。你的火焰意象讓我想起蠟燭，想起大火，想起漫天狂舞的雷電。但你是否意識到，就是這些景象，在計算機的操作臺上也能看到？搖曳的光點形成眾多迷人的無序閃爍圖案。這與沒有生命、叮當作響的金屬堆有天壤之別！這就像是來自上帝的火焰！為什么你不能讓“機器”這個詞召喚出跳舞的光點圖案，而不是什么大型蒸汽挖掘機？

克：這真是個美麗的意象，桑迪。把我對機器的理解從關注物質變成了關注景象/圖案/模式。這讓我試著把心中的想法——甚至就是現在的想法——想象成由腦中閃爍的小脈沖組成的巨大浪花。

桑：這些閃光組成的浪花想出了這樣一幅自畫像，可真是夠詩意的。

克：謝謝。不過我還是不能完全相信機器就像我一樣。我承認，我對機器的概念或許帶有落伍潛意識的氣息，不過這種根深蒂固的感覺我恐怕不可能一瞬間就改過來。

桑：至少看起來你確實算心態開放。說實話，我確實也部分理解你和帕特對機器的看法。我也有些不情愿把自己叫機器。認為一個像你我一樣能去感受的存在可能只是從電路中產生的，這樣的想法確實怪。我這話讓你意外了嗎？

克：確實讓我意外。所以你還是就告訴我們——你是相信智能計算機這個想法，還是不相信？

桑：這都取決于你話的意思。我們都聽說過“計算機能思考嗎”這個問題。這個問題有好幾種可能的解釋（且不說“思考”這個詞就有許多種解釋）。這些解釋都圍繞“能”和“計算機”這兩個詞的不同含義。

帕：又回到文字游戲上去了……

桑：沒錯。首先，這個問題的意思可能是：“有沒有一些當今的計算機現在就能思考？”對這個問題，我會立即大聲回答：“沒有?！比缓?，問題的意思還可能是：“某些當今的計算機，如果程序設計得當，是否有思考的潛力？”這個問題更合理點，但我仍然會回答：“大概沒有?！闭嬲碾y題在于“計算機”這個詞。在我看來，“計算機”喚起了我剛才描述過的形象：一間空調屋，里面有許多冰冷的四方形金屬箱子。但是我猜，隨著計算機結構的不斷發展和公眾對計算機越加熟悉，這種形象終將過時。

帕：你不認為我們所知道的這些計算機還會存在一段時間嗎？

桑：當然，計算機肯定還會以今天的形象存在很長時間，不過更先進的計算機——也許不再叫計算機了——會演進變化得大不一樣?；蛟S會像活的有機體一樣，它的演化樹上也會出現許多分支?？赡軙猩虅沼嬎銠C，娃娃學習計算機，科學計算用計算機，系統研究用計算機，模擬任務計算機，火箭發射計算機等等。最后還會有研究人工智能的計算機。其實只有最后一種才是我感興趣的——這些計算機靈活性極強，人們也是絞盡腦汁把它們設計得更聰明。我看不出它們有什么理由還要一成不變地保持傳統形象。也許在不久的將來，它們的標準特征就是具有某些基本的感官系統——最初多半是視覺和聽覺。它們要能移動，能探索。它們的身體也必須有靈活性。簡而言之，它們必須變得更像動物，更加自力更生。

克：這讓我想起《星球大戰》中的R2D2和C3PO。

桑：事實上我想象智能機器的時候，一星半點也沒想過它們。它們太傻了，太像電影設計師的憑空想象。不是說我自己有一個明確的想象，不過我認為，如果人們試圖逼真地想象一個人工智能的話，就要超越今天的計算機所表現出的那種輪廓清晰的有限形象。所有機器的唯一共同之處只是底層的機械性。這聽起來可能又冰冷又死板，但還有什么能（神奇地）比我們細胞中的DNA、蛋白質和細胞器的運作方式更機械？

帕：在我看來，細胞內部發生的事有一種“又濕又滑”的感覺，而機器內發生的事又干又硬。這與計算機從不犯錯、只做你讓它們做的事有關。至少這是我對計算機的想象。

桑：真有意思——一分鐘以前你的想象還是火焰，現在就變成“又濕又滑”了。我們身上的矛盾是不是很不可思議？

帕：用不著諷刺我。

桑：我沒諷刺你，我真的覺得這很不可思議。

帕：這只是人類心靈多變性的一個例子——這個例子中，就是我的心靈的多變性。

桑：沒錯。不過你對計算機的想象太落窠臼了。計算機當然會犯錯，而且我說的不是硬件層面的錯誤。想想現在的計算機怎么預報天氣吧。盡管程序運行得完美無缺，它也會做出錯誤的預報。

帕：但這只是因為輸入的數據不對。

桑：不是這樣。是因為天氣預報太復雜了。所有這種程序都只能將就著用有限的數據（雖然這些數據完全正確）來進行推算，有時就會預測錯誤。這跟地里的農民看著天上的云說“我估計今晚會有小雪”沒什么區別。我們在腦袋里構建模型，然后用這些模型猜測世界會怎樣變化。不管這些模型有多不準確，我們也只能將就著用。如果模型太差，我們就會被演化進程淘汰——“跌落斷崖”什么的。計算機也是一樣。只不過人類設計者明確制定了創造人工智能這個目標，因此會加快演化進程，而自然只能誤打誤撞。

帕：那你認為計算機變聰明之后就會少犯錯誤嗎？

桑：實際上恰恰相反。計算機越聰明，就越要處理現實生活中亂七八糟的事情，它們的模型就越有可能不準確。在我看來，犯錯是高智能的一項標志！

帕：你這家伙，有時候還真讓我吃驚?。?/p>

桑：我猜在鼓吹機器智能的人里，我屬于比較奇怪的一類。某種程度上我有點騎墻。我認為，除非機器具有某些相當于生物層面“濕滑性”的東西，否則它們不可能真正擁有像人類一樣的智能。當然我不是說真的“濕”——軟件倒可以“滑”，就是有靈活多變性。但是無論看上去是否像生物，智能機器無論任何還是機器。它們一定還是我們設計、建造出來的——“種”出來的！我們得明白它們如何運作，至少在某種意義上明白。可能沒有任何單獨一個人能真正明白機器是怎么運作的，但我們人類全體會知道。

帕：聽起來你是魚和熊掌想要兼得。

桑：也許你說得對。我的意思是，人工智能出現時，會既是機械的，同時又是有機的。它會具有驚人的靈活性，就像我們在生命機制中看到的那樣。我說“機制”時意思就是“機械”。DNA和酶等等其實也都是機械的、嚴格的、可靠的。你不同意嗎，帕特？

帕：確實如此。不過當它們一起發揮作用的時候，許多意料不到的事就發生了。這里面有非常多的復雜性和豐富的行為模式，會把所有這些機械的東西組合在一起，成為某種變動不居的東西。

桑：在我看來，從機械的分子層面到有生命的細胞層面，這種躍遷幾乎不可想象。但正是它讓我相信人也是機器。這個想法讓我在一些方面感到不舒服，但在另一些方面，它也令人興奮。

克：如果人就是機器，為什么說服人相信這一事實這么難呢？顯然，如果我們是機器，就應該能認識到自己身上的“機器性”。

桑：必須允許這里面有情感因素。說你是機器，某種意義上就是說你只等于自己的身體部分，這會讓你直面自己必有一死這件事。沒人會覺得這件事容易面對。不過，除了情感方面的異議之外，要看到自己是機器，你就要從最底層的機械層面一路跳到復雜生命活動發生的層面。這里面有那么多的中間層級，它們就如同一道屏障，讓我們幾乎看不到自己的機械性。我想智能機器出現之后，它們在我們眼里也會是這樣——甚至在它們自己眼里也是這樣的！

帕：我聽到過一個很好笑的想法，是關于真有了智能機器之后會發生什么的。我們試圖給我們想要控制的設備輸入智能時，它們的行為不會那么容易預測。

桑：也許內部會燃起一團奇異的小“火焰”？

帕：可能吧。

克：這想法有什么好笑的呢？

帕：呃，想想軍用導彈。按照這個想法，它們跟蹤目標用的計算機越復雜，它們的行為就越不可預測。最后導彈會決定要當個和平主義者，它們會掉頭回家，輕輕落地而不爆炸。我們還會有些“聰明”的子彈，飛到半空中就會掉頭回來，因為它們不想自殺！

桑：這個想法很可愛。

克：我非常懷疑這些想法。桑迪，我還想聽你預測一下智能機器什么時候才會出現。

桑：大概用不了多長時間，我們就能看到某種有一點點類似人類智能水平的東西。不過對我們來說，智能依賴的物質基礎，腦，還是復雜得驚人，在可預見的將來我們都無法復制它。反正這就是我的看法。

帕：你認為會有程序通過圖靈測試嗎？

桑：這個問題很難回答。我想所謂通過測試，也有不同程度之說，不是非黑即白的。首先這取決于詢問者是誰，要是個大傻瓜，可能今天的某些程序也能完全騙過他。其次，這還取決于允許你探問多深。

帕：那么，可以有各種規模的圖靈測試——1分鐘的、5分鐘的、1小時的等等。如果有官方組織定期為想要通過圖靈測試的程序舉辦競賽，就像年度計算機象棋大賽一樣，這不是很有趣嗎？

克：讓最出色的裁判來組成評委會，把他們騙住時間最長的程序就是冠軍?；蛟S應該給第一個騙住某位著名裁判長達——比如說10分鐘——的程序發個大獎。

帕：一個程序要大獎有什么用？

克：我說帕特，如果一個程序聰明得能騙過裁判，你不認為它也能享受大獎嗎？

帕：當然，尤其如果大獎是參加鎮上的晚會，與所有詢問者跳舞的話。

桑：我很想看到舉辦這樣的比賽。看第一批程序慘敗想必很搞笑。

帕：你很懷疑是吧？那如果有一位老練的詢問者，你認為今天有計算機程序能通過5分鐘的圖靈測試嗎？

桑：我很懷疑。部分是因為沒有人真正明確地在做這件事。不過，有個叫“帕里”（Parry）的程序，它的發明者聲稱它已經通過了一個最基本的圖靈測試。帕里在一系列遠程訪談中欺騙了若干名精神科醫生，這些醫生事先知道，和他們談話的可能是一臺計算機，也可能是一位妄想癥患者。這是對一個早期版本的改進，在早期版本中，醫生們只能看到簡短訪談的手抄文字稿，然后要確定哪些是真正的妄想癥患者，哪些是計算機模擬的。

帕：你是說他們沒有機會提問？這是一個嚴重的不利因素，而且似乎與圖靈測試的精神不符。試想如果有人要猜我的性別，卻只能看到我說的只言片語的記錄，這大概會很難！所以我很高興看到實驗流程有所改進。

克：你怎么讓計算機表現得像妄想癥患者呢？

桑：我沒說它真的表現得像妄想癥患者，只是某些精神科醫生在某種不尋常的環境下認為它是妄想癥患者。這個偽圖靈測試中讓我不安的一點，是帕里的運作方式?！八薄麄冞@么稱呼他——表現得像妄想癥患者，是因為他防衛性非常強，在交談中回避不想回答的主題，而且大體上保持了自我控制，這樣就沒人真能探問“他”。這樣一來，模擬一個妄想癥患者就比模擬一個正常人容易得多。

帕：你不是在開玩笑吧！這讓我想起一個笑話，說的是計算機程序模擬什么樣的人最容易。

克：什么樣的人？

帕：緊張癥患者——他們連續好幾天一直坐在那里什么都不干。連我都能寫個這樣的計算機程序！

桑：帕里還有個有趣的地方是，它不會自己造句。它只是從囤積的一大堆句子里面挑選，選出最適合的一句來回答輸入的句子。

帕：這太神奇了！不過規模大了大概就不行了吧？

桑：是。要能在一場談話中正常回答所有可能的句子，需要儲存的句子是天文數字，完全不可想象。它們做起檢索也會同樣復雜……如果有人以為，只要設法拼湊一個程序，讓它能像自動點唱機放錄音那樣，從存儲的句子里拽幾個出來，這樣就能通過圖靈測試，那他肯定沒有認真想過這個測試。有趣的是，有些人工智能的反對者在反對圖靈測試的概念時，援引的正是這種不可能實現的程序。他們想讓你想象的不是真正的智能機器，而是一個又大又笨的機器人，只能用遲鈍單調的聲音吟出囤積的句子。他們還以為，即使機器執行任務的時候非常靈活聰明，足夠令人滿意，你還是能夠輕而易舉地看到它的機械層面。然后這些批評者會說：“你看，它仍然只是一臺機器——一個機械裝置，完全沒有智能！”我看待事情的方式恰恰相反。如果有人給我看一臺機器，我所能做到的事它也能做到——我的意思是通過圖靈測試——我并不會感到受了冒犯或者威脅，我會像哲學家雷蒙德·斯穆里安一樣說：“機器多了不起呀！”

克：如果在圖靈測試中，你只能問計算機一個問題，你會問什么？

桑：嗯……

帕：這個問題怎么樣：“如果在圖靈測試中，你只能問計算機一個問題，你會問什么？”

反思

許多人都遲疑于圖靈測試的規定：要求模仿游戲的參賽者和裁判待在不同的房間里，因此裁判只能觀察到他們的言辭回應。如果這規則只是室內消遣游戲中的元素，那它尚有意義，但一種正當的科學方案中怎么能包含企圖故意向裁判隱瞞事實的部分？圖靈測試把智能候選者放進“黑箱”，只用一系列受到嚴格限制的“外在行為”（在本例中就是打字輸出的言辭）作為證據，似乎是武斷將自身建立在了某種形式的行為主義（behaviourism）之上，或者更糟糕，是操作主義（operationalis），甚至還要糟糕的證實主義（veri?cationism）。（這三個難兄難弟的“主義”是不久之前的可怕怪物，據說已經被科學哲學家們徹底駁倒并埋葬了。但這里又是什么討厭的聲音？它們是不是還在墳墓里動彈？我們早該把木樁戳進它們的心臟?。﹫D靈測試是否只是一例約翰·塞爾所說的“操作主義把戲”？

圖靈測試當然在“對心靈來說重要的是什么”這個問題上有很強的主張。圖靈提出，重要的不是候選者兩耳之間有哪種灰質（如果有的話），也不是它看起來、聞起來是怎樣的，而是它能否有智能地行動——或行為，如果你愿意這么說的話。圖靈測試中的具體游戲，即模仿游戲，并沒有多么神圣不可侵犯，只不過是一個精心選擇出來的測試，用來測試更為一般性的智力罷了。圖靈準備提出的假設是，除非一個東西能夠從事各種各樣無疑需要智力的活動，否則它就不可能贏得模仿游戲，也就不可能通過圖靈測試。如果他選擇把贏下世界象棋冠軍當作檢測智力的試金石，我們倒是有許多強有力的反對理由，現在看來，我們很有可能造出一臺做得到這事的機器，但這臺機器別的什么事兒也不能做。如果他選擇的測試是不用武力只身偷竊英國王室珠寶，或者不流血地解決阿以沖突，倒是很少有人會反對說，他把智能“還原為”行為或者用行為給智能下了“操作性定義”。（好吧，毫無疑問，有些哲學家有時也會絞盡腦汁構建一個煞費苦心但稀奇古怪的方案，讓某些徹徹底底的傻瓜無意中就拿到了英國王室珠寶，“通過”測試，并借此“反駁”該測試是一個好的一般性智力測試。當然，真正的操作主義者必須承認，既然這樣一個幸運的傻瓜通過了決定性的測試，那么以操作主義的眼光來看，他就是真正地具有智力——這無疑就是真正的操作主義者很難找到的原因所在。）

圖靈選擇的測試優于偷竊英國王室珠寶或解決阿以沖突，是因為后兩個測試（一旦成功過一次之后）不可重復，過于困難（許多顯然有智力的人都會在這上面完?。?，而且太難客觀評判。圖靈測試就像設計巧妙的押注：它誘人嘗試，看起來公平，要求苛刻但是可能做到，而且評判時干脆客觀。圖靈測試也以另一種方式讓人想起一場押注，其動機是用“要么下手，要么閉嘴”來制止一場無休止的無益辯論。圖靈其實是在說：“與其爭論心靈或智力的終極本性、實質，不妨讓我們都同意，無論是什么東西，只要能通過這一測試，就肯定是有智力的，然后再來問怎樣才能設計出能光明正大地通過測試的東西?！本哂兄S刺意味的是，圖靈沒能平息爭論，只是改變了它的方向。

圖靈測試是否因其“黑箱”性的思想觀念（ideology）而難以抵擋批評？第一，正如侯世達在對話中指出的，我們都把彼此當作黑箱，我們都根據對顯見的智能行為的觀察來建立我們對“他心”的信念。第二，在任何情況下，黑箱思想觀念也都是所有科學研究的思想觀念。研究DNA分子的時候，我們用各種方法探測它，觀察它的反應；我們也是如此研究癌癥、地震和通貨膨脹的。如果我們關注的是宏觀對象，那么“往黑箱里面看”往往很有用，方法是用探測工具（如手術刀）把它“戳開”，讓暴露出來的表面所散射的光子進入我們的眼睛。這只是又一個“黑箱實驗”而已。^[3]正如侯世達所說，問題不過是，哪種探測工具與我們想要回答的問題有最直接的關聯。如果我們的問題是某些東西是否有智力，那我們就找不到比我們每天都在互相問的問題更直接、更有效的探測工具了。圖靈的“行為主義”，只不過是把某些近乎不言而喻的東西納入了一個簡便易行、具有實驗室風格的實驗性測試中。

侯世達的對話中還提到了一個問題，但未加解決，就是關于表征的問題。用計算機來模擬某種東西，通常是對這種東西詳盡、“自動”和多維的表征，但表征和現實之間當然有天壤之別，不是嗎？正如約翰·塞爾所說：“沒人會認為只要用計算機模擬泌乳和光合作用的形式性事件序列，然后運行這些模擬，我們就能生產出奶和糖……”^[4]如果我們設計了一個在數字計算機中模擬奶牛的程序，那我們的模擬只不過是奶牛的一個表征，不管你怎么“擠奶”，它也不會產奶，最多只能產出奶的表征。無論表征有多好，無論你有多渴，你也沒法喝它。

但現在，假設我們用計算機模擬了一個數學家，而且假設這模擬工作得很好。那我們會不會抱怨說，我們想要的是數學證明，但是，唉，我們得到的只是證明的表征？可是，證明的表征就是證明，不是嗎？這取決于表征的優秀程度。動畫片里表現科學家面對黑板沉思時，黑板上畫的證明和公式通常純是胡說八道，無論這些數字在外行看來有多“逼真”。如果模擬的數學家像在動畫片中那樣造出了一些裝模作樣的證明，它可能仍然模擬了理論上有些意味的有關數學家的某種東西，如他們的言語習慣，甚或他們的心不在焉。另一方面，如果模擬是為了產生優秀數學家所能造出的數學證明的表征，那它就會像真正的數學家一樣，成為生產證明的系科的寶貴“同行”。這似乎就是數學證明和歌曲之類抽象的形式產品（見下篇選文《圣美公主》）與牛奶之類具體的物質產品之間的區別。心靈屬于哪一類呢？心理是像牛奶，還是像一首歌？

如果我們認為心靈的產物是某種類似“身體操控”的東西，那這一產物似乎相當抽象。如果我們認為心靈的產物是某種特殊的物質或許多種物質，比如很多很多“愛”，一兩撮“痛”，一些“狂喜”，還有幾盎司所有優秀棒球手都擁有的很多“愿望”……那么這一產物似乎很具體。

在爭論這一問題之前，我們可能要先停下來問問：如果我們遇到了一種模擬，模擬任何具體事物、現象都詳盡出色，那我們所要推廣的上述區分抽象和具體的原則，邊界是否完全清晰？任何模擬要實際運行，都要在某種具體的硬件中“實現”，表征的媒介本身也一定會在世界上產生某些影響。如果一個事物的表征在世界上所產生的影響，與這個事物本身所產生的影響完全相同，那么還堅持說它只是表征，聽來就太任性了。下篇選文妙趣橫生地展示了這一想法，而本書其余部分還會反復出現這一主題。

D. C. D.

---

[1] 木星大紅斑（the Great Red Spot）是木星表面的超大風暴氣旋。中子星（neuron star）是恒星演化末期坍縮后的一種終點，密度介于白矮星和黑洞之間。脈沖星（pulsar）目前主要認為是旋轉從而產生周期性脈沖的中子星。而“自轉突變”（glitch）——一般是突然加快——則會干擾脈沖周期。glitch一詞常見義為“故障”“（信號）干擾（音）”，所以有“古怪”“震顫”之類的聯想。

[2] 蘇斯博士（Dr. Seuss，1904-1991），美國兒童文學家、教育學家?！栋唏R以外》（On Be yond Zebra）是蘇斯博士創作的繪本之一，該書編造了許多26個英文字母以外的字母——“斑馬”英文為Zebra，首字母Z，“斑馬以外”即是Z以外的字母。

[3] 這里的描述借用了物理學中的“黑箱實驗”。

[4] 見選文22《心靈、腦與程序》，第396頁?！?/p>