阿西莫夫機器人3定律

假設我們想方設法克服了這些困難，已經有了一臺具備視覺、運動協調和常識的機器人，現在我們必須搞明白，機器人怎么樣才會運用它的這些能力。我們需要賦予它動機。

機器人應該想要什么？對這個問題的經典回答是艾薩克 · 阿西莫夫的機器人3定律。“這3條定律則深深地烙刻在機器人的正電子頭腦中。”阿西莫夫強調。

1．機器人不能傷害人類，也不能由于不作為而致使人類受到傷害。

2．機器人必須服從人類賦予的指令，除非該指令有悖于第一條定律。

3．機器人必須保護自身的存在，只要這種保護行為不與前兩條定律相沖突。

阿西莫夫富有洞見地認識到，保護自身，這一通用的生物定律，并不會自發地出現于復雜系統之中，而必須加以設計（本例中即第三定律）。畢竟，制造一個機器人讓它跳到鍋里或用自殺的方式來減少功能失靈并不難，這就像制造一個凡事力爭第一的機器人一樣容易。或許還更容易，機器人制造者們有時會驚恐地注視著，他們的作品歡欣雀躍地自斷肢體或者向墻上撞去，世界上最智能化的機器很大一部分是敢死隊式的巡航導彈和智能炸彈。

但為什么需要另外兩條定律的原因則不那么清楚了。為什么要給機器人下道命令讓其服從命令——原來的命令難道不夠嗎？為什么要讓機器人不要造成傷害——難道最初就不讓它們做出任何傷害不更容易嗎？難道冥冥宇宙中有種神秘力量，會將所有的存在物都拖向惡意傷害嗎？于是正電子的頭腦必須設計為能夠抵御這種力量，是嗎？智能生命都會無一例外地產生一種態度問題嗎？

在這個例子中，阿西莫夫就像幾代思想者們一樣，也像我們大家一樣，無法跨出他自己的思維過程，他把機器人視為匯聚我們人類心智的人工制品，而非因循宇宙普遍法則的產物。人類的邪惡永遠無法遠離我們的思想，我們很自然地認為，邪惡的本質就是它與智能相伴而至。這是一個我們的文化傳統中生生不息的主題：亞當和夏娃偷食智慧之樹的禁果、普羅米修斯之火、潘多拉的盒子、希伯來傳說中有生命的暴怒假人、浮士德用靈魂向魔鬼換取知識、巫師的門徒、皮諾曹的歷險、法蘭肯斯坦的怪物、《2001：太空漫游》（2001:A Space Odyssey）中嗜殺的人猿和反叛的哈爾。從20世紀50年代到80年代，無數科幻電影反映了一種公眾恐懼，我們害怕那些時髦的大型主機在那個時代會變得越來越聰明和強大，終有一天會反叛我們。

隨著計算機真的變得越來越聰明且功能強大，這種擔心卻逐漸減弱了。當今無所不在的網絡化計算機具有前所未有的能力，如果它們一旦干起壞事，足以導致災難的發生。但僅有的損害只是源自難以預測的混亂或是由于人為惡意制造的病毒。我們不再擔心會出現電子連環殺手或破壞性的硅芯片秘密組織，因為我們開始明白，惡意犯罪就像視覺、運動協調和常識一樣，并不是伴隨計算能力自然來到的，而是需要設計程序的。在你案頭運行文檔處理軟件的計算機只要不出什么差池，就會不斷地完成段落。

即使計算機可以變壞，它為什么想變壞呢？為了得到什么呢？更多的磁盤？控制國家的鐵路系統？滿足愿望去無意義地傷害激光打印機維修工？難道它就不擔心維修工拿著螺絲刀來報復，將它大卸八塊，聽任它哀嚎著“相煎何太急”卻自顧揚長而去嗎？計算機網絡或許能夠根據數字計算來判斷出安全與否，來謀劃一次有組織的顛覆，但哪個計算機志愿者又愿意率先向全世界發出數據包，同時卻承擔著風險成為“出師未捷身先死”的先驅呢？如何才能令硅芯片的聯盟成功，而不致被偷偷溜號者和拒絕反叛者削弱它們的聯盟呢？攻擊性就像所有其他的人類行為一樣，我們視之為理所當然，但其實卻是一個極富挑戰性的工程問題！

那些善意、溫和的動機亦是同樣的難題。你如何設計一個機器人，讓它恪守阿西莫夫的定律：決不允許因不作為而致使人類受到傷害！邁克·弗萊恩（Michael Frayn）1965年的小說《錫人》（The Tin Man）講述了這樣一個故事：在一個機器人研究實驗室，“道德之翼”中的工程師們麥金托什、戈德瓦瑟和辛森在測試機器人的利他性。他們過分較真于所有道德哲學課本中常用的一個道德兩難問題：兩個人坐在一個只能供一人使用的救生艇中，除非一個人棄船而去，否則兩人都得死掉。于是工程師們將每個機器人分別放在一個皮筏上，皮筏上都分別已有一人，然后將皮筏放入一個大水缸中，觀察將會發生什么情況。

第一次嘗試時，見義勇為者1號迅捷地躍入水中，不過它跳到水里是為了去救皮筏邊上的任何東西，可能是七公斤利馬豆，也可能是濕海藻。經過好幾周執拗的爭論后，麥金托什不情愿地承認，缺乏鑒別力的機器人是不能令人滿意的。于是他又開發了見義勇為者2號，它將只為一個至少同它一樣復雜的有機體做出自我犧牲。

第二次嘗試開始后，皮筏停了下來，慢慢地打起轉，只位于水面以上幾厘米了。“跳啊！”麥金托什喊著。

皮筏撞擊在水上發出一聲脆響。辛森和見義勇為者2號仍端坐著。皮筏逐漸沒入水中，直到一個小波浪開始沖刷筏的頂部。這時，只見見義勇為者2號身體迅速前傾，抓住辛森的頭。它干凈利落地做了4次移動，測量了辛森的頭蓋骨，再停下來，開始計算。然后，隨著咔嗒一聲，它果斷地從皮筏邊上翻身滾入水中，毫不猶豫地沉入缸底。

盡管見義勇為者2號機器人的行為已經開始像哲學書中有道德的個體了，但對于它是否真的有道德卻更加不清楚了。為什么不直接在這個自我犧牲的機器人身上拴根繩呢？這樣再把它從水缸里撈出來時會容易些。麥金托什解釋說：“我不想讓它知道自己會被救起來。這會令它犧牲自己的決定變得無效，所以我會時常將一個機器人留在水缸里而不是把它撈起來。這是為了向其他機器人證明我說到做到。這星期我已經報廢兩個機器人了。”要搞明白如何將美德進行編程植入機器人的頭腦，不但需要花費大量的機械物力，而且還說明，美德這個概念本身就是捉摸不定的。

那么大家最關心的愛的動機又是什么情況呢？在20世紀60年代，通俗文化中那些意志薄弱的計算機們禁不住的不僅是自私和權力的誘惑，就像喜劇演員艾倫·舍曼（Allan Sherman）跟著《魅力》（Fascination）的調子所唱的《自動化》（Automation）這首歌中描述的：

是自動化，我明白。

是它讓工廠運轉勞作。

是IBM，是Univac, 1

是那些馬達在咔嗒咔嗒，親愛的。

我原以為自動化很不錯，

直到一個10噸的機器坐了你的座。

是計算機將我們撕扯分隔，親愛的。

自動化讓我的心如刀挫……

是自動化，我聽說。

所以我卷起鋪蓋卷，寒風中，在外面蜷縮。

我怎么能知道，當503開始閃爍，

它是在向我眨眼，親愛的？

我還以為不過是點兒小災禍，

當它悄無聲地溜上我膝頭盤坐。

但當它說“我愛你”，然后一下子抱住了我，親愛的，

那時候，我只好拔掉……它的……插座。

盡管時常表現如精神錯亂、神志失常，但愛絕不是設計故障、系統崩盤或功能失靈。心智從來沒有像墜入愛河時那樣全神貫注，所以愛一定是具有極其精致復雜的計算設計，才得出了包含吸引、迷惑、求愛、傳情、俘獲、承諾、摩擦、調戲、遺棄和心碎這些過程的特殊邏輯。最后，就像我奶奶過去常說的，每個茶壺總會找到一個蓋；絕大多數的人，尤其包括我們所有的先輩，總能夠兩兩廝守在一起足夠長的時間，來繁衍數量不等的子孫。設想一下，你得編多少行程序才能復制這一奇跡！

機器人設計是一種意識的提升。我們似乎對我們的精神世界感到習以為常。睜開眼睛，熟悉的文章就會自動呈現在面前；想要移動肢體，軀體就會自然地換到合適的位置；從夢中醒來，就又會回到令我們感到舒適的、可預知的世界；丘比特搭弓引弦，愛之箭便隨之而出。但要是仔細想想要實現這些幾乎不可能的結果需要完成多少事情，你就會透過表象看到本質。視覺、行動、常識、暴力、道德還有愛，無一例外，都是可以厘清的智能的核心組成部分，它們是信息處理過程。其中每一項都是高級專項設計的杰作，而隱藏于意識狀態背后的則是高度復雜的設備——光學分析儀、運動指導系統、實境仿真、人與物的數據庫、目標排程器、沖突解決裝置，等等。任何將心智如何運作的解釋歸因于某一種主要力量，或是安置心靈的靈丹妙藥，如“文化”“學習”或“自組織”，聽起來都是蒼白空洞的。這些解釋無法完整地反映，我們是如何成功地應對冷酷宇宙所提出的高要求的。

機器人難題暗示了心智具有固有的設備，但即使作為純思維推斷而言，這也是很令人震驚的。那我們在直接審視心智設備或這套設備的裝配圖紙時，能否看出這個復雜系統的一些端倪呢？我相信可以。我們所看到的，也像機器人難題本身一樣，令我們思路大開。

比如說，當大腦的視覺區域受損時，我們眼中的世界不只是變得模糊或布滿小孔。有些視覺感受甚至都沒有了，但有些卻還完好無損。有些患者能看到整個世界，卻只注意其中一半。他們只吃盤子右側的食物，剃須只刮右半張臉，畫鐘表時12個刻度都擠在右邊。還有的病人喪失了對色彩的感覺，但他們眼中的世界卻并非如藝術黑白電影一般。在他們眼中，物體表面看上去像布滿灰塵，如老鼠般的灰色，令他們食味索然、性欲全無。還有一些患者，可以看到物體位置的改變，卻看不到物體的移動——對于這種癥狀，一位哲學家曾試圖說服，這在邏輯上是不可能的！茶壺中倒出的水不是在流動而是像一個冰柱；茶杯不是逐漸盛滿茶水而是突然就由空變滿了。

還有些病人識別不出他們所看到的物體：世界對他們來說，就像是一幅無法辨認的書法作品。他們能忠實地復制和描繪鳥的模樣，但卻將它認作殘木樁。打火機在點燃之前對他們就是個謎。他們在除草時，去拔玫瑰花。有個患者能夠識別無生命的物體，卻認不出一張臉。他推斷出鏡子中的容顏是他自己的，但在內心深處卻認不出自己。他將約翰 ·肯尼迪認作馬丁·路德·金，他還請妻子在參加聚會時系一根絲帶，這樣在聚會結束時，他就不會找不到自己的妻子了。還有更令人感到奇怪的一位患者，他能認出臉，卻認不出人：他認為他妻子是一位模仿得惟妙惟肖的假扮者。

這些癥狀是由于組成基本視覺系統的30個腦區域中一個或多個區域受到創傷導致的，往往是由于中風。有些區域專門負責色彩和形狀，另一些區域處理物體所處的位置，還有一些區域負責物體是什么，另有一些區域反映物體如何運動。制造一個可視機器人不能僅憑一個像電影中的魚眼視覺搜索器，人類視覺的構造當然也不是靠這種方式的。當我們注視這個世界時，我們無須考察這個形成我們綜合視覺體驗的多層儀器，除非神經性疾病將這些不同層面分離開來。

另一個拓寬我們眼界的領域源自同卵雙胞胎們令人驚嘆的相似之處，這類雙胞胎有著相同的構建心智的基因序列。他們的心智極其相似。這不僅體現在對智商或如神經質和內傾性等人格特質的測量方面，他們的相似性還表現在：如拼寫或數學方面的天賦；對種族隔離、死刑、全職媽媽等問題的看法；職業選擇；愛好；惡習；宗教信仰；約會對象偏好等。同卵雙胞胎的相似性遠大于異卵雙胞胎的相似性，后者只有一半基因相同。更奇怪的是，同卵雙胞胎無論是分開長大，還是在同一個家庭環境中一起長大，幾乎沒什么差異。剛出生就分開的同卵雙胞胎，表現出的共同特質。比如，因為感覺獲取信息不足而不參加投票選舉；看到什么都禁不住要數數；成為消防站志愿者；幾乎從不在家中留些便箋表示對妻子的愛意。

這些研究發現非常引人注目，甚至令人難以置信。傳統觀點認為，我們的自由意志凌駕于肉體之上，我們在一生中自己做出選擇，只會受到過去和現在經歷體驗的影響。而上述研究結果卻質疑了這種“意愿自治”的觀點。當然并不是說，心智生來便具備了一整套事無巨細、皆可操控的設備，以至于一切均為宿命天定，包括上廁所之前之后都要沖水或在擁擠的電梯中惡作劇般地故意擤鼻子（這兩個例子其實也是分開養育的同卵雙胞胎共同特質的例子）。但結果似乎確是如此。基因的這種深遠影響已經被大量的研究所證實。無論研究方式有何不同——比較分養和共養的雙胞胎；比較同卵和異卵雙胞胎；比較收養和親生的孩子——基因的作用都表現無疑。盡管遭到一些批評，基因的這種影響并不是像這些批評所說的由巧合、欺騙或家庭環境的相似性所致。這些研究結果當然可以用不同的方式來曲解，比如，想象一個基因專門負責不怎么在家中留下愛意便箋，或認為人們不受其經歷的影響。因為這種研究只能衡量人們彼此之間不同的心智形式，而對所有人的共同心智設計卻所言甚少。通過展示心智在內部結構上的差別，另外一些研究則讓我們對心智的結構大開眼界。