29
THE ROBOT WITH A HIDDEN AGENDA
隱藏真實目的的機器人

為什么人們應該關注會思考的機器（或者任何能思考的東西）？一個切入點可能是，將其他東西，而不是將機器人視作智能體。即使有時存在時間和空間的差異，機器人都會按照其創造者的命令行動。因此，如果機器人胡作非為，創造者會受到責備。然而，智能體按照他們自己的工作日程行動。當智能體胡作非為時，他們自然也會受到責備。

雖然給“智能體”下定義很難，但人們能夠自然并且迅速地區分智能體和非智能體，甚至可以利用專門的神經回路來推測他人的感覺和思想。事實上，設計者可以輸入與智能體相關的特性（包括物理相似性、對反饋的響應能力以及自主行動），以愚弄人們，使人們認為自己正在與智能體互動。

要讓一個實體成為智能體，必須具備哪些條件？盡管有至少三個選擇可以表現它們自己，但最流行和最受關注的兩種選擇可能并非必不可少。

第一，物理相似性。有很多種方法可以讓機器看起來像人類，無論是外觀還是行為，但是最終只有一個是準確的。僅僅復制軟件是不夠的，你還需要在底層硬件上實現它，包括所有與它相關的可見功能和局限性。

最早的機器人之一，“德·沃康松的鴨子”（de Vaucanson’s duck）外形酷似一只鴨子，甚至連消化系統都十分相似。雖然它可能看上去像鴨子，可以像鴨子一樣嘎嘎叫，甚至像鴨子一樣排泄，但它仍然不是鴨子。然而，最大限度地提高物理相似性是一種讓人誤認為是智能體的一種簡單方法（至少在初期可以）。

第二，自我意識。很多人擔心，如果機器獲取了足夠的信息，它們便會產生自我意識，然后會去發展它們自己的智能體意識，但沒有邏輯和證據可以支持這些推斷。盡管機器人似乎已經被訓練過在鏡子中辨認自己、感受自己肢體的位置，但這些自我意識的陷阱沒有導致它們反抗試驗或者改造失效?；蛟S傳達一種自我意識的感覺會引起其他人推測機器人可能有更高級的智能體（至少會讓學者們感到愉悅），但單獨的自我意識對于智能體來講似乎并非必不可少。

第三，自我利益。人類不僅僅只是信息處理器，也是生存處理器。他們更喜歡對有利于自己延續和繁衍的信息進行關注并采取行動。因此，人類會基于自我利益來處理信息。自我利益可以提供一個統一但開放的架構，將幾乎所有的輸入進行優先級排序和處理。

由于高明的進化伎倆，人類甚至不需要知道自己的目標，因為中間狀態，例如情感，可以代替自我利益。擁有了自我利益，以及能夠靈活調整的反應能力以應對不斷變化的機會和威脅，機器可能會發展智能體。因此，自我利益能夠提供關于智能體的必要組成部分，也能夠從他人身上引發自己身為智能體的推斷。

自我利益能夠將世界上運行的機器從機器人變成智能體。自我利益也將翻轉阿西莫夫的機器人三定律的排序（內容不變）。

◎第一定律，機器人不得傷害人類，或坐視人類受到傷害；

◎第二定律，除非違背第一法則，機器人必須服從人類的命令；

◎第三定律，在不違背第一及第二定律的情況下，機器人必須保護自己。

一個利己主義的機器人會在幫助人類或避免人類受到傷害之前首先保護自己。這樣，構建一個利己主義至上的機器人似乎很簡單：賦予它生存和繁衍的目標，并激勵它不斷去踐行自己學到的東西。

然而，我們應該在構建利己主義的機器人之前思考再三。利己主義會與其他人的利益發生沖突。我們都見證了簡單的、以生存為驅動力的病毒造成的巨大破壞性。如果利己主義的機器人確實存在，我們必須三思而后行。它們的存在將引發一個基本的問題：這些機器人應該有自我利益嗎？它們應該被允許奉行利己主義嗎？它們應該在不了解自己為什么這么做的情況下做利己的事嗎？

我們不是已經擁有了足夠多的這種機器人了嗎？