懸而未決的倫理困境

微軟研究院的一位計算機科學家喬納森·格魯丁（Jonathan Grudin）指出，作為獨立學科的“人工智能”和“人機交互”之間鮮有交流。他指出，麥卡錫的務實做法確實已經被過去50年間這一領域取得的成功所證實。人工智能研究人員想指出的是，飛機不用拍動翅膀，一樣能夠飛行；有人就提出，只需復制人類意識或行為，沒有必要理解這些。但是，AI和IA之間的鴻溝只會繼續加深，因為人工智能系統在人類任務中變得日益靈巧，從視覺到語音，再到移動物體、玩象棋、猜謎或是玩雅達利視頻游戲皆是如此。

特里·威諾格拉德（Terry Winograd）是最早清晰地看出這兩個極端并考慮其影響的人之一。他的工作是追蹤AI與IA之間的關系。20世紀60年代，他就讀于麻省理工學院，他的博士研究主要關注對人類語言的理解，以期打造出一個相當于機器人Shakey的軟件——Shakey是一個軟件機器人，能夠與人類對話和互動。隨后，在20世紀80年代，從某種程度上說，因為改變了要對人工智能有所限制的觀點，他離開了這一領域——從AI轉向了IA。威諾格拉德之所以離開人工智能領域，與他和加州大學的哲學家們的富有挑戰性的對話有一定關系。作為少數人工智能研究人員中的一員，他參加了一系列有加州大學伯克利分校的哲學家休伯特·德雷福斯（Hubert Dreyfus）和約翰·塞爾（John Searle）出席的學術研討會。這些哲學家說服了他，讓他相信智能機器是存在真正瓶頸的。威諾格拉德的轉變恰巧趕上了人工智能產業初期的衰落，也就是所謂的“人工智能的冬天”。數十年后，威諾格拉德，這位曾經在斯坦福大學擔任谷歌聯合創始人拉里·佩奇導師的知名學者，建議佩奇關注網絡搜索難題而非無人駕駛汽車。

幾十年間，威諾格拉德開始深刻地意識到設計師觀點的重要性。對人工智能和人機交互領域的分割，在一定程度上屬于方法問題，但是，將人類設計“進入”還是“剔出”這些系統同樣也屬于倫理問題。最近在斯坦福大學，威諾格拉德協助創立了一個關注“解放技術”（Liberation Technologies）的學術項目。這一項目致力于研究和構建基于“以人為本”價值的計算機化系統。

縱觀人類歷史，技術雖然已經取代了人類勞動力，火車頭和拖拉機仍然不會作出人類級別的決策，但在以后，隨著技術的進步，“會思考的機器”可以。它還可以了解到技術與人性共同進化的過程，這一過程同樣又會提出同樣的問題：誰將處于主導地位？在硅谷，慶祝機器的崛起已成為時尚，可以從奇點研究中心（Singularity Institute）這類公司的崛起和凱文·凱利2010年的《科技想要什么》（What Technology Wants）這類書籍中清晰地看出這一點。早在1994年的《失控》（Out of Control）中，凱利就已堅定地站在了機器一邊。他在書中描述了人工智能先驅馬文·明斯基和道格拉斯·恩格爾巴特兩人間的一次會談。

20世紀50年代，當這兩個家伙在麻省理工學院見面后，人們認為他們之間進行了如下對話。

明斯基：我們要讓機器變得智能，我們要讓它們擁有意識。

恩格爾巴特：你要為機器做這些事？那你又打算為人類做些什么呢？

通常，那些致力于讓計算機變得更友好、更人性化、更以人為本的工程師們會講這個故事，但是，我直接站在了明斯基一邊——站在了機器一邊。人們會存活下來，我們會訓練我們的機器來服務我們。但是，我們又將為機器做些什么呢？

凱利指出，明斯基和恩格爾巴特分別持有不同的立場，這一點毋庸置疑。但是，認為“人類會存活下來”的觀點顯然輕視了它們的影響。他基本上是在復述明斯基對人工智能到來的意義的回答：“如果我們夠幸運，或許它們會把我們當寵物養。”

明斯基的觀點反映了AI和IA之間的鴻溝。到目前為止，人工智能圈子在絕大多數時候都選擇忽視他們認為只是強大工具的系統帶來的影響，規避了對道德問題的討論。當我詢問自動化對人類影響的話題時，一位正在打造新一代機器人的工程師告訴我：“你不能這樣想。你只需決定你將盡己所能，為全人類改善世界。”

在已經過去的50年中，麥卡錫和恩格爾巴特的理論仍然各自為政，他們最為核心的沖突仍然懸而未決。一種方法要用日益強大的計算機硬件和軟件組合取代人類；另一種方法則要使用相同的工具，在腦力、經濟、社會等方面拓展人類的能力。盡管鮮有人注意這些方法之間的鴻溝，這場新技術浪潮的爆炸（一個正在影響現代生活方方面面的技術浪潮）將極力壓縮這種分化，并防止反彈的發生。

該在這場爭論中站怎樣的立場實在很難抉擇，因為沒有顯而易見的正確答案。盡管無人駕駛汽車將取代數以百萬計的崗位，但它們也將拯救更多的生命。今天，在大多數情況下，人們會以收益和效率為根據決定實現哪些技術，但也明顯需要新的道德演繹。然而，決定成敗的不只有細節。就像核武器和核動力一樣，人工智能、基因工程和機器人學將在未來10年內產生人們意料之中和意料之外的廣泛的社會影響。