引言

想象一個(gè)充滿(mǎn)機(jī)器人的世界。除了這些機(jī)器人是昂貴的新奇產(chǎn)品以外，這個(gè)世界與我們今天的世界沒(méi)有什么不同。機(jī)器人不局限于少數(shù)的工作，也不需要你告訴它們?cè)撟鍪裁础Ｏ喾矗@些機(jī)器人有點(diǎn)像伙伴——它們與你合作，就像籃球場(chǎng)上的伙伴彼此合作一樣。一個(gè)人進(jìn)行掩護(hù)，另一個(gè)人就可以輕松移動(dòng)；一個(gè)人將球高高地拋過(guò)籃筐，另一個(gè)人跳起扣籃。我們稱(chēng)之為人機(jī)協(xié)作，在未來(lái)幾十年里，這很可能會(huì)徹底改變我們與科技的關(guān)系。

人們似乎在擔(dān)心機(jī)器人是否有一天會(huì)取代我們——它們是否會(huì)比它們的人類(lèi)創(chuàng)造者更聰明、更快、更好？但現(xiàn)實(shí)是，機(jī)器人和人類(lèi)可能會(huì)一直擅長(zhǎng)不同的事情。而且，正如我們打算在這里表明的那樣，一些難以解決的社會(huì)問(wèn)題有可能通過(guò)我們?cè)O(shè)想的這種合作得到更好的解決。機(jī)器人應(yīng)用非常廣泛，通過(guò)人類(lèi)和人工智能合作的方式，我們可以大幅減少交通事故造成的死亡，并開(kāi)始解決困擾世界上幾乎每個(gè)城市的擁堵問(wèn)題。機(jī)器人作為個(gè)人的增強(qiáng)系統(tǒng)可以改善日常生活，幫助年老或者體弱的人實(shí)現(xiàn)獨(dú)立生活。機(jī)器人護(hù)理員可以使急診室更安全、更高效，縮短等待時(shí)間，提高護(hù)理水平。機(jī)器人還將給我們的日常生活帶來(lái)無(wú)數(shù)雖小但有意義的其他改善，作為職場(chǎng)媽媽?zhuān)覀兊墓ぷ魅蝿?wù)越來(lái)越多，因此我們很期待這些變化。

你可能會(huì)認(rèn)為這樣的機(jī)器人已經(jīng)存在了。畢竟，你的Roomba可以自己打掃客廳。雖然Roomba繪制樓層平面圖的能力似乎令人印象深刻，但它與其他任何家用電器并沒(méi)有太大不同，我們目前遇到的大多數(shù)機(jī)器人都是如此。我們用簡(jiǎn)單的基于規(guī)則的行為限制它們的角色，并通過(guò)點(diǎn)擊屏幕和其他簡(jiǎn)單的命令與它們互動(dòng)。它們對(duì)我們了解甚少，而我們對(duì)它們的要求也相對(duì)較少。工廠里的機(jī)器人在籠子里工作。我們?cè)谕ㄇ跁r(shí)打開(kāi)自動(dòng)巡航控制，但一遇到不熟悉的道路就把它關(guān)掉。早上醒來(lái)，我們會(huì)問(wèn)Siri天氣如何，或者讓Alexa把牛奶加到購(gòu)物清單上，但最終，我們要自己穿衣服，自己買(mǎi)牛奶。當(dāng)Roomba卡在一簇地毯上或漏掉一些地方時(shí)，我們不會(huì)太苛刻地批判它——這是一臺(tái)簡(jiǎn)單的機(jī)器，并且不夠聰明。今天大多數(shù)機(jī)器人的功能都很有限，只能在可控的環(huán)境中工作，基本上需要不間斷的人類(lèi)監(jiān)督。考慮到這些限制，它們的性能已經(jīng)很不錯(cuò)了。

但是，人機(jī)協(xié)作是一種更具革命性的理念。新型智能機(jī)器人剛剛開(kāi)始進(jìn)入我們的城市和工作場(chǎng)所，它們的定義很大程度上取決于它們超越這些限制的方式。在社區(qū)里遞送包裹的機(jī)器人，或者在商店里購(gòu)物的機(jī)器人——我們稱(chēng)之為工作機(jī)器人——再也不能僅僅被認(rèn)為是工具，它們構(gòu)成了新的社會(huì)實(shí)體。讓我們清楚一點(diǎn)：這些機(jī)器人是否有意識(shí)或像人類(lèi)一樣智能，這并不是真正的問(wèn)題所在。事實(shí)上，許多工作機(jī)器人與有知覺(jué)的機(jī)器人相去甚遠(yuǎn)。關(guān)于未來(lái)的機(jī)器人，我們需要了解的是它們將不同于今天的機(jī)器人，在整個(gè)過(guò)程中，它們的角色都將受到社會(huì)互動(dòng)規(guī)則的調(diào)節(jié)。它們會(huì)在某一方面變得更人性化：它們是否讓我們的生活變得更好或更糟，取決于它們是否知道如何去做。

而且將來(lái)還會(huì)創(chuàng)造很多這樣的機(jī)器人。如果我們正在描繪的場(chǎng)景感覺(jué)像一個(gè)遙遠(yuǎn)的夢(mèng)，那是因?yàn)槲覀冋谒X(jué)。當(dāng)今世界上運(yùn)行著170萬(wàn)個(gè)工業(yè)機(jī)器人1，這相當(dāng)于波士頓、匹茲堡和舊金山人口的總和。在美國(guó)，家用機(jī)器人大約有3000萬(wàn)2，這還不包括Alexa、Siri、智能家居設(shè)備、人行道送貨機(jī)器人、商店機(jī)器人、公寓保安機(jī)器人和醫(yī)院服務(wù)機(jī)器人，它們現(xiàn)在經(jīng)常出現(xiàn)在我們拜訪(fǎng)朋友、辦事和購(gòu)物的時(shí)候。很快，你的前院和我們的社區(qū)可能會(huì)擠滿(mǎn)無(wú)人機(jī)。美國(guó)國(guó)家航空航天局（National Aeronautics and Space Administration，NASA）、企業(yè)家和行業(yè)領(lǐng)袖正在加速努力，將我們的天空開(kāi)放給城市空中機(jī)器人——無(wú)人機(jī)可以運(yùn)送小包裹，乘客可以在公路交通的上空快速穿越城市。

這是星期二的早晨。你走出房子，走向你停在街上的車(chē)。與此同時(shí)，一個(gè)快遞機(jī)器人正沿著人行道快速前行，試圖在一天的發(fā)貨截止日期前及時(shí)投遞包裹。它發(fā)現(xiàn)你是附近的一個(gè)障礙，于是為了保證安全而停下來(lái)，但還是慢了一步——你的腳被它絆了一下，踉蹌著向前一倒。這已經(jīng)不是開(kāi)始一天的美好方式了。開(kāi)車(chē)去上班時(shí)，你停下來(lái)等行人過(guò)馬路，就在你開(kāi)過(guò)去的時(shí)候，你看到一個(gè)可能帶著主人的筆記本電腦和三明治的小助手機(jī)器人跟在行人后面。它離地面很低，就像一只小狗——你幾乎沒(méi)有看到它。你猛踩剎車(chē)，勉強(qiáng)避開(kāi)了滿(mǎn)載筆記本電腦和三明治的機(jī)器人，但你后面的車(chē)輕輕地追尾了。在謝天謝地地確認(rèn)兩個(gè)保險(xiǎn)杠都沒(méi)有什么損壞后，你重新上路。但當(dāng)你意識(shí)到自己現(xiàn)在正跟在一輛在一個(gè)新社區(qū)進(jìn)行測(cè)試的自動(dòng)駕駛汽車(chē)后面時(shí)，你感到非常沮喪。當(dāng)你在其后以低于限速的速度“踱步”時(shí)，你會(huì)感覺(jué)時(shí)間變慢了，而且不管前方出現(xiàn)的物體是否真的在路上，你都要在3米內(nèi)停下來(lái)。到達(dá)辦公樓的時(shí)候，你已經(jīng)準(zhǔn)備好抓狂了，結(jié)果卻發(fā)現(xiàn)一個(gè)送貨機(jī)器人擋在了電梯門(mén)口，無(wú)法去按下電梯按鈕。現(xiàn)在才早上9點(diǎn)，四個(gè)不同的機(jī)器人已經(jīng)讓你的生活變得更加困難，僅僅因?yàn)樗鼈儾皇潜辉O(shè)計(jì)來(lái)理解或關(guān)心你的。你不禁想知道這些機(jī)器人到底在幫助誰(shuí)。

怎么制造一個(gè)能理解陌生人的機(jī)器人呢？實(shí)現(xiàn)這一目標(biāo)的方法不是隨意制造“更智能”或“更強(qiáng)大”的機(jī)器人，而是重新思考我們對(duì)技術(shù)的期望是什么。以搜救犬為例，它們不需要太多的指令，可以由人類(lèi)訓(xùn)導(dǎo)員來(lái)引導(dǎo)——用微妙的手勢(shì)來(lái)指示注意力集中的區(qū)域，它們通常會(huì)自己行動(dòng)。搜救犬訓(xùn)導(dǎo)員依賴(lài)它們，它們也有自己的一套與人互動(dòng)的社會(huì)規(guī)范。它們穿的背心提醒人們不要觸摸或與它們互動(dòng)。在具有風(fēng)險(xiǎn)的空間里，它們會(huì)被拴上皮帶，這樣它們的行為可能會(huì)受到更嚴(yán)格的控制。它們?nèi)匀皇枪罚捎谒鼈兊慕巧约八鼈兊挠?xùn)導(dǎo)員的角色——都是經(jīng)過(guò)精心設(shè)計(jì)的，搜救隊(duì)比狗或人獨(dú)立完成的任務(wù)要多得多。

我們?cè)O(shè)想的人機(jī)協(xié)作方式是這樣的：人和機(jī)器人在彼此周?chē)D(zhuǎn)來(lái)轉(zhuǎn)去，有時(shí)單獨(dú)工作，有時(shí)在一起合作。只要一揮手，我們就能把一項(xiàng)繁重的任務(wù)交給機(jī)器人，有需要的人可能會(huì)請(qǐng)多個(gè)機(jī)器人助手來(lái)完成他們自己無(wú)法完成的事情。但這是雙向的，正如機(jī)器人需要理解社會(huì)規(guī)范一樣，它們也將要求我們重新考慮技術(shù)在日常生活中的地位。我們必須做出某些改變，無(wú)論是作為個(gè)人還是作為一個(gè)社會(huì)，必須將機(jī)器人融入我們的世界。這種合作關(guān)系需要人類(lèi)和機(jī)器人有新的語(yǔ)言和規(guī)范。我們將不得不重新考慮所有基礎(chǔ)設(shè)施，并且不得不考慮這樣一個(gè)事實(shí)的影響：這些機(jī)器人將成為商品，一些人可以得到，而另一些人不能。由于這一切是由少數(shù)幾家科技公司啟動(dòng)的，我們需要明確行業(yè)的道德責(zé)任，這是需要深思熟慮的集體行動(dòng)。這就是本書(shū)的目的：找出是什么讓機(jī)器人具有社會(huì)價(jià)值和個(gè)人價(jià)值，然后考慮在這樣的社會(huì)中，如何才能確保我們制造的機(jī)器人具有這些特征。機(jī)器人將迫使我們重新思考技術(shù)在實(shí)踐層面的作用，如思考機(jī)器人在社區(qū)中如何處理它們的旁觀者這種問(wèn)題，特別是技術(shù)將如何影響不同的社會(huì)群體。科技行業(yè)目前正在引領(lǐng)這一變革，但自主機(jī)器人的到來(lái)會(huì)影響我們所有人。要全面擁抱這樣的未來(lái)，需要全社會(huì)的努力。

在過(guò)去的幾年里，朱莉的丈夫——一名醫(yī)生——經(jīng)常把他在醫(yī)院里遇到的新機(jī)器人的照片發(fā)給她。有一天，一個(gè)新的機(jī)器人出現(xiàn)了，一層樓一層樓地給病人送藥。一位醫(yī)生走進(jìn)電梯，發(fā)現(xiàn)其中有一個(gè)這樣的機(jī)器人，上面寫(xiě)著：“不要帶領(lǐng)機(jī)器人進(jìn)電梯。”醫(yī)院工作人員不應(yīng)該與機(jī)器人近距離接觸或以任何方式與它互動(dòng)，因?yàn)樗栽趯W(xué)習(xí)如何在人類(lèi)環(huán)境中安全有效地發(fā)揮作用。有時(shí)，機(jī)器人可能不知道自己在醫(yī)院里，并會(huì)在尋找線(xiàn)索時(shí)突然停止或重新啟動(dòng)。當(dāng)然，這種不可預(yù)測(cè)的行為在電梯這樣的狹小空間里會(huì)引起人們的關(guān)注。機(jī)器人基本上還是一個(gè)學(xué)生，就像新手司機(jī)一樣，需要謹(jǐn)慎對(duì)待。

當(dāng)我們看到汽車(chē)上的“新手司機(jī)”標(biāo)志時(shí)，我們本能地知道如何改變駕駛行為。良好的駕駛行為不僅僅在于手冊(cè)中包含的規(guī)則，還涉及許多非正式規(guī)則，駕駛員只能從經(jīng)驗(yàn)中真正學(xué)習(xí)。駕駛員知道并遵守這些規(guī)則可使駕駛行為（大部分情況下）是可預(yù)測(cè)的。新手司機(jī)還沒(méi)有這些心理模型，他們的經(jīng)驗(yàn)不足，也許還有他們的疏忽，使他們有些不可預(yù)測(cè)，這可能造成不安全的環(huán)境。“新手司機(jī)”標(biāo)志意味著該車(chē)周?chē)拿课挥薪?jīng)驗(yàn)的駕駛員都應(yīng)該提前預(yù)料到意外的發(fā)生。

想象一下，如果你每天開(kāi)車(chē)的時(shí)候周?chē)际切率炙緳C(jī)，你會(huì)感到多么疲憊和壓力巨大。現(xiàn)在想象我們生活中的每一天可能都要伴隨這樣的疲憊和壓力甚至危險(xiǎn)，你不得不處理與數(shù)以百計(jì)的機(jī)器人共存的問(wèn)題。它們會(huì)出現(xiàn)在道路上、辦公樓的走廊里、停車(chē)場(chǎng)、餐廳或醫(yī)院，或者當(dāng)我們走在街上時(shí)，它們可能在頭頂嗡嗡地叫著，特別是當(dāng)我們都遵守空間航行和安全規(guī)則，但它們卻不理解時(shí)，情況會(huì)變得更加糟糕。事實(shí)是，在不久的將來(lái)，機(jī)器人還不會(huì)像“人”一樣，但它們也不會(huì)是嚴(yán)格意義上的“工具”——只在我們命令它們的時(shí)候移動(dòng)。它們將是全新的東西，但那會(huì)是什么呢？我們相信，未來(lái)的社會(huì)將越來(lái)越多地依靠一種新型的技術(shù)關(guān)系，即人機(jī)協(xié)作關(guān)系來(lái)運(yùn)行。好處是巨大的，想想看，汽車(chē)事故每年在全球造成近125萬(wàn)人死亡3，也就是說(shuō)，每天有超過(guò)3000人死于道路交通事故，僅在美國(guó)每天就有大約100人死亡4。交通事故是全球第九大死因。然而，2018年只有500人死于商業(yè)航空事故，前一年只有144人死亡5。這在一定程度上是因?yàn)楹娇諛I(yè)已經(jīng)接受了人機(jī)協(xié)作的理念。在過(guò)去的幾十年里，航空業(yè)重新定義了飛行員和飛機(jī)之間的關(guān)系，因此，兩者都能彌補(bǔ)對(duì)方的缺陷，天空也更安全了（圖1）。自動(dòng)化讓我們有機(jī)會(huì)在道路上達(dá)到類(lèi)似的看似無(wú)法實(shí)現(xiàn)的安全效果。想象一下世界上每年死于交通事故的人不到100人，隨著人與機(jī)器人的合作，這樣的未來(lái)是可能的。

圖1　飛機(jī)技術(shù)四個(gè)層次的技術(shù)創(chuàng)新的事故率：第一代（早期商用飛機(jī)）、第二代（集成度更高的自動(dòng)飛行）、第三代（玻璃駕駛艙和飛行管理系統(tǒng)（FMS））和第四代（電傳飛行）。來(lái)源：A Statistical Analysis of Commercial Aviation Accidents,1958–2016(Blagnac Cedex,France:Airbus,2017),https://flightsafety.org/wp-content/uploads/2017/07/Airbus-Commercial-Aviation-Accidents-1958-2016-14Jun17-1.pdf

要達(dá)到使航空如此安全和可靠的安全標(biāo)準(zhǔn)并非易事。但是，當(dāng)我們開(kāi)始考慮將機(jī)器人引入生活，并相信它們不會(huì)造成真正的傷害時(shí)，某些慘痛的教訓(xùn)卻給我們提供了一些警示。毫無(wú)疑問(wèn)，盡管有些獨(dú)立的機(jī)器人做的僅僅是一些可能讓人討厭或給他人帶來(lái)不便的工作，但有些機(jī)器人將有可能傷害他人甚至使人喪命。任何被應(yīng)用到現(xiàn)代生活的混亂領(lǐng)域的自治系統(tǒng)，如果不仔細(xì)考慮它對(duì)人類(lèi)的影響，就可能是危險(xiǎn)的。在這本書(shū)中，我們將看到，在建立一個(gè)新的社會(huì)實(shí)體時(shí)，我們將不得不做出的各種決定。也許我們能提供的最重要的教訓(xùn)是：人類(lèi)設(shè)計(jì)了機(jī)器人，但人類(lèi)是不完美的。每次將自動(dòng)化系統(tǒng)引入駕駛艙——自動(dòng)駕駛、玻璃駕駛艙和電傳飛行——致命事故就會(huì)暫時(shí)增加。只有在解決了最初的問(wèn)題之后，我們才能獲得效益。無(wú)論工程團(tuán)隊(duì)如何努力地設(shè)計(jì)一個(gè)新系統(tǒng)，或者評(píng)估者和監(jiān)管者如何嚴(yán)格地測(cè)試它，它也永遠(yuǎn)不可能完美。

經(jīng)過(guò)幾十年的努力、實(shí)驗(yàn)和改進(jìn)，工程師已經(jīng)優(yōu)化了復(fù)雜的人機(jī)協(xié)作關(guān)系，使商業(yè)航空運(yùn)輸系統(tǒng)為我們帶來(lái)福祉。但是，就像為人父母一樣，人類(lèi)與機(jī)器的合作也需要付出努力，這不是我們一開(kāi)始就能期待完美的事情。想想今天飛行員的學(xué)習(xí)過(guò)程，他們?nèi)匀恍枰ㄟ^(guò)各種培訓(xùn)來(lái)熟悉自動(dòng)化的邏輯和行為，并學(xué)習(xí)如何依賴(lài)自動(dòng)化。但他們也需要掌握在自動(dòng)駕駛失靈時(shí)如何手動(dòng)駕駛飛機(jī)。飛行員和飛行管理系統(tǒng)之間的伙伴關(guān)系是通過(guò)這種訓(xùn)練磨煉出來(lái)的。自動(dòng)化系統(tǒng)無(wú)法預(yù)先設(shè)定好與飛行員完美配合的程序，就像一個(gè)人無(wú)法預(yù)先設(shè)定好與另一個(gè)人過(guò)上幸福生活的程序一樣。開(kāi)發(fā)自動(dòng)化系統(tǒng)需要時(shí)間、專(zhuān)業(yè)知識(shí)和投資。但我們能合理投資多少這樣的工作機(jī)器人呢？將會(huì)有許多機(jī)器人執(zhí)行比我們今天想象的更多的任務(wù)，它們將盡其所能地出現(xiàn)在我們的日常生活中。在不具備豐富的培訓(xùn)或?qū)Ｓ屑夹g(shù)的情況下，我們必須盡最大努力與它們合作。航空方面的經(jīng)驗(yàn)為機(jī)器人和人類(lèi)如何合作提供了深刻的見(jiàn)解，我們將詳細(xì)討論其中的許多經(jīng)驗(yàn)。關(guān)鍵在于人機(jī)協(xié)作將迫使我們將技術(shù)融入社會(huì)的新方法概念化。

尤其在安全問(wèn)題上，確定什么是有效的人機(jī)協(xié)作關(guān)系比最初聽(tīng)起來(lái)要復(fù)雜得多。想象一下，當(dāng)我們?cè)诔鞘薪值郎闲凶邥r(shí)，成群結(jié)隊(duì)的機(jī)器人在人行道上疾馳而過(guò)的危險(xiǎn)。這個(gè)問(wèn)題不僅僅是規(guī)模問(wèn)題，也不僅僅是日常生活中機(jī)器人數(shù)量的增加，挑戰(zhàn)的核心是自動(dòng)化技術(shù)的重要性的轉(zhuǎn)變——從輔助技術(shù)到安全關(guān)鍵系統(tǒng)。

圖2說(shuō)明了我們的想法。在這里，我們?cè)噲D獲取不同應(yīng)用程序的失敗成本和操作所需的培訓(xùn)數(shù)量。例如商業(yè)飛行這種工業(yè)應(yīng)用是高度復(fù)雜的，也就是說(shuō)沒(méi)有機(jī)器人是不可能安全控制這些系統(tǒng)的。此外，這些系統(tǒng)的操作人員都經(jīng)過(guò)了充分培訓(xùn)，這些培訓(xùn)不僅涉及應(yīng)用程序的基礎(chǔ)（如物理、空氣動(dòng)力學(xué)和機(jī)電系統(tǒng)），而且包括機(jī)器人的使用。這些培訓(xùn)為操作人員提供了必要的知識(shí)，使他們?cè)诿鎸?duì)困難時(shí)也有能力管理系統(tǒng)。工業(yè)應(yīng)用在圖中用正方形表示。

相比之下，消費(fèi)品在歷史上不構(gòu)成任何嚴(yán)重的安全風(fēng)險(xiǎn)，而且通常設(shè)計(jì)為即開(kāi)即用，無(wú)須培訓(xùn)（可能除了閱讀說(shuō)明書(shū)）。例如Siri、Roombas和Alexa，這些在圖2中用菱形表示。

圖2　以培訓(xùn)小時(shí)數(shù)和故障成本衡量的操作人員專(zhuān)業(yè)知識(shí)的比較，適用于三類(lèi)應(yīng)用：工業(yè)應(yīng)用（正方形）、商業(yè)產(chǎn)品（菱形）和一類(lèi)新的安全關(guān)鍵商業(yè)產(chǎn)品（三角形）。來(lái)源：Laura Major and Caroline Harriott,“Autonomous Agents in the Wild:Human Interaction Challenges,”in Robotics Research:The 18th International Symposium ISRR,ed.Nancy M.Amato,Greg Hager,Shawna Thomas,and Miguel Torres-Torriti,Springer Proceedings in Advanced Robotics,vol.10(Cham,Switzerland:Springer,2020)

協(xié)作型工作機(jī)器人代表一類(lèi)新型的消費(fèi)產(chǎn)品，介于傳統(tǒng)消費(fèi)產(chǎn)品和工業(yè)應(yīng)用之間。它們將機(jī)器人技術(shù)引入安全至關(guān)重要的活動(dòng)和區(qū)域，例如，街道上的自動(dòng)駕駛汽車(chē)、人行道上的運(yùn)送無(wú)人機(jī)、監(jiān)視庫(kù)存或清理商店的機(jī)器人，以及醫(yī)院的藥物運(yùn)送助手。這樣的機(jī)器人能否在現(xiàn)實(shí)世界中生存，最終決定性的問(wèn)題是我們能否弄清楚如何與它們互動(dòng)。我們已經(jīng)在與消費(fèi)技術(shù)互動(dòng)了，但現(xiàn)在的互動(dòng)方式不足以說(shuō)明未來(lái)這些機(jī)器人能夠做的所有新的、存在潛在危險(xiǎn)的事情。當(dāng)然，它們不可能完全按照駕駛艙或航天器自動(dòng)化的流程來(lái)設(shè)計(jì)——我們不能讓所有人都成為機(jī)器人專(zhuān)家，就像飛行員在飛行訓(xùn)練中所做的那樣，而且無(wú)論如何，日常生活比飛行模式更難預(yù)測(cè)。正確處理新的混合設(shè)計(jì)流程將是開(kāi)啟一個(gè)令人興奮和多產(chǎn)的未來(lái)的關(guān)鍵。在未來(lái)，人類(lèi)和機(jī)器將真正合作來(lái)提高生活水平，我們將相互借鑒對(duì)方的能力。盡管機(jī)器人可能造成巨大的破壞，但犯錯(cuò)絕對(duì)不是我們想要的。

第二個(gè)主要挑戰(zhàn)是，這種新型安全關(guān)鍵消費(fèi)產(chǎn)品的設(shè)計(jì)需要仔細(xì)考慮社會(huì)規(guī)范，正如飛機(jī)的合理設(shè)計(jì)需要考慮航空運(yùn)輸系統(tǒng)的基礎(chǔ)設(shè)施和限制一樣。飛機(jī)有特殊的設(shè)備來(lái)與空中交通管制和其他飛機(jī)通信。在起飛前，飛行路線(xiàn)必須獲得批準(zhǔn)，飛行員在飛行中修改路線(xiàn)之前必須申請(qǐng)并獲得批準(zhǔn)。導(dǎo)航解決方案基于監(jiān)管機(jī)構(gòu)定義的可接受選項(xiàng)，不同的規(guī)則適用于不同性能的飛機(jī)。有些飛機(jī)必須待在低海拔，只在晴朗的日子飛行；還有一些飛機(jī)可以在能見(jiàn)度極低的情況下飛行，進(jìn)入更平穩(wěn)、更快的軌道，從而減少飛行時(shí)間和延誤。類(lèi)似地，工作機(jī)器人需要在社會(huì)規(guī)范下工作，并遵守指導(dǎo)其在各種社會(huì)情況下安全使用的規(guī)則和條例。我們必須接受這一變化，并考慮如何將機(jī)器人作為合作伙伴來(lái)設(shè)計(jì)，要為這些新實(shí)體創(chuàng)建必要的基礎(chǔ)設(shè)施和支持，而不是重新學(xué)習(xí)我們?cè)谧畛鯉资甑暮娇者\(yùn)輸中得到的慘痛教訓(xùn)。換句話(huà)說(shuō)，我們必須開(kāi)始把機(jī)器人理解為社會(huì)技術(shù)系統(tǒng)。

這本書(shū)的中心目標(biāo)是探索未來(lái)工作機(jī)器人前所未有的設(shè)計(jì)挑戰(zhàn)如何迫使我們面對(duì)技術(shù)在社會(huì)中的角色這一中心問(wèn)題：我們可以從機(jī)器身上得到什么，它們又可以從我們身上得到什么？這個(gè)中心問(wèn)題將由幾個(gè)想法構(gòu)成：如何利用人類(lèi)和機(jī)器人的相對(duì)優(yōu)勢(shì)？自治系統(tǒng)是否會(huì)過(guò)于獨(dú)立而不利于自身的發(fā)展？如何為公共場(chǎng)所中由其他系統(tǒng)支配的旁觀者制定計(jì)劃？我們將為人類(lèi)和機(jī)器如何更好地預(yù)測(cè)彼此的行為提供設(shè)計(jì)框架和解決方案。作為這種方法的關(guān)鍵，我們引入了自動(dòng)化功能可見(jiàn)性的概念，即為用戶(hù)或旁觀者提供線(xiàn)索，了解他們?nèi)绾斡绊懟蛘{(diào)整機(jī)器人行為的設(shè)計(jì)特征。除了自然語(yǔ)言能力之外，自動(dòng)化功能將為機(jī)器人和人類(lèi)在任何情況下進(jìn)行交流提供一種基本的語(yǔ)言。作為一個(gè)社會(huì)問(wèn)題，工作機(jī)器人的引入將需要一定程度的透明度和協(xié)作，而目前科技行業(yè)大多缺乏這種透明度和協(xié)作。我們將討論評(píng)估和測(cè)試智能機(jī)器的新方法，以確保利潤(rùn)動(dòng)機(jī)不會(huì)危及公共安全。我們還將討論將這些挑戰(zhàn)僅僅視為技術(shù)問(wèn)題的局限性，以及如何為工作機(jī)器人設(shè)計(jì)社會(huì)規(guī)范。

雖然我們可以從更廣闊的視角——航空航天、工業(yè)系統(tǒng)和人類(lèi)系統(tǒng)工程——學(xué)到很多東西，但我們也解決了在其他行業(yè)中沒(méi)有先例的人類(lèi)與機(jī)器人協(xié)作的挑戰(zhàn)。工作機(jī)器人是一種安全至關(guān)重要的消費(fèi)產(chǎn)品，其工作環(huán)境的可控性和可預(yù)測(cè)性都低于其他領(lǐng)域的應(yīng)用，它們將與那些只接受過(guò)很少的培訓(xùn)或根本沒(méi)有接受過(guò)培訓(xùn)的人進(jìn)行交流，然后才會(huì)大批投入應(yīng)用。

在這個(gè)新的環(huán)境中，我們使用和利用技術(shù)的舊范例很快就會(huì)消失。今天，我們覺(jué)得操作簡(jiǎn)單的機(jī)器人很容易，因?yàn)槲覀冿@然是在控制它們。但我們周?chē)氖澜缯谘杆僮兓瑱C(jī)器人正在迅速進(jìn)化：它們不再是我們指揮和查詢(xún)的工具，而是我們將與之合作的智能伙伴。我們知道這一點(diǎn)，是因?yàn)槲覀冊(cè)趯W(xué)術(shù)界和工業(yè)界的工作就是推動(dòng)人工智能和機(jī)器人技術(shù)的進(jìn)步，使這一愿景成為現(xiàn)實(shí)。本書(shū)作者之一朱莉是麻省理工學(xué)院人工智能和機(jī)器人研究實(shí)驗(yàn)室的負(fù)責(zé)人，重點(diǎn)研究技術(shù)的未來(lái)以及對(duì)人類(lèi)思維進(jìn)行逆向工程以使機(jī)器人成為更好的隊(duì)友的潛力，她在制造業(yè)、交通運(yùn)輸和醫(yī)療保健領(lǐng)域開(kāi)創(chuàng)了新型的人機(jī)協(xié)作模式。本書(shū)另一位作者勞拉一直在領(lǐng)導(dǎo)工業(yè)界的團(tuán)隊(duì)，為我們的天空和道路設(shè)計(jì)并開(kāi)發(fā)新的自動(dòng)駕駛系統(tǒng)。她還徹底改變了用于戰(zhàn)場(chǎng)的數(shù)字助理，并將自動(dòng)駕駛汽車(chē)變?yōu)楝F(xiàn)實(shí)。對(duì)于這項(xiàng)新事業(yè)，私人和公共部門(mén)對(duì)新型智能機(jī)器人技術(shù)的投資達(dá)到了空前的水平，同時(shí)大眾對(duì)智能城市、智能學(xué)校和智能工作環(huán)境的愿景也浮出水面。

伴隨著這些對(duì)未來(lái)的展望，許多人對(duì)這些新技術(shù)在經(jīng)濟(jì)、勞動(dòng)力和社會(huì)方面的潛在影響感到非常不安。我們?cè)诼飞峡吹奖ｋU(xiǎn)公司的廣告牌，敦促我們?yōu)橥诵葑鰷?zhǔn)備，因?yàn)闄C(jī)器人就要來(lái)了。很多人擔(dān)心自動(dòng)化會(huì)取代我們的工作，或者擔(dān)心奇點(diǎn)：由于人工智能的進(jìn)步，我們將在未來(lái)進(jìn)入一個(gè)技術(shù)指數(shù)增長(zhǎng)的時(shí)代。

想確保新的智能機(jī)器人能完成提高人類(lèi)福祉的任務(wù)肯定需要集體的努力。但這本書(shū)的中心論點(diǎn)是：機(jī)器人不需要擁有超級(jí)智能，不需要統(tǒng)治世界，也不需要有能力替代所有人類(lèi)勞動(dòng)力，甚至對(duì)人類(lèi)繁榮構(gòu)成威脅。如果它們不知道在公共場(chǎng)合如何表現(xiàn)，那么有限的功能就已經(jīng)足夠了。一個(gè)知道如何乘坐地鐵的機(jī)器人可能是革命性的，一個(gè)不知道怎樣坐地鐵的機(jī)器人，但又無(wú)論如何都要趕上地鐵，那么它的破壞性不僅僅是讓幾個(gè)人上班遲到。

對(duì)技術(shù)的功能性使用和對(duì)機(jī)器人的整體接受之間存在很大的差別：在人行道上使用一個(gè)送貨機(jī)器人可能是件新鮮事，而在城市里使用數(shù)百個(gè)這樣的機(jī)器人則可能是件危險(xiǎn)的事情。我們正處在這個(gè)階段轉(zhuǎn)變的懸崖邊上，必須開(kāi)始將對(duì)話(huà)從恐懼轉(zhuǎn)向解決問(wèn)題。這些解決方案存在于社會(huì)和技術(shù)的交叉點(diǎn)上。這就像社會(huì)共同撫養(yǎng)一個(gè)孩子，使他成為社會(huì)的一員，并充分發(fā)揮他的潛力，而訓(xùn)練機(jī)器人也一樣。