機器人不會越來越聰明嗎？

我們無法改變人性，但仍然希望更好的技術可以解決技術帶來的問題。持這種觀點的人認為，只要我們能讓自動化變得更智能，或者讓機器人變得足夠智能，更像人類伙伴一樣行動，那么這些問題肯定會消失。當然，這需要制造一個真正的類人機器人，一個能像人一樣學習的機器人能讀懂我們所有的手勢、面部表情和其他暗示，它們能像我們與他人溝通時一樣輕松自然地與我們溝通。

壞消息是，即使造出了最像人類、最智能的機器人搭檔，問題仍然存在。想想駕駛艙里的飛行員。機器人不可能比真人更像人類了。人類飛行員是精英團隊：他們有成千上萬小時的飛行經驗。然而，73%的航空事故發生在新飛行員和副機長一起工作的第一天，44%的事故發生在第一天的第一次飛行中32。原因在于人類無法自動形成默契的合作，即使是訓練有素的飛行員，也需要一些與新伙伴一起工作的經驗和練習。當他們一起工作時，他們會建立彼此的心理模型，并學會有效地溝通。我們不能指望普通消費者廣泛接受操作下一代機器人的培訓，也不能指望他們知道如何與機器人互動。我們需要新的方法來設計這些系統，以便讓新手能夠快速建立自己操作和行為的心理模型。

但如果我們造出具有超人能力的機器人呢？也許超級智能機器人可以比類人機器人更清楚地分析場景，并有權決定誰應該在什么時候做什么。難道這種方法不能使人機團隊比人類團隊更有能力嗎？公平地說，機器人最近已經能夠以這種方式與人類合作。事實上，麻省理工學院的實驗室進行了一系列研究，比較“機器人老板”與人類老板的潛在優勢33。兩個人和一個機器人一起收集材料，用樂高積木組裝一個結構。樂高組裝任務被設計成需要人類和機器人之間的協作，團隊的效率取決于誰拿回了哪些部件、以什么順序拿回了部件，以及誰去設計所搭建的結構。機器人得到了關于人類成員執行任務時各方面表現如何的信息，然后它使用先進的規劃技術來優化工作分配并指導人類伙伴。這個案例將與另外兩種情況相比較，一種是由一個人完全指導工作，另一種是一個人和一個機器人在三人團隊的任務分配上共享權力。

結果令人驚訝。首先，至少在這些研究中，人們似乎更喜歡讓機器人做所有的決定34！這可能是因為機器人顯然更擅長這項任務，總體上會做出更好的工作安排；相反，降低機器人在工作決策上的權威會降低團隊的效率，同時降低人類與機器人一起工作的愿望。這種對提高機器人智能和決策權威的偏好在其他環境中也得到了證實35。

然而，這些好處帶來的代價高昂，可以說是不可接受的。我們發現，當機器人做出更多決定時，人類團隊成員就會失去對伙伴行動的感知。人們對人類和機器伙伴正在做什么以及接下來要做什么感知程度較低。從漫長的航空事故歷史中，我們知道，當機器人發生故障時，缺乏情境感知能力會削弱人的接管能力。

此外，我們知道，當人類與智能機器人一起工作時，人類實際上需要更多地了解這個系統，而不是更少地了解傳統的自動化。原因是機器人是一個獨立的，至少是半智能的實體，與用戶有著不同的目標和計劃。僅僅知道系統處于何種模式是不夠的：要想有效地與智能體合作，人類還需要知道機器人試圖做什么以及為什么要做這些36。即使有最先進的機器人技術，我們仍然看到機器人自主性的提高增加了由于情境感知能力降低而導致的風險和成本。

最后，我們可以想象，如果自動化隨著時間的推移而改變其行為，從而根據具體情況或多或少地幫助用戶，那么這些困難會變得更糟。物聯網使公司可以隨時升級你的設備，這使得解決產品中的缺陷和改進它們變得更容易。但當設備的行為被改變或新功能出現時，它也會給用戶帶來困惑。是的，我們通常可以上網查詢或閱讀更新通知來了解這些變化，但我們實際上并沒有這么做。這個問題已經成為商業無人機運營商論壇上的熱門話題，用戶擔心更新會增加墜毀的風險。特斯拉汽車的自動更新也給司機帶來了困惑，甚至造成危險的情況37。公司在每次升級時都努力提高安全性，但簡單地引入新版本可能會導致新的意想不到的人機交互故障。

我們在新的機器學習技術中也看到了類似的問題，這種技術使機器人能夠改變它們對環境或用戶的反應。如果機器人隨著時間的推移而改變自己的行為，這可能會被證明沒有什么幫助，因為用戶不得不費神去理解這些變化38。