危險的人工智能？

文/趙洋

比核武器還要危險

“我們需要對人工智能（A.I.）超級小心，人工智能可能比核武器還要危險。”

“希望我們不要在生物學上成為數字超級智能的啟動加載程序。不幸的是，這種可能性越來越大。”

以上是身為特斯拉汽車和太空探索這兩家高科技公司CEO、人稱現實版“鋼鐵俠”的埃倫·馬斯克2014年8月在twitter上發的兩條推文。

或許是感到僅靠一個人對人工智能將消滅人類的可能性發出警告影響力不足，2015年1月12日，以馬斯克為首的企業家及發明家與以物理學家霍金為首的科學家聯名發表公開信，警告公眾不能忽視人工智能的安全性及對社會的負面影響。他們呼吁業界在制造人工智能時，須確保其“系統依照我們的指令行動”。這封由生命未來研究所（Future of Life Institute）發出的公開信強調，“必須確保人工智能能夠按人的意志工作。人工智能研究一直在穩步發展，對社會的影響也在逐漸增加，潛在的收益是巨大的。過去人類文明的所有產物都來源于人類的智慧，但在人工智能的協助下人類的智慧可以被放大到什么水平，我們無法預測，或許有一天，疾病和貧窮可以因此永遠消弭。因為人工智能的潛力巨大，確保它帶來收益的同時避免潛在風險，就顯得至關重要了。”信中還附上了一篇研究論文，里面給出了許多致力于使人工智能社會收益最大化的例子。

空談無益，馬斯克隨后還宣布向生命未來研究所捐贈一千萬美元，以幫助這家機構進行能確保讓人類“受益”的A.I.相關研究。所謂受益，指的就是當A.I.智慧高過人類之時，它們仍會聽命于我們而非發動革命。截至目前，工業界和政府投資已經讓A.I.從小眾的學術研究演變成了可能改變世界的技術，但并沒多少人愿意投入資金，以確保其最終能為人類帶來積極的改變。因此，這筆首開先河的捐款將產生深遠影響。

所謂“人工智能可能比核武器還要危險”，絕非聳人聽聞，因為核武器不一定能消滅所有人類，但失控的人工智能卻可以。科幻影片《終結者》里的“天網”、《黑客帝國》里的“母體”，都是人類制造的超級強大的人工智能，最后都發展到以將人類趕盡殺絕為己任。這是誰都不愿看到的未來。

從解放體力到容納靈魂

其實，埃倫·馬斯克很了解人工智能及其載體——機器人。他擁有的特斯拉汽車制造廠在生產線上就大量使用了工業機器人。生產線上燈火輝煌，快速移動的機器人被漆成明快的特斯拉招牌紅色，每個機器人都有一條多關節的單臂。大多數機器人都有兩三米高，有點像嚇人的“終結者”。當這些機器臂伸到一個平臺上、換只“手”來完成一項不同任務時，雖然動作看上去很怪異，但卻有點像人。許多汽車制造廠的機器人只能從事單一工種，但在特斯拉的新工廠，一個機器人最多能完成四項任務：焊接、鉚接、粘接，以及安裝零部件。每輛車在裝配線的各個工位停留時間只有五分鐘，八個機器人圍繞著它像跳芭蕾舞似的施展才華。如果工廠要生產其他款式的汽車，只需將機器人重新編程，就可以在同一條裝配線上生產。

解放人類體力是發明機器人的初衷。1921年，捷克劇作家卡爾·恰佩克在名為《羅素姆萬能機器人》的戲劇作品中創造了“robot”（機器人）一詞。這個詞源于捷克語的“robota”，意思是“苦力”。在該劇的結尾，不甘心只做苦力的機器人接管了地球，并毀滅了它們的創造者。

現實中，機器人仍主要充當苦力的角色。目前機器人已經改變了制造業的面貌，并正在改變世界各地其他勞動密集型行業。其中之一是配送行業，機器人能以世界短跑冠軍的速度將貨物存放、取出或包裝起來以備運輸，大大高于人的工作效率。無人駕駛汽車則是一種不像機器人的機器人，它能夠把卡車和出租車司機從乏味的工作中解放出來，代價是司機們需要掌握從事新工作的技能。

白領工作也日益面臨來自人工智能和機器人的挑戰。飛行員在駕駛飛機的大部分時間里依靠自動駕駛儀；廣告銷售員因為自動網絡廣告競價系統的出現而被迫轉行；醫生要依靠面部表情識別軟件來了解患兒的疼痛水平。制作美食也不再是人類的專屬：泰國政府引進的一種機器人，能夠確定泰國食物的口味是否足夠正宗，是否需要再加點辣醬。甚至連音樂家和藝術家也能被機器人取代，機器人已經可以創作音樂了，還有人早就寫出了詩歌創作程序。

幸好，人類的某些技能可能是機器永遠無法替代的，比如常識、適應性和創造性。甚至那些已經自動化的工作也同樣需要人類的參與，比如所謂的計算機輔助鎮靜系統就需要醫生在一邊待命，協助自動化麻醉師。

如果說與人類搶飯碗可能會導致人工智能與機器人的發展受阻，那么用人工智能延長人類壽命的可能性將徹底瓦解這種阻力，特別是把壽命延長到“無限長”。

永生有很多種形式，但最具可行性的當屬“人體的機器人化”。當你能夠擁有一副更強、更快、更健康的身體，能夠讓你遠離死亡時，你為什么還堅守有機肉身呢？2013年6月，俄羅斯企業家德米特里·伊茨科夫提出了“2045項目”，其目標是將人類意識轉移到機器人身上，通過機器人化身實現人類永生的夢想。他曾公開展示過一個以自己為模型的機器人頭顱。他的計劃是先用機器身體替代人類軀體，進而在人死后進行人工大腦和性格移植。伊茨科夫承認“2045項目”面臨兩大挑戰：理解大腦和部分理解人類的意識，其中后者的難度遠勝于前者，因為“理解了意識，就基本上理解了宇宙”。

自主學習、自我進化

以高科技公司為代表的企業界是人工智能當仁不讓的推手。2011年初，IBM的超級計算機“沃森”就在電視益智節目《危險邊緣》中戰勝人類，獲得了年度總冠軍。2013年12月，Facebook建立了一座新的人工智能實驗室。2014年前后，谷歌收購了十幾家機器人公司，全球速度最快的四足機器人、能夠獨立地從Youtube的海量圖像中學習“貓”的概念的人工智能等，都已經歸谷歌所有。曾任谷歌人工智能主管的吳恩達用1000萬張貓的圖像對“谷歌大腦”（由1.6萬臺電腦組成的神經網絡）進行訓練后，教會了它識別貓的形象。而此前“谷歌大腦”從未被輸入過識別貓科動物的規則。這不同于在電腦計算領域占主導地位的基于規則的算法。現在，吳恩達已經被中國搜索引擎百度招至麾下，掌管百度的深度學習實驗室。當下，谷歌正在開發人工智能的另一個應用——無人駕駛汽車，能夠識別穿過馬路的貓將是這種汽車的基本功能。