14 超級人工智能不會統治世界，除非它們擁有文化

過去10年，機器學習能力和機器人技術取得了長足的進步。與此同時，還建立起各種各樣龐大的數據庫，它們配置了擁有驚人存儲容量和前所未有的更快、更新潮的處理器。盡管如此，我們也不應該杞人憂天，擔心人工智能會很快趕上和超越人類的理解力，并把人類變成它們的奴隸、玩具、寵物或傀儡。

因為人類得益于一個巨大的、目前也是自身特有的優勢：逐漸積累的文化實踐和創新。這些無形的實踐和創新數量巨大，它們能夠把外界事物加工成人類大腦可接收的信息形式。在緩慢的生物進化中，人的意識里遺留著非常多的原始偏見，特別是針對社會活動、娛樂和探索的偏見，逐步積累的社會生活實踐對修正人類意識中的認知缺陷有著深刻的影響。所以，大量積累的實踐認知與創新活動相輔相成，逐步提高了人類的理解能力。

我們通過有目的的設計活動，持續不斷地構建起一個人工的生活環境，通過讓自己沉浸其中，我們得以重建和改進了自身的意識。比如，在這個環境中，我們締造了教育系統，并把它劃分成運動、藝術和科學3大領域。這些環境是特意圍繞人類設計的，它們“了解”我們需要什么，就如同我們能夠理解它們想表達什么。作為一個物種，我們一次又一次、一代又一代地完善它們。“小步式”地逐漸修繕，而不是徹底推倒重來，這提升了人類的力量、記憶能力、運動能力，甚至認知學習能力——人類心智中最后形成但最為關鍵的元素。

概括一下，如果牛津大學心理學家塞西莉亞·海斯（Cecilia Heyes）的觀點正確的話，人類許多文化傳遞的能力本身就是文化創新，它們通過社會交流的相互影響而獲得，而不是直接來自生物的適應性。換句話說，文化有自我復制的機制，它把人類的思想像滾雪球一樣傳遞下去。

為什么這意味著我們無須擔心超級人工智能很快出現呢？原因就是人工智能如果想控制人類，必須擁有4種東西：設計良好的電子電路，巨量的數據，完美的學習算法，以及雄心。通過電路，保證完美的學習算法（需要多元的、活躍的、主動搜尋信息的系統）能夠處理巨量的可用數據，從而使人工智能像人類那樣理解世界，僅有這些還不夠，人工智能還需要在理解世界的基礎上，自發產生對人類的統治雄心。每一塊電路顯然都需要量身定制成具有特殊原始偏見、驅動機制和行動能力的獨立個體。如果高級認知功能來自非常緩慢的進步積累，它是身體、大腦、思想意識和大量千變萬化的文化實踐共同促成的，那么我們就不需要擔心人工智能的威脅。目前，世界上還沒有什么人工智能機器能夠得到這種進化的階梯。

現在，深度學習算法正向我們展示人工智能的神經網絡如何以一種前所未有的方式進行大規模學習。但是，如果想從推動機器運轉的大型數據庫中選出真正的超級智能的話，除了深度學習，還需要“深層文化”。

那就意味著，人工智能需要經過文化實踐的逐步洗禮，這些文化實踐還要和機器自身的運作、交流能力精密結合，并且要與機器自身的意識和微環境相匹配。人類的理解能力就是這樣逐步提高的，人工智能系統還遠遠不能效仿。