19
EVOLVING AI
進化中的人工智能

人工智能的思考、知覺、欲望、同情心、社交、道德是怎樣的？事實上，我們可以想象到幾乎所有方面，但也有很多方面我們可能想象不到。為了激發我們的想象力，我們可以考慮如今仍然在生物系統中進化的各種自然智能，也可以考慮那些曾經在地球上繁衍生息、如今已經滅絕了的99%的物種，它們中的極少數幸運者形成了化石，見證了歷史。

我們有權這樣想象，因為根據我們最好的理論，智能是復雜系統的一種功能屬性，進化尤其是一種可以找到那些功能的搜索算法。因此，到目前為止，由自然選擇發現的自然智能是各種可能智能中的下限。進化博弈論暗示了這里沒有上限：只有四種競爭策略、混沌動力學（復雜性科學的一個重要分支）以及奇異吸引子是可能的。

當審視由進化產生的自然智能時，我們發現了智能的不均勻性，這使得我們產生了一種“智能是以人類為中心”的觀點，就像地心說一樣。我們發現的這種與人類投緣的智能只是廣闊宇宙中另一個無限小的異類智能，那是一個并不圍繞人類運轉的宇宙，并忽略了人類的宇宙。

雌性澳洲芽翅螳螂饑餓的時候，會利用性欺騙獲得一頓飯。她會釋放信息素吸引雄性，然后在她渴望進食的時候殺死對方。較年長的幼年藍腳鰹鳥饑餓的時候，會謀殺自己的弟弟和妹妹。它會啄死或驅逐比自己年幼的同胞，而它們的母親并不會干涉。這些都是各種各樣的自然智能，都是我們可以立即找到的各種異類的、令人恐懼的熟悉事例。它們擊碎了我們的同情心、社交和道德準則，而人類曲折的進化歷史中仍然存在同類相食和骨肉相殘的現象。

我們的調查發現了自然智能的另一個關鍵特征，即每個例子都有它的局限，這指向了一個現象：智能總是把接力棒交給愚蠢者。

灰雁精心地照看著它的蛋，但當附近有一個排球時，她會放棄她的后代，徒勞地去追逐這個異乎尋常的“蛋”。雄性寶石甲殼蟲會尋找雌性甲殼蟲交配，但當它發現了一個合適的啤酒瓶時，它會放棄雌性甲殼蟲，嘗試和冰冷的玻璃瓶交配，直到死亡將它們分開。

人類智能也在傳遞接力棒。引用愛因斯坦的名言：“只有兩件事是無限的——宇宙與人的愚蠢。對于前者，我還不能確定。”人類智能的局限引發了一些小尷尬。例如，從整數到整數的函數集是不可列的，而可計算的函數集是可列的。因此幾乎所有的函數都是不可計算的。再例如，圖靈停機問題（halting problem）——甚至理解這個例子也需要超常的頭腦和一點天賦。

其他局限性更容易影響家庭：無法抗拒甜點的糖尿病患者，無法戒酒的酒鬼，無法戒賭的賭徒。但這些不僅僅是上癮。行為經濟學家發現我們所有人都會作出“可預見的非理性的”經濟選擇。認知心理學家發現，我們都患上了“功能固著”，喜歡將某種功能賦予某個物體，而不再考慮其他方面的作用，從而無法解決某些平常的問題。例如卡爾·鄧克爾（Karl Duncker）的蠟燭問題，因為我們無法突破思維定勢。然而，好消息是，永無止境的各種局限性為心理學家提供了工作保障。

這正是關鍵點。各種智能的局限性都是進化的動力。模仿、偽裝、欺騙、寄生，這些都是不同類型的智能進行進化“軍備競賽”的產物，以炫耀各自的優點，忍受各自的局限性。

如今，人工智能走上了這場競賽的舞臺。由于計算資源發展迅速，并且可以更加方便地連接，使得人工智能能夠復制、競爭、發展，促使更多機會出現。進化的混沌性質使得我們無法準確預測何種新形式的人工智能會出現。然而，我們可以滿懷信心地預測，在我們的薄弱之處，將會有驚喜與優點出現；在我們的強大之處，將會有弱點存在。

這應該引起人們的恐慌嗎？我認為沒必要。人工智能的進化蘊含著風險和機遇，自然智能的生物學進化也是如此。我們已經知道，處理各種自然智能的最好方法是慎重但不恐懼。不要擁抱響尾蛇，不要戲弄大灰熊；通過洗手、接種流感疫苗來對付進化的病毒和細菌。偶爾出現的如埃博拉病毒，需要我們采取更多的措施。但再次強調，慎重但不恐懼是有效的。假如我們慎重地接受自然智能的進化，而不是恐懼地拒絕它，它會成為敬畏和靈感的源泉。

所有物種都會走向滅絕，智人也不例外。我不知道這將如何發生——病毒肆虐、外星人入侵、核戰爭、超級火山爆發、小行星撞擊、太陽變成紅巨星……也可能是人工智能，但我會下很大的賭注賭它不會。相反，我敢打賭，在未來幾年中，人工智能將會是敬畏、頓悟、靈感，當然還有利潤的源泉。