12
CONSCIOUSNESS IN HUMAN-LEVEL AI
人類級別人工智能的意識

假設(shè)我們能讓一臺機器具備人類級別的智能水平，換句話說，它在智力活動的各個方面都能達(dá)到常人的水平，甚至在某些方面還能超越人類，那么這樣的機器是否就能擁有意識？這個問題很重要，因為對于這個問題，肯定的回答會讓我們不知所措。我們該如何面對這種由人類自己創(chuàng)造出來的東西呢？它能否感知到苦難和歡愉？它值得擁有與人類相同的權(quán)利嗎？我們真的應(yīng)該創(chuàng)造機器意識嗎？

達(dá)到人類級別的智能水平是否就一定具有意識？這也是個難題。困難之一就是，對于人類和其他動物而言，意識往往糅合了多種屬性：所有動物都表現(xiàn)出目的性，都能或多或少地感知到自己所棲息的環(huán)境以及周遭的一切，并且在某種程度上，都表現(xiàn)出認(rèn)知整合的能力。也就是說，它們能把感知力、記憶力、技能等一切精神資源調(diào)動起來，以應(yīng)對周遭的環(huán)境，從而實現(xiàn)自己的目的。從這點來看，所有動物都表現(xiàn)出了一致性和利己性。包括人類在內(nèi)的某些動物，可以感知到自己的身體和流動的思想。而且，絕大多數(shù)動物都能感受苦難，某些還有同情心。

對于健全的人類而言，所有這些屬性都是交織在一起的。但是在人工智能身上，它們有可能是獨立出現(xiàn)的。因此，我們的問題要更加精準(zhǔn)一點：人類意識中的哪些屬性有可能出現(xiàn)在人工智能身上？當(dāng)然，每一個列舉出來的以及其他未提及的屬性都值得認(rèn)真對待。我只挑出其中的兩種：對世界的感知力以及感受痛苦的能力。我認(rèn)為，對世界的感知力是人類級別的智能所必備的屬性。

顯然，如果不具備語言能力，就稱不上是人類水平的智能。而人類語言的主要功能就是描述周圍的世界。從這個角度看，智能必然具備哲學(xué)家所說的意向性。更進(jìn)一步看，語言是一種社會現(xiàn)象，在人群中，語言的主要功能就是描述他們在過去、現(xiàn)在、未來已經(jīng)感知到的，以及可能感知到的事物，比如一件工具或一塊木頭等。簡單地說，語言產(chǎn)生的前提是對世界的感知。而對于具有實體的動物和機器人而言，這種感知力可以從它們與周圍環(huán)境的互動中表現(xiàn)出來，比如避開障礙物、撿起物品等。我們也可以把范圍擴大到那些分散的、通過特定的傳感器連接起來的非實體的人工智能。

如果想令人信服地將感知力作為意識的某一屬性，還得結(jié)合其他屬性，比如意向性和一定程度的認(rèn)知整合能力。因此，即便是人工智能，這類三合一的屬性也是相互交織的。但暫且把這個問題放一邊，重新來看感受痛苦和歡愉的能力。與感知力不同，人工智能的意識中需要具備這類屬性的原因不太明顯，雖然對人類來講，這種屬性是和意識緊密相連的。我們可以想象這樣一部機器，它可以完成一系列需要人類智力才能完成的任務(wù)，整個過程不帶一絲一毫的情感。在這種情況下，這類機器就很難稱得上具有意識。正如英國哲學(xué)家杰里米·邊沁（Jeremy Bentham）所言：當(dāng)我們考慮如何看待其他動物的時候，不是看它能否推理或者說話，而是看它們能否受苦。

我并非要強調(diào)，純粹的機器就一定不具備感受痛苦和歡愉的能力，也不是說生物體在這方面有什么特殊之處。相反，我想指出的是：這種感受痛苦和歡愉的能力，是可以從人類意識的諸多精神屬性中分離出來的。讓我們進(jìn)一步來驗證這種分離的合理性。我前面提出，對世界的感知力總是和意向性結(jié)合在一起，動物對世界的感知力——趨利避害的能力，基于它自身的需求。當(dāng)它看到危險的捕食者時，就會避開；當(dāng)它看到自己的獵物時，就會靠近。在這一系列目標(biāo)和需求的背景下，動物的行為都是有意義的，而當(dāng)它們的目標(biāo)沒有實現(xiàn)、需求未被滿足時，它們會有挫敗感。這就是遭受痛苦的原理依據(jù)。

人類級別的人工智能又會如何？難道它們就不具備一套復(fù)雜的目標(biāo)嗎？它們實現(xiàn)目標(biāo)的努力就不會受挫嗎？雖然人工智能的構(gòu)造可以讓它免受人類生理上的痛苦，但是當(dāng)它處于惡劣條件下時，我們能否說人工智能也在受苦呢？

此時，想象力和直覺力已經(jīng)碰到了天花板。我認(rèn)為，在這種東西真正出現(xiàn)以前，我們無法找到答案。只有當(dāng)更成熟的人工智能成為我們生活的一部分時，我們的語言游戲才能適用于描述這些“外星人”。當(dāng)然，那個時候再來考慮它們是否應(yīng)該出現(xiàn)在這個世界上，就為時已晚了。無論好壞，它們都已經(jīng)出現(xiàn)了。