近憂遠慮：人工智能的倫理學和存在論分析7

本世紀以來，與人類未來命運最為密切相關的大事無過于人工智能和基因工程的驚人發展，這些技術將要給人類帶來存在論級別的巨變。

基因工程是一個好壞后果相對比較清晰的問題，至少在倫理學上相對容易給出判斷。比如說，基因工程那些能夠用于治病救人的生物醫學技術無疑都無量功德，此類事情沒有爭議。然而，通過基因編輯而改變一個人的智力水平和生物極限，從而使一個人獲得近乎超人的智力或者長生數百歲，這種努力雖然誘人，卻是一個有著巨大未知風險的目標。假如此類技術能夠普惠每個人，可能就是一個皆大歡喜的結果（但仍然存在未知風險），但假如只限于特惠少數人，則顯然不會被眾人所接受。經濟上的巨大不平等已經可能導致社會動亂和報復性行為，生命權的不平等恐怕會讓人忍無可忍而導致致命的全面動亂、報復、反叛和戰爭。顯然，那些導致生命不平等的基因技術完全缺乏倫理支持，不僅不義，而且不智，因此，以理性之名可以推想，應該會有人類公約將基因工程控制在普惠眾人的限度內，任何自私狂悖的冒險都非?？赡鼙唤??？梢哉f，基因工程是一個需要嚴肅對待的實踐問題，卻并非一個價值疑難問題。

與此不同，人工智能的發展卻涉及理論上的許多根本困惑，以至于難以判斷。僅就單純的技術應用而言，人工智能似乎能夠普惠人類，并不違反平等原則，因此在倫理學上并無明顯疑點，但就其革命性的存在論后果來看，人工智能有可能改變或重新定義存在的概念，有可能在存在論水平上徹底改變生命、人類和世界的存在性質。這個革命過于重大，我們難以判斷這樣深刻的“存在升級”是人類的幸運還是不幸。所以，人工智能不僅是個技術問題，同時也是一個哲學疑問。我愿意以杞人憂天的方式提出幾個問題：（1）人類到底是需要人工智能替人勞作，還是需要人工智能替人思考？（2）如果讓人工智能替人勞作，人類因此得以擺脫艱苦的勞動，那么，人類的生活會因此變得更好嗎？（3）如果人工智能獲得超越人的智慧，人工智能還需要人類嗎？人類文明還能夠延續嗎？或者，人類文明還有意義嗎？人類已經習慣了帶來“進步”的新發明，但人類真的需要任何一種新發明嗎？