是AI向善，還是人類向善

“AI向善”是一個非常有趣的說法,值得認真咀嚼。為什么不說“讓AI善良”呢?

當我們說“AI向善”的時候,意思是AI是個“活物”,它有向善的意欲,用個術語叫“意向性”。當然,你可以說,我們是在隱喻的意義上來說“AI向善”,并非在絕對意義上斷定AI是個“活物”,更沒有斷定AI是人類意識層面上的“活物”。但是,無論如何,“ AI向善”的說法暗示AI具有很強的自主性,以至于我們可以說“ AI想要向善”或者“人類可以引導、規范或逼迫AI向善”。

AI究竟有沒有自主性呢? 在當代技術哲學當中,技術自主性是一個基礎性的、爭議性非常大的問題。一般說來,我們可以將各種觀點劃分為兩種,即技術的工具論和技術的實體論。

技術的工具論認為,技術僅僅是一種工具,是實現目標的手段,本身并沒有善惡,所謂技術的善惡實際是使用它的人的善惡。比如說,一把菜刀,你可以用來切菜,也可以用來殺人。菜刀殺人了,你不能怪菜刀。

技術的實體論認為,技術可不是簡單的工具,而是負載著價值的,也就是說它自主發展,有自身發展的方向,最終會實現它的目標,這是不以人的意志為轉移的。比如說,很多人認為互聯網天然就是反權威、去中心的,還有一些人認為區塊鏈一定會推動公開和誠信。

顯然,“AI向善”的基本立場是技術實體論的。按照這種觀點,AI具有自主性,而既然如此,AI要向善或者向惡,我們如何能左右它、控制它呢?

當然,除了這兩種二元對立的觀點外,有些哲學家嘗試提出調和的觀點,比如大技術哲學家芬伯格(Andrew Feenberg)提出了“技術設計”的觀點,意思是技術發展是同時協調技術要素和社會要素的結果。舉個例子,我們騎的自行車,小時候主要載物載人,要有車筐、有后座,男人都騎著“二八大杠”,非常結實;現在很多人是拿來鍛煉身體或者遠足騎行的,所以要很漂亮,能跑上坡;而現在的共享單車,主要是解決從家到地鐵站所謂“最后一公里交通”的問題,設計非常簡單。這些自行車技術要素上是大同小異的,區別就在于融合的社會要素不一樣。

我怎么看技術的自主性的爭論呢?

第一,工具論向實體論的變遷,也就是說越來越多的人從工具論轉向實體論,是技術發展得越來越復雜的結果。當技術相對比較簡單的時候,人們比較容易相信工具論。而當技術變得越來越復雜,一般人難以或者完全理解不了,單個的人無法駕馭或操縱復雜技術系統,此時人們比較容易相信實體論。這一點從前面的例子可見一斑:工具論我們舉菜刀為例,而實體論我們舉互聯網、區塊鏈為例。

第二,技術的自主性爭論根源于如何理解人與技術、人與機器關系的問題。有人認為機器幫助人類,也有人說人機是對抗關系,而現在越來越多地講人與機器是協同進化的。人機協同進化論很有道理,但這是一種“上帝視角”或“宇宙視角”,站在非常超脫的位置看人機關系。的確,人與機器必然是協同進化的,但是協同進化的最終結果也可能是人類滅絕。有意義、有價值的是人類視角,也就是說在人機協同進化中人類應該如何選擇應對方案,以確保人族福祉。

從某種意義上說,AI出現讓人類面對“新無知之幕”,即不知道人機協同進化的最終結果而要做出行動選擇。政治哲學中講的“無知之幕”,粗略說是有關國家如何建構的:大家聚在一起商量建成一個國家,結束人與人之間野蠻暴力狀態,但是每個人都不知道在建成后國家中自己將處于哪一個階層、哪一種角色,在這種對未來無知狀態中來討論應該如何安排新國家的社會制度。你想,你可能屬于社會中最弱勢的群體,你會不會給窮人提供必要的制度保障和救濟措施呢?

總之,“新無知之幕”是一個隱喻,討論人如何在“盲人摸象”中應對未來與擬主體、能力超強的AI共同生活。

第三,無論是工具論、實體論,還是技術設計論,它們都是哲學觀念,而并非自然科學意義上的客觀理論,也就是說你不能說在科學意義上哪一個對或哪一個就錯了。哲學觀念是不能用實驗或觀察來檢驗、證實或證偽的。

因此,我以為,工具論與實體論的爭論,在實踐中直接指向的是技術能不能控制的問題,而這個問題的答案不應該從技術中尋找,不在于技術而在于人類,在于人類的選擇:第一,我們有沒有決心和勇氣控制技術的發展,第二,更重要的是,為達成對技術的控制,我們愿意做出何種付出甚至犧牲。比如,手機很好玩,讓人上癮,以至于有人說:為什么要找女友找男友呢,難道是手機不好玩了嗎? 你想控制手機上癮,本質上是控制你從手機上獲得的感官刺激。

我的想法,可以稱之為“技術控制的選擇論”。

因此,AI要向善,從根本上說,是使用AI的人類的選擇問題,是人類能不能向善的問題,準確地說,是人類能不能為了向善而努力、付出和犧牲的問題。

善良從來都不是一件容易的、好玩的、賞心悅目的事情,所以老話說:人善被人欺,馬善被人騎。相反,沉淪卻是一件非常隨性、舒適甚至感覺到“躺贏”的舒服事。想一想“開掛”打游戲的時候,你是不是有一種極度舒適的感覺? 那時你想過沒有,你在做一件錯誤的事情?

現在的問題變成了:人類可不可能向善? 如果你相信人性的觀念,也就是說你相信所有的人從根本上都有著同樣的本質即人性的話,這個問題就會變成“人性可不可能向善”。大家知道,在思想史上,人性善惡的問題,哲學家們也是爭論不休,莫衷一是。有人說人性本善,有人說人性本惡,有人說人性一半善一半惡。到了后現代主義興起,一些人認為根本沒有一個什么人性,意思是人與人是不一樣的,沒有什么大家都一樣的所謂人性,不管它是善是惡。那么,有的人善,有的人惡,有的善多一點,有的惡多一點,有的壞人變好人,有的好人變壞人,不一而足,因此并沒有人人都適用的辦法來“治”人。

仔細考察,你會發現人性善惡問題與人類向善問題是有差別的。你可能是惡的,也可能是善的,但是現在的問題是:你可不可能向善,變得更善良呢? 顯然,如果你堅持人性不變,這個問題你就會給出否定的回答。因此,你想要人性向善,首要就要相信人性是可以改變的、可以被改造的,顯然這在某種意義上就是要相信:沒有什么萬世不易的人性,人性是歷史變化的。

我個人恰恰相信:第一,人性不定,是不斷在發生變化的;第二,人性是可以被改造的,但是這極其困難。因此,我認為,“ AI向善”是可能的,實現的終極方法只能是“人類向善”,當然在操作層面,“人類向善”可以是逐步的、一點一滴前進的。我并不相信某種一蹴而就的人性提升方案。

先說第一個問題:沒有什么不變的人性。我用一個我命名的“露西(Lucy)隱喻”來說明我的觀點。現在主流古人類學研究認為,人類起源于同一個非洲的古猿,還給她取了一個名字叫露西。

我的故事是:露西從樹上下來,知道什么是人,或者她要走向何方嗎? 當然她不知道。也許,她只是掃視了一下身邊的其他古猿,心里說了一句:我再不做猿猴了! 也許,她心里還說了:我要做人! 可是,她并不知道什么是人。她所決定的不過是:我不要做猴子了!

我講這個隱喻,是要說明人類的真實狀況是既不知所來、亦不知所往的。今天,我們離開猿猴已經很遠很遠,但仍然不知道自己將去向何方。實際上,人類從猿猴進化而來只是諸多人類誕生理論中的一種,不過是今天的主流觀念而已。生物學研究有一種說法,隔絕狀態下只需要四五百年就會演化出新物種。而根據當代科學觀念,人類已經有百萬年的歷史,智人也有數萬年的歷史,顯然人類在不斷進化,如果有一個什么人性,也應該是不斷變化的。

再說第二個問題:人性可以被改造,但是很困難。人性如果在變化,這種變化只能是自然選擇的嗎? 如果是這樣的話,所有有目的的人性提升都是徒勞的,我們只能聽天由命、“靠天吃飯”。然而,自然選擇是沒有善惡指向的,沒有證據表明最善者最適應環境,也沒有證據表明最善良的人群在遺傳上最有競爭力。于是,要想相信人類會向善,就必須相信人性是可以通過有目的的改造而提升的,我稱之為“人性改造論”。

在我看來,人性改造活動在過去的人類歷史上并不成功。大家知道,人性提升過去主要靠文化改造,尤其是宗教活動和教育活動。根據有文字的八千年文明史,我不否認人性有了一些變化,我們與山洞里砸碎其他人的頭蓋骨吸食腦髓的山頂洞人、與五胡亂華時以“兩腳羊”為軍糧的人有了一些區別,但是每當我看到、聽到各種當代發生的駭人罪行的時候,比如“暗網”上的人口販賣、器官販賣的故事,便對文化提升人性的功效感到沮喪。

過去一百年中,隨著現代科學技術的發展,一些人想到可不可以用科技方法對人性加以向善改造,比如大科幻作家威爾斯對使用生物學和心理學的方法提升人性就非常贊同。大家知道,最新的基因編輯技術的發展,催生了用它塑造完美人類的念頭。對屢教不改的強奸犯可以進行化學閹割,對那些不誠信的家伙是不是也有類似的科學方法從身體層面施加一勞永逸地改造呢?

對此,我認為不能過于自信。首先科技方法有無改造人性的效力,并無一致的結論。其次就算此種效力存在,國家或社會的制度性人性改造,結果是人人向善,還是另一種結局呢? 例如威爾斯的名著《時間機器》中展現的那樣,一批人被改造為奴隸、另一批人成為生物學意義上的主人,人族最終分化為兩個對立物種。我認為后一種可能性更大,因為以目前的人性狀態,人類掌握改造人性科技而使之向善發展,就如同抓住自己的頭發離開地面。 “幸福結局” ( happy ending)不是沒有可能,但想不付出努力和犧牲就皆大歡喜,是不可能的。

當然,我并不否認人性可能進化,只是已知數千年的人類文明史并沒有人類大幅度高尚化的明顯跡象或證據,因此對人性改造論的烏托邦必須予以足夠的警惕。從既有人類史看,人性進化可能會花費數十萬甚至百萬年的時間,而在這之前,人類很可能已經自我毀滅。但是,即便如此,人類是應該勇敢地選擇嘗試改善人性,還是選擇坐等悲劇發生呢? 這正是AI突飛猛進的時候人類必須要做出的選擇。

從某種意義上說,我是一個極其悲觀的樂觀主義者。