18
SOFT AUTHORITARIANISM
思考不是你的工作

“思考？思考不是你的工作！在這里，我負責思考。”

——智能非思考系統對智能思考系統說

會思考的機器正向我們一步步靠近。盡管如此，我們現在還是先來討論智能工具吧。智能工具不會思考，搜索引擎不會思考，機器人汽車也不會，而我們自己也經常處于“大腦空白”的狀態。和其他動物一樣，我們人類通常開著“自動擋”生活。一般情況下，我們的老板不希望我們有野心，否則，我們就會給他帶來不可預知的“威脅”。如果在開自動擋的時候，由機器來代替我們思考，那我們就有麻煩了。

假定“思考”一詞指代任何一種人類大腦活動。專家稱思維機器為通用人工智能，他們認為這種機器將會給人類帶來滅頂之災。注意，滅頂之災不僅僅是一種存在性的風險。在智能專家尼克·波斯特洛姆看來，生存危機指的是能“滅絕地球上最初的智能生物或是永久并徹底地縮減它的潛能”。例如，已是老生常談的核戰爭威脅，新近出現的失控性全球變暖，比較冷門的有粒子對撞機事故，以及最近越來越熱的通用人工智能。盡管存在上述這些威脅，但在未來幾十年，最大的威脅則會來自無思想的智能，以及大多數決定都未經慎重思考的新型軟權威主義。

人類大腦所做的一些事情是非常了不起的，在這些事情上，軟件想要超越人類似乎是不可能的。寫小說、撩妹或是創立公司，這些都是工具無法做到的事情。當然，如果機器能勝任這些事情，就意味著它們能真正思考了。另一方面，大部分思考都能通過“切片法”來得到提升，而該方法又可以通過程序化步驟得到提升，這樣的方法是程序性算法所無法企及的。舉例來說，在醫療診斷和決策制定中，通常的醫療診斷可以通過引入檢查清單來提高可靠性，盡管相比于人工智能系統，人們在此事上的表現要遜色些。全自動護理的實現還是看不見曙光，但是一切診斷都由機器作出的醫院是病人的不二選擇，我們沒有理由反對。

我們留給機器做的決策越多，收回控制權的難度就越大。在一個遍布自動駕駛汽車的世界里，交通事故率幾乎為零，人類開車會被看成是不負責任的，甚至是不合法的。在下面兩種情形中，會不會讓人同樣感到不悅：投資者投資了收益偏離統計意義上的最佳生意；孩子們接受的教育實際上并不能給他們帶來長壽和高收入。如果是這樣，一些不易被機器所表現的價值，如美好的生活，是否會被相關而又明顯的指標（如血清素和多巴胺水平）替代？在這種價值詮釋下，我們很容易忽略隱蔽的獨裁主義對我們的侵蝕。任何一個追求美好的社會都該決定如何對美好進行衡量，同時這也是我們在使用思維機器代替我們進行思考之前，首先應該解決的問題。