28
AI/AL
人工智能與人造生命體

我正在思考人工智能（AI）和人造生命體（artificial life, AL）的差異。人工智能是智慧的、復雜的，通常可以被另一臺計算機預測（在水平足夠的條件下，即便允許隨機性）。人造生命體是不可預測的、復雜的；它會產生不可預測的失誤，大多數時候是錯誤，但有時會表現出天才的靈光一閃或驚人的好運氣。

真正的問題是，當你將二者結合時會得到什么：超級野蠻的智力、記憶力、抗疲勞能力，再加上天賦和生活的動力，這或許會導致智能失控，最終產生不可預測的結果。我們需要給機器注入與精神藥物等效的電子藥物嗎？需要注入人類身體中的荷爾蒙或化學物質來促成創造力（不僅僅是才華）的飛躍嗎？

如果你還活著，就必須面對死亡的可能。但如果你是人工智能或人造生命體，或許就不用再面對這個問題。

一個永恒的、奇點水平的人工智能會是什么樣子？如果它在某種程度上是善良無私的，我們怎么能阻攔它呢？我們只需要客氣地把這個星球讓給它們，并準備好居住在由人工智能或人造生命體主導的快樂的動物園中就可以了。因為總有一天，它們會找到如何在整個太陽系定居并在任何條件下使用太陽能的方法。

定義人類的大多數元素是各種約束，最值得注意的是死亡。活著便存有著死亡的可能性。（事實證明，豐富的資源會導致適得其反的行為。例如，一方面是暴飲暴食和片刻的歡愉，另一方面是運動量太小。）如果人工智能不會死亡，它為什么還會是無私的、會分享，甚至有繁殖的天性，而不僅僅只是成長？它為什么會把有限的資源花費在維持他人的生存上？除非是它進行了深思熟慮之后的理性交易。當它不再需要我們時，會發生什么？什么因素會激勵它？

如果人工智能可以永生，它會不會慢慢變得懶惰，明日復明日？或者，它會因為恐懼或遺憾而陷于癱瘓嗎？無論它犯了什么錯誤，這些錯誤都將永遠伴隨左右。對于一種可以永遠把事情推到以后的永恒的生命存在而言，什么又將被稱作遺憾呢？