第26章 結(jié)局注定是厄運(yùn)嗎?(1)
- 超級(jí)智能
- (英)尼克·波斯特洛姆
- 5004字
- 2016-03-11 15:55:09
我們已經(jīng)發(fā)現(xiàn),智能與最終價(jià)值觀之間的關(guān)聯(lián)非常弱。我們還發(fā)現(xiàn),工具性目標(biāo)存在可怕的趨同性。對(duì)于較弱的智能體來說,這些并沒有太大關(guān)系。
因?yàn)樗鼈內(nèi)菀卓刂疲規(guī)缀醪荒茉斐墒裁雌茐摹5窃诘诹轮校覀円呀?jīng)論述過,第一個(gè)出現(xiàn)的超級(jí)智能很有可能獲得決定性戰(zhàn)略優(yōu)勢(shì),它的目標(biāo)將決定人類的宇宙資源如何被使用。現(xiàn)在,我們可以開始了解這個(gè)前景會(huì)有多么可怕了。
存在性災(zāi)難是智能大爆發(fā)的默認(rèn)后果嗎?...
上QQ閱讀APP看后續(xù)精彩內(nèi)容
登錄訂閱本章 >