巨浪時(shí)代的關(guān)鍵詞

人工智能（AI）、通用人工智能（AGI）與人工能力智能（ACI）：人工智能是引導(dǎo)機(jī)器學(xué)習(xí)類人能力的科學(xué)。通用人工智能是人工智能發(fā)展的高級(jí)階段，那時(shí)人工智能系統(tǒng)將能夠使用所有的人類認(rèn)知技能，且其表現(xiàn)將超越最聰明的人。人工能力智能是人工智能通向通用人工智能的重要中間節(jié)點(diǎn)，這一節(jié)點(diǎn)正迅速向我們逼近；人工能力智能將廣泛應(yīng)對(duì)各種復(fù)雜的任務(wù)，但距離完全通用的智能水平仍有很長(zhǎng)的路要走。

即將到來的技術(shù)浪潮：

一系列以人工智能和合成生物學(xué)技術(shù)為核心的相關(guān)新興技術(shù)的集群，它們的變革性應(yīng)用將賦予人類巨大的能力，也將帶來前所未有的風(fēng)險(xiǎn)。

遏制：

對(duì)技術(shù)進(jìn)行監(jiān)測(cè)、限制、控制，甚至在必要時(shí)予以關(guān)閉的能力。

遏制問題：

技術(shù)傾向于如浪潮一般廣泛擴(kuò)散，可能會(huì)產(chǎn)生無法預(yù)測(cè)或難以控制的涌現(xiàn)效應(yīng)，包括負(fù)面的、無法預(yù)見的后果。

困境：

新技術(shù)的出現(xiàn)或缺失，都日益增加了引發(fā)災(zāi)難性或反烏托邦式后果的可能性。

4個(gè)特征：

即將到來的技術(shù)浪潮所具有的幾個(gè)關(guān)鍵特征加劇了遏制的難度。這些特征分別是非對(duì)稱性、超級(jí)進(jìn)化性、通用性以及自主性。

脆弱性放大器：

即將到來的技術(shù)浪潮所帶來的廣泛應(yīng)用和影響，將進(jìn)一步?jīng)_擊和動(dòng)搖民族國(guó)家本就脆弱的根基。

大契約：

作為賦予國(guó)家集中掌控武力使用權(quán)的交換條件，公民希望國(guó)家維護(hù)社會(huì)秩序，提供公共服務(wù)，并在采納和應(yīng)用新技術(shù)時(shí)將其負(fù)面影響降至最低。

狹窄小道：

人類在努力遏制浪潮的過程中，在開放與封閉之間找到一種微妙平衡的可能性。只有達(dá)到這種平衡，人類才能避免災(zāi)難性或反烏托邦式的結(jié)果。

悲觀規(guī)避：

人們，尤其是精英階層，傾向于忽視、淡化或排斥他們認(rèn)為過于負(fù)面的觀點(diǎn)。這是樂觀偏差的一種變體，它在很大程度上影響我們關(guān)于未來的討論，特別是在技術(shù)領(lǐng)域中。

合成生物學(xué)：

設(shè)計(jì)和改造新的生物體，或重新設(shè)計(jì)現(xiàn)有生物系統(tǒng)的能力。

技術(shù)：

為了制造工具或?qū)崿F(xiàn)實(shí)用目標(biāo)而對(duì)（最廣義的）科學(xué)知識(shí)進(jìn)行的應(yīng)用和實(shí)踐。

浪潮：

以一項(xiàng)新的通用技術(shù)為基礎(chǔ)的新一代技術(shù)在全球范圍內(nèi)的廣泛傳播或擴(kuò)散。