當(dāng)機(jī)器人超過人類

在一種情況下，我們這些渺小的人被完全推到一邊，成為進(jìn)化的遺跡。進(jìn)化的定律是：適者生存，不適者淘汰。也許人會(huì)被拖著腳走，最終被鎖在動(dòng)物園里讓我們創(chuàng)造的機(jī)器人盯著我們看。也許這就是我們的命運(yùn)：我們誕生出了這些超人機(jī)器人，而它們把我們看成是在它們的演化進(jìn)程中的令人尷尬的原始祖先。也許這就是我們?cè)跉v史上的作用，產(chǎn)生我們演化的后繼者。按這種觀點(diǎn)，我們應(yīng)該給它們讓路。

道格拉斯·霍夫斯塔特（Douglas Hofstadter）向我傾訴說，也許這就是事物的自然順序，我們對(duì)待這些超智能的機(jī)器人應(yīng)該就像對(duì)待我們自己的孩子一樣，因?yàn)閺哪撤N意義上它們就是我們的孩子。他對(duì)我說，如果我們能夠照料我們的孩子，我們?yōu)槭裁床荒芤舱樟现悄艿臋C(jī)器人呢？

漢斯·莫拉維克（Hans Moravec）預(yù)期被我們的機(jī)器人拋在腦后之后我們的感覺：“……如果我們注定要傻傻地盯住我們的超智能的后裔，聽它們像對(duì)孩子一樣描述它們的更加壯觀的發(fā)現(xiàn)，過這樣的生活也許會(huì)看上去毫無意義。”

當(dāng)我們最終來到機(jī)器人的智力超過我們這一具有決定性的時(shí)代，不僅我們不再是地球上智力最高的生物，而且我們的創(chuàng)造物也許能夠復(fù)制它們自己，并創(chuàng)造比它們還聰明的機(jī)器人。然后，這個(gè)自我復(fù)制機(jī)器人的大軍將創(chuàng)造無窮無盡的下一代機(jī)器人，每一代都比前一代聰明。在理論上，因?yàn)闄C(jī)器人能夠在很短的周期內(nèi)創(chuàng)造更聰明的下一代機(jī)器人，最終這個(gè)過程將呈指數(shù)膨脹，直到最后，在它們貪得無厭的變得更加聰明的要求下，吞噬了這個(gè)行星的資源。

在一種情況下，這個(gè)貪婪的要求日益增加智力的欲望將最終掠奪整個(gè)行星的資源，使整個(gè)地球成為一個(gè)計(jì)算機(jī)。有些人預(yù)想這些超智能的機(jī)器人，會(huì)將它們發(fā)射到空間繼續(xù)它們變得更聰明的要求，直至到達(dá)其他行星、恒星、星系，將它們轉(zhuǎn)變成計(jì)算機(jī)。但是，因?yàn)槠渌行恰⒑阈恰⑿窍惦x得極其遙遠(yuǎn)，也許計(jì)算機(jī)能夠改變物理定律，這樣它的貪婪的欲望可以跑得比光速還快，結(jié)果消耗整個(gè)的星系和銀河系。有些人甚至相信也許它會(huì)消耗整個(gè)宇宙，結(jié)果宇宙變成有智能的。

這就是“奇異性”（Singularity）。這個(gè)詞原來來自相對(duì)物理學(xué)世界，我個(gè)人的專業(yè)領(lǐng)域，在這個(gè)領(lǐng)域中奇異性代表重力為無限大的點(diǎn)，任何東西都不能從這里逃逸，如黑洞。因?yàn)楣獗旧矶疾荒芴右荩运且粋€(gè)視野，超過這個(gè)視野我們什么也看不見。

人工智能奇異性的想法是在1958年，在兩位數(shù)學(xué)家的對(duì)話中提到的。一位是斯坦尼斯拉夫·烏拉姆（Stanislaw Ulam），他在氫彈設(shè)計(jì)中取得關(guān)鍵突破。另一位是約翰·馮·諾伊曼（John von Neumann）。烏拉姆寫道：“有一次交談集中在技術(shù)的日益加速發(fā)展和人類生活模式的改變上，它讓我們看到在人類歷史上將面臨日益逼近的某些重大的奇異性。正如我們知道的，超過這個(gè)奇異點(diǎn)人類的生活就不能繼續(xù)。”這個(gè)思想受到歧視幾十年。但是它卻被科幻作家和數(shù)學(xué)家弗諾·文奇（Vernor Vinge）在他的小說和散文中夸大和普及了。

但是這并沒有回答關(guān)鍵的問題：這個(gè)奇異性何時(shí)發(fā)生？在我們的生命跨度期間？也許下一個(gè)世紀(jì)？或決不會(huì)發(fā)生？我們記得2009年阿西羅馬（Asilomar）會(huì)議的參加者將這個(gè)日期放在未來的20年至1000年之間的任何一個(gè)時(shí)間上。

有一個(gè)人成了這個(gè)奇異性的代言人，他是一個(gè)發(fā)明家和暢銷書的作者雷·庫(kù)茲威爾（Ray Kurzweil）。他嗜好根據(jù)技術(shù)的指數(shù)增長(zhǎng)進(jìn)行預(yù)測(cè)。庫(kù)茲威爾曾經(jīng)告訴我，當(dāng)他在夜晚凝視遙遠(yuǎn)的星星時(shí)，他想也許有人能夠看到在某個(gè)遙遠(yuǎn)的星系內(nèi)發(fā)生奇異性的某些宇宙的證據(jù)。由于能夠吞噬和重新安排整個(gè)星系，這個(gè)迅速擴(kuò)大的奇異性應(yīng)該留下一些痕跡。（他的誹謗者說他煽動(dòng)對(duì)于奇異性的近乎宗教般的狂熱。然而，他的支持者說他有離奇的能力正確地預(yù)測(cè)未來，他根據(jù)他的跟蹤記錄進(jìn)行判斷。）

庫(kù)茲威爾開創(chuàng)了計(jì)算機(jī)革命，他創(chuàng)辦了一個(gè)不同于別人的涉及模式識(shí)別的公司，如語(yǔ)言識(shí)別技術(shù)、眼力特征識(shí)別和電子鍵盤器具等。在1999年，他寫了一本銷售最好的書，《靈魂機(jī)器的時(shí)代，當(dāng)計(jì)算機(jī)超過人的智力》（The Age of Spiritual Machines：When Computers Exceed Human Intelligence），它預(yù)測(cè)什么時(shí)候機(jī)器人將在智力上超過我們。在2005年，他寫了《奇異性就在眼前》（The Singularity Is Near），并且詳細(xì)闡述這些預(yù)測(cè)。計(jì)算機(jī)超過人的智力的決定性一天將會(huì)來臨。

他預(yù)測(cè)，到2019年，1000美元的個(gè)人計(jì)算機(jī)將具有和人的大腦一樣強(qiáng)的能力。此后不久，計(jì)算機(jī)將把我們甩在后面。到2029年，1000美元的計(jì)算機(jī)將比人的大腦強(qiáng)1000倍。到2045年，1000美元的計(jì)算機(jī)將比每個(gè)人合起來的智力強(qiáng)10億倍。即便是一臺(tái)小型的計(jì)算機(jī)也將超過整個(gè)人類的能力。

在2045年后，計(jì)算機(jī)變得如此先進(jìn)，以致它們能夠復(fù)制自身、智力不斷地增加產(chǎn)生失控的奇異性。為了滿足它們永無止境的貪婪及不斷增加計(jì)算能力的欲望，它們將開始吞噬地球、小行星、行星、恒星，甚至影響宇宙本身的歷史。

我有機(jī)會(huì)在波士頓城外的庫(kù)茲威爾的辦公室訪問他。走過走廊，你看到他得到的獎(jiǎng)品和榮譽(yù)，還有他設(shè)計(jì)的音樂器具，頂尖的音樂家如史蒂夫·旺德（Stevie Wonder）都使用過他的這些音樂器具。他向我解釋在他的生命中有一個(gè)轉(zhuǎn)折點(diǎn)。在他39歲的時(shí)候他突然被診斷患有2型糖尿病。突然，他面臨嚴(yán)酷的現(xiàn)實(shí)，不能活著看到他的預(yù)測(cè)變?yōu)楝F(xiàn)實(shí)。他的身體在多年被忽視之后提前衰老了。他被這個(gè)診斷結(jié)果搞得心慌意亂，開始以他在計(jì)算機(jī)革命中的熱情和能量動(dòng)手處理個(gè)人健康問題。（今天，他一天吃100多片藥，寫關(guān)于長(zhǎng)壽革命的書。他期待微觀機(jī)器人將能夠清洗和修理人的身體，這樣就能永遠(yuǎn)活下去。他的哲學(xué)是他希望能活得長(zhǎng)一些，能夠看到醫(yī)學(xué)突破，使我們的生命能無限延長(zhǎng)。換句話說，他想活著并能夠永遠(yuǎn)活下去。）

近來，他著手一個(gè)雄心勃勃的計(jì)劃，開辦奇異性大學(xué)，基地在海灣（Bay）地區(qū)美國(guó)宇航局的埃姆斯（Ames）實(shí)驗(yàn)室，目的是訓(xùn)練科學(xué)家干部，為即將來臨的奇異性做好準(zhǔn)備。

這些各種各樣的題目有很多變化和組合。

庫(kù)茲威爾相信：“即將從地平線上出現(xiàn)的不是智能機(jī)器的入侵，而是我們要與這個(gè)技術(shù)融合……我們要把這些智能的設(shè)備放在我們的身體和大腦里，讓我們活得更長(zhǎng)更健康。”

任何像奇異性這樣有爭(zhēng)論的問題都一定會(huì)有人反對(duì)。蓮花（Lotus）發(fā)展公司奠基人米奇·卡普爾（Mitch Kapor）說：“奇異性是為智商為140的人設(shè)計(jì)的……有人認(rèn)為我們正走向一個(gè)奇異點(diǎn)，萬(wàn)物都會(huì)變得難以想象的不同，在我看來，這完全是一種宗教的沖動(dòng)。不管說得多么天花亂墜我也不會(huì)相信。”

道格拉斯·霍夫斯塔特（Douglas Hofstadter）說過：“就好像你取了很多好的食物和一些狗屎，把它們攪和在一起，你就分不出哪是好，哪是壞了。它是垃圾和好想法的親密混合，很難把兩者分開，因?yàn)樗麄兪锹斆鞯娜耍皇巧倒稀！?/p>

沒有人知道最后到底會(huì)是怎樣。但我認(rèn)為最可能的情況如下。