《計(jì)算機(jī)與人腦》的思想和方法

《計(jì)算機(jī)與人腦》是在馮·諾伊曼去世后于1958年出版的。這本來是他為耶魯大學(xué)西利曼講座(Silliman Lectures)準(zhǔn)備的講稿,講演原定在1956年春天舉行,但由于馮·諾伊曼在1955年10月被查出患有癌癥,未能去講演,講稿也沒有寫完。但單就現(xiàn)存的這兩部分,已經(jīng)可以看出馮·諾伊曼對(duì)這個(gè)問題的關(guān)注以及他的一些想法。

其實(shí),馮·諾伊曼考慮的問題可以追溯到很久以前,其中涉及許多至今未能很好解決的基本問題:

——大腦是如何工作的?

——機(jī)器能否有思維?

在計(jì)算機(jī)已經(jīng)空前普及的今天,把電子計(jì)算機(jī)(常常形象地譯成電腦)與人腦進(jìn)行比較更是十分自然的事:

——機(jī)器能思考嗎? 也就是它是否自動(dòng)產(chǎn)生思想?

——是否有朝一日,機(jī)器的智能會(huì)超過人類?

這里面當(dāng)然還牽涉到更深入的問題,例如,人類大腦能否進(jìn)化? 人腦與電腦能否耦合,使人腦更聰明,等等。

馮·諾伊曼在考慮這些問題時(shí),并沒有把自己局限于大腦乃至神經(jīng)系統(tǒng)之中,他考慮問題的范圍還包括“什么是生命”“生命的本質(zhì)是什么”“生命是如何運(yùn)作的”“能否用機(jī)器模擬生命”等問題。他的一些研究成果可散見于他的著作手稿和信件之中。

一、 主要思想

馮·諾伊曼的《計(jì)算機(jī)與人腦》篇幅不大,但思想豐富,對(duì)后來的理論與實(shí)踐產(chǎn)生了不可忽視的影響。

1. 給研究像生物體以及神經(jīng)網(wǎng)絡(luò)這種復(fù)雜的對(duì)象提供了一種全新的研究方法

馮·諾伊曼在引言中明確地提出“本書是從數(shù)學(xué)家的角度去理解神經(jīng)系統(tǒng)的一個(gè)探討”。我們必須看到,這種探討方法與傳統(tǒng)方法根本不同。在物理學(xué)中,我們十分熟悉的方法是對(duì)所研究的物理系統(tǒng),建立一個(gè)理想化的模型,這個(gè)模型在可處理的情況下,可以得出各種物理量之間的關(guān)系,這些關(guān)系通常用微分方程來表示。這樣最后所需要的結(jié)果都可以通過求解這些方程得到。要知道,這種方法獲得了空前的成功。牛頓力學(xué)、麥克斯韋電磁理論乃至愛因斯坦的相對(duì)論與量子物理學(xué)都是這樣。從理論的角度來看,問題到此已大功告成,剩下的是數(shù)學(xué)家的事了。然而,數(shù)學(xué)家也不能解決所有的方程,特別是非線性方程,例如馮·諾伊曼多次提到的流體力學(xué)方程。而務(wù)實(shí)的科學(xué)家還是需要得到具體的結(jié)果,他們對(duì)那些滿足于抽象化的專門數(shù)學(xué)家不以為然。1940年,著名空氣動(dòng)力學(xué)家馮·卡門(Theodore von Karman,1881—1963)寫了一篇長文《科學(xué)家同非線性問題奮力拼搏》。馮·諾伊曼是務(wù)實(shí)的數(shù)學(xué)家,他給出了解決問題的新方向——計(jì)算機(jī)。另一方面,一些像馮·諾伊曼那樣既能搞理論,又能搞應(yīng)用和計(jì)算的數(shù)學(xué)家(如拉克斯)也解決了一系列非線性問題,第一個(gè)得到解決的是淺水波方程(即KdV方程)。

對(duì)于復(fù)雜的現(xiàn)象,例如生物學(xué)中的問題,也有人用物理學(xué)的方式去研究,的確也產(chǎn)生了少量的微分方程。但是,這些模型不是過于簡(jiǎn)單,就是無法求解。而且這種嚴(yán)格的、精確的數(shù)學(xué)不大適合研究不那么精確的生命現(xiàn)象。這樣,馮·諾伊曼采用模擬的方法并用已經(jīng)大量存在的計(jì)算機(jī)及數(shù)學(xué)模型來應(yīng)對(duì)這種復(fù)雜的生命現(xiàn)象,看看是否合適。如果合適,由于對(duì)計(jì)算機(jī)以及數(shù)學(xué)模型的了解,自然就對(duì)要研究的生命現(xiàn)象有所認(rèn)知了。

從復(fù)雜的神經(jīng)系統(tǒng)看來,我們?cè)斐龅臄?shù)字計(jì)算機(jī)和模擬計(jì)算機(jī)顯得十分簡(jiǎn)單。這樣我們只需比較簡(jiǎn)單的電腦以及復(fù)雜的人腦就可以對(duì)人腦有初步的了解了。

這樣,馮·諾伊曼從最簡(jiǎn)單的電腦開始研究。當(dāng)然,現(xiàn)在電腦的復(fù)雜性大大增加,不過基本的思想還離不開馮·諾伊曼提出的一些理念。

2. 模擬方法與數(shù)字方法

馮·諾伊曼在書中多次提到模擬與數(shù)字這兩種不同的方式。他指出,“現(xiàn)有的計(jì)算機(jī),可以分成兩大類:‘模擬’計(jì)算機(jī)和‘?dāng)?shù)字’計(jì)算機(jī)。這種分類是根據(jù)計(jì)算機(jī)進(jìn)行運(yùn)算中表示數(shù)目的方法而決定的”。除了數(shù)目顯示之外,還有指令、存儲(chǔ)以及各種控制方式。

馮·諾伊曼之所以強(qiáng)調(diào)數(shù)字和模擬的區(qū)別,主要在于他提出了混合計(jì)算機(jī)模型 ,即混合數(shù)字和模擬兩種原則的計(jì)算機(jī),而這正好是神經(jīng)網(wǎng)絡(luò)的特點(diǎn)。正是因?yàn)樯窠?jīng)網(wǎng)絡(luò)具有混合計(jì)算機(jī)的特征,單獨(dú)用數(shù)字計(jì)算機(jī)的模型,如麥卡洛克-皮茨模型就顯示出其不足之處。換句話說,神經(jīng)系統(tǒng)沒那么精確,而混合計(jì)算機(jī)也沒那么精確。因此,馮·諾伊曼自然談到誤差問題,也就是精確度問題。他對(duì)當(dāng)時(shí)模擬計(jì)算機(jī)和數(shù)字計(jì)算機(jī)的描述已是數(shù)十年前的事了,不過,他用的詞匯并不過時(shí)。現(xiàn)在的人對(duì)此應(yīng)該是耳熟能詳?shù)摹?/p>

3. 大腦的混合結(jié)構(gòu)

《計(jì)算機(jī)與人腦》第二部分是人腦。人腦是經(jīng)過上億年進(jìn)化所形成的最復(fù)雜的自然結(jié)構(gòu)。20世紀(jì)50年代,對(duì)于人腦的結(jié)構(gòu)與功能的了解已有長足的進(jìn)步,但其中許多奧秘遠(yuǎn)未為人所知。有著關(guān)于計(jì)算機(jī)的知識(shí),馮·諾伊曼對(duì)電腦與人腦以及與人腦的相同與不同之處進(jìn)行了深入比較。他已經(jīng)明確注意到計(jì)算機(jī)與神經(jīng)網(wǎng)絡(luò)的相似之處在于,它們具有混合計(jì)算機(jī)即兼有數(shù)字計(jì)算機(jī)和模擬計(jì)算機(jī)的特點(diǎn)。顯然,這是一種極大的簡(jiǎn)化,可是即便是這種簡(jiǎn)化也對(duì)神經(jīng)系統(tǒng)的復(fù)雜性有不少啟發(fā)性的認(rèn)識(shí)。馮·諾伊曼很明確它們之間的差別,他也經(jīng)常強(qiáng)調(diào)其中的重要差別。

首先,他從表面的一些數(shù)據(jù)進(jìn)行比較,神經(jīng)元的數(shù)據(jù)差別不大,但計(jì)算機(jī)人造元件現(xiàn)在比50年前差別巨大。不過,他得出的結(jié)論仍有參考價(jià)值。

按照大小,天然元件比人造元件遠(yuǎn)為優(yōu)越,當(dāng)時(shí)的比例系數(shù)是108~109,體積比較與能量消耗比較,這個(gè)系數(shù)大體也是如此。

按照運(yùn)行速度,人造元件比天然元件要快,當(dāng)時(shí)的系數(shù)是快104~105倍。

兩相比較,神經(jīng)系統(tǒng)比計(jì)算機(jī)的優(yōu)越之處在于天然元件數(shù)量大卻運(yùn)行緩慢,而人工元件雖然運(yùn)行快,但數(shù)量較少。這只是表面上的原因。馮·諾伊曼指出,天然系統(tǒng)的優(yōu)越性主要是源于天然系統(tǒng)組織的高度的并行性。而當(dāng)時(shí)的有效計(jì)算機(jī),基本上都是串行的。

在這里,他提出了“邏輯深度”的概念,也就是為了完成問題的求解過程所需進(jìn)行的初等運(yùn)算的數(shù)目。天然的人腦并行處理所需邏輯深度要比他當(dāng)時(shí)估計(jì)的計(jì)算機(jī)的邏輯深度(約107或更大)小得多。

現(xiàn)在的計(jì)算機(jī)結(jié)構(gòu)體系都是馮·諾伊曼制定的。其中一個(gè)最主要部分是存儲(chǔ)器,這相當(dāng)于神經(jīng)系統(tǒng)的記憶。他明確地指出: “我們?cè)谌嗽煊?jì)算自動(dòng)機(jī)方面的所有經(jīng)驗(yàn),都提出了和證實(shí)了這個(gè)推測(cè)。”這也表明馮·諾伊曼方法的優(yōu)越性。根據(jù)這個(gè)假定,他估計(jì)出了神經(jīng)系統(tǒng)的記憶容量。他估計(jì)的結(jié)果為: 人的一生所需的記憶容量為2.8×1020 位,遠(yuǎn)遠(yuǎn)超過當(dāng)時(shí)計(jì)算機(jī)的容量105位到106 位。長期以來,他對(duì)基因的信息理論很感興趣,但我們還沒有充分資料來證明他的見解。本書中講道: “基因本身,很顯然地是數(shù)字系統(tǒng)元件的一部分。但是,基因可發(fā)生的各個(gè)效應(yīng)……卻是屬于模擬領(lǐng)域的。這就是模擬和數(shù)字過程相互變化的一個(gè)特別顯著的例子。”單就基因研究來看,這句話真是驚人的準(zhǔn)確,然而,就基因與神經(jīng)系統(tǒng)關(guān)系來講,這些想法當(dāng)然太過簡(jiǎn)單了。

4. 大腦的信息加工

《計(jì)算機(jī)與人腦》最后四章十分簡(jiǎn)短,但包含了豐富的思想。大腦的基本功能就是信息處理或信息加工,計(jì)算機(jī)當(dāng)然也是。從信息論的角度來看,處理信息的基本問題就是編碼,計(jì)算機(jī)的編碼問題不在話下,神經(jīng)系統(tǒng)當(dāng)然遠(yuǎn)為復(fù)雜,更不用說如何理解語言及用語言進(jìn)行思考了。馮·諾伊曼關(guān)注的基因密碼問題可以說原則上已得到解決,而大腦的編碼問題當(dāng)然遠(yuǎn)為復(fù)雜。馮·諾伊曼為解決這個(gè)問題,提出了把代碼區(qū)分為完全碼和短碼。完全碼像計(jì)算機(jī)的代碼那樣,由一套指令構(gòu)成,控制計(jì)算機(jī)去按規(guī)則解決問題。除此之外,他提出短碼的概念,其目的是使一臺(tái)機(jī)器可以模仿任何其他一臺(tái)機(jī)器的行為。實(shí)際上可以把短碼看成一種翻譯碼,它把其他機(jī)器的語言翻譯為自己的語言,這樣就可以在自己機(jī)器上實(shí)現(xiàn)其他機(jī)器的指令,完成必要的工作。

馮·諾伊曼提出的另外一個(gè)概念是算術(shù)深度。算術(shù)運(yùn)算一般是串行運(yùn)算,算術(shù)深度即這種基本運(yùn)算的長度。數(shù)字計(jì)算機(jī)計(jì)算一般是準(zhǔn)確的,然而,神經(jīng)系統(tǒng)的模擬性質(zhì)造成了誤差,而且隨著計(jì)算步驟進(jìn)行,誤差會(huì)積累和放大。馮·諾伊曼認(rèn)為神經(jīng)系統(tǒng)中所使用的記數(shù)系統(tǒng)并不是數(shù)字的,而是統(tǒng)計(jì)的。它使用另一種記數(shù)系統(tǒng),消息的意義由消息的統(tǒng)計(jì)性質(zhì)來傳達(dá)。這樣,雖然算術(shù)的準(zhǔn)確性較低,卻可以通過統(tǒng)計(jì)方法提高邏輯的可靠程度。他還進(jìn)一步設(shè)想,是否還有其他的統(tǒng)計(jì)性質(zhì)也可以作為傳送信息的工具?

這樣,他最后得出結(jié)論: 人腦的語言不是數(shù)學(xué)的語言。“神經(jīng)系統(tǒng)基于兩種類型通信方式: 一種不包含算術(shù)形式體系,一種是算術(shù)形式體系。也就是說,一種是指令的通信(邏輯的通信),一種是數(shù)字的通信(算術(shù)的通信)。前者可以用語言敘述,而后者則是數(shù)學(xué)的敘述。”

這樣,他得出更為深遠(yuǎn)的哲學(xué)結(jié)論:

① “語言在很大程度上只是歷史的事件。”

② “邏輯與數(shù)學(xué)也同樣是歷史的、偶然的表達(dá)形式。”注意,他先說這是合理假定,現(xiàn)在又強(qiáng)調(diào)是表達(dá)形式。

③ “中央神經(jīng)系統(tǒng)中的邏輯和數(shù)學(xué),當(dāng)我們把它作為語言來看時(shí),它一定在結(jié)構(gòu)上和我們?nèi)粘＝?jīng)驗(yàn)中的語言有著本質(zhì)的不同。”

④ “這里所說的神經(jīng)系統(tǒng)的語言,可能相當(dāng)于我們前面講過的短碼,而不是相當(dāng)于完全碼。”

二、 思想來源

馮·諾伊曼對(duì)電腦與人腦的比較的思想背景,概括起來,可以歸結(jié)為下面三個(gè)來源。

1.數(shù)學(xué)來源

馮·諾伊曼歸根結(jié)底是大數(shù)學(xué)家,他不到20歲已經(jīng)受到希爾伯特的公理化思想以及元數(shù)學(xué)或數(shù)理邏輯的思想影響。他十分明確地意識(shí)到數(shù)學(xué)中離散與連續(xù)的對(duì)立。他對(duì)新興數(shù)學(xué)中結(jié)構(gòu)觀念的理解,特別是他對(duì)量子力學(xué)公理化及數(shù)學(xué)化的成功經(jīng)驗(yàn),都推動(dòng)他對(duì)于更復(fù)雜的問題——特別是涉及生物學(xué)問題——使用數(shù)學(xué)方法。然而,數(shù)學(xué)對(duì)于大多數(shù)人來說,甚至對(duì)不同研究方向的數(shù)學(xué)家來說,都是令人不快又不解的理論,即使到現(xiàn)在,這種狀況也沒有得到多少改變。馮·諾伊曼在有些場(chǎng)合回答別人所提問的問題,其中許多是涉及提問者不能理解數(shù)學(xué)的本質(zhì)及數(shù)學(xué)的思維方式的問題。盡管如此,由另一位大數(shù)學(xué)家維納和馮·諾伊曼開創(chuàng)的廣義的控制論運(yùn)動(dòng),即包括馮·諾伊曼的電子計(jì)算機(jī)的大量工作,還是實(shí)實(shí)在在地改變了整個(gè)社會(huì),盡管還沒那么深刻地改變?nèi)藗兊乃季S方式。

2. 1943年開展的控制論運(yùn)動(dòng)

控制論的建立以維納在1948年出版的《控制論》為標(biāo)志,但是帶有宣言性質(zhì)的兩篇論文都是在1943年發(fā)表的。一篇是麥卡洛克(Warren McCullock,1898—1969)和皮茨(Pitts Walter,1923—1969)發(fā)表的《神經(jīng)系統(tǒng)中普遍存在的原理的邏輯演算》,另一篇是維納與畢格羅(Julian Bige-low,1913—2003)和羅森布呂特(Arturo Rosenblueth, 1900—1970)合著的《行為、目的和目的論》。

前一篇論文可以看成馮·諾伊曼工作的前奏之一。這篇論文實(shí)際上給出神經(jīng)系統(tǒng),即由神經(jīng)元組成的一個(gè)簡(jiǎn)化的網(wǎng)絡(luò)模型。后來,馮·諾伊曼稱之為形式神經(jīng)網(wǎng)絡(luò)。在對(duì)神經(jīng)網(wǎng)絡(luò)做出一些假設(shè),例如神經(jīng)元活動(dòng)滿足“全或無”原則,神經(jīng)系統(tǒng)的功能就可以用命題邏輯來研究。他們證明,任何神經(jīng)網(wǎng)絡(luò)的行為都能用邏輯來描述。復(fù)雜的神經(jīng)網(wǎng)絡(luò)可用復(fù)雜的邏輯來描述。反過來,對(duì)應(yīng)于滿足某些條件的邏輯表達(dá)式,也可以找到對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)來實(shí)現(xiàn)相應(yīng)的行為。這樣,他們就把神經(jīng)功能十分嚴(yán)格地、從邏輯上不含混地加以定義,這是一個(gè)偉大的進(jìn)步,但終究無法解釋復(fù)雜的神經(jīng)網(wǎng)絡(luò)的活動(dòng)。正是這些不足之處引導(dǎo)馮·諾伊曼從反方向來研究。

3. 馮·諾伊曼對(duì)電子計(jì)算機(jī)的開發(fā)與應(yīng)用

雖然有人不能完全同意馮·諾伊曼是“電子計(jì)算機(jī)之父”,但他確實(shí)是對(duì)電子計(jì)算機(jī)的開發(fā)及應(yīng)用做出最重要貢獻(xiàn)的人物。眾所周知,人類很早就有制造計(jì)算機(jī)的需要以及各種設(shè)想,而且在專用機(jī)及模擬機(jī)方面也取得了一些進(jìn)展。馮·諾伊曼比同時(shí)代幾乎所有人都眼界更寬、看得更遠(yuǎn)。雖說英國科學(xué)家圖靈(Alan Turing, 1912—1954)建立了通用計(jì)算機(jī)的數(shù)學(xué)模型,但在1936年,這是數(shù)理邏輯的理論上的成就,而不是能夠?qū)嶋H應(yīng)用的技術(shù)成就。現(xiàn)在大家都能看到的,則是由馮·諾伊曼首次設(shè)計(jì)程序內(nèi)存的通用數(shù)字計(jì)算機(jī)。

馮·諾伊曼看得更遠(yuǎn),他從一開始就十分關(guān)注計(jì)算機(jī)本身的發(fā)展及各方面的應(yīng)用。即便從計(jì)算機(jī)的原始需求——用于武器設(shè)計(jì)來看,提高速度也極為重要。由于當(dāng)時(shí)技術(shù)條件限制(后來不斷明顯改進(jìn)),他必須考慮通過其他途徑加速提高計(jì)算的功效,一方面是設(shè)計(jì)優(yōu)良的、面向計(jì)算機(jī)的算法,例如烏拉姆(S.M.Ulam,1909—1984)與他一起發(fā)展起來的蒙特卡羅法;另一方面進(jìn)行數(shù)值分析,克服誤差傳播與放大。

三、 自動(dòng)機(jī)理論

本書以極少的篇幅比較電腦與人腦,但這只是他的龐大綱領(lǐng)的一部分。雖然他因病沒有完成整個(gè)課題,不過,他以前的研究加上本書已經(jīng)形成計(jì)算機(jī)科學(xué)的一個(gè)核心領(lǐng)域——自動(dòng)機(jī)理論。不僅如此,他關(guān)注的問題還涉及生命科學(xué)的基本問題以及后來所說的人工智能及人工生命的問題,這些也都是現(xiàn)在十分熱門的課題。

馮·諾伊曼是自動(dòng)機(jī)理論的創(chuàng)立者。從計(jì)算機(jī)與神經(jīng)系統(tǒng)通過數(shù)學(xué)抽象就產(chǎn)生出有限計(jì)算機(jī)的數(shù)學(xué)模型。而數(shù)學(xué)模型給了科學(xué)家極大的自由度去修改、擴(kuò)充已知的自動(dòng)機(jī),例如計(jì)算機(jī)。馮·諾伊曼作為大數(shù)學(xué)家深知這種方法的威力,他早在1948年9月在希克松(Hixon)會(huì)議上,作了題為“自動(dòng)機(jī)的一般邏輯理論”的報(bào)告。他的關(guān)注點(diǎn)是一般生物體,并試圖給出一般邏輯理論。其中特別指出,自動(dòng)機(jī)的邏輯與一般形式邏輯不同之處主要有二:

第一,推理鏈即運(yùn)算鏈的實(shí)際長度。

第二,邏輯運(yùn)算在整個(gè)過程中容許存在一些例外,這些失誤的概率可以很小但不是零。

由此也產(chǎn)生誤差問題及數(shù)字化問題,另外他還涉及更重要的問題,復(fù)雜性概念與圖靈機(jī)理論。后者是無限自動(dòng)機(jī)理論的模型。

馮·諾伊曼明確指出,自動(dòng)機(jī)理論是處在邏輯、通信理論及生理學(xué)中間地帶的一門學(xué)科。“更確切地講,它兼具邏輯數(shù)學(xué)、計(jì)算機(jī)科學(xué)、生命科學(xué)的特征,涉及廣闊的領(lǐng)域,而且有著極其重要的應(yīng)用。馮·諾伊曼不僅給這門學(xué)科奠定了理論基礎(chǔ),而且還開拓了一些新的分支。其中最主要的是概率自動(dòng)機(jī)理論與細(xì)胞自動(dòng)機(jī)理論。

概率自動(dòng)機(jī)是內(nèi)部或環(huán)境都存在隨機(jī)因素的自動(dòng)機(jī)。它與通常的計(jì)算機(jī)有著明顯差別: 通常計(jì)算機(jī)的元件十分可靠,程序的指令十分可靠,元件的連接方式確定,只有這樣,我們才能得出準(zhǔn)確的結(jié)果。因?yàn)槠渲械哪骋粋€(gè)小的差錯(cuò),就會(huì)造成完全錯(cuò)誤的結(jié)果。然而自然的機(jī)器與某些人工設(shè)備難以滿足這種要求。當(dāng)時(shí)知道的最典型的機(jī)器一是大腦,二是通信的信道。大腦的神經(jīng)元并不可靠,因?yàn)樗鼈兘?jīng)常處于損傷、疾病之中甚至遇到事故,然而從整體上講,大腦的某些功能并沒有受到影響。通信的信道也是如此,盡管有誤差,但我們?nèi)阅軌颢@得可靠的消息。這些都推動(dòng)馮·諾伊曼得出概率自動(dòng)機(jī)的初始概念。他考慮的問題是如何應(yīng)用不可靠元件構(gòu)成可靠的計(jì)算機(jī)。其目標(biāo)是讓誤差的概率盡可能的小。

馮·諾伊曼通過兩種方法解決這個(gè)問題。一種是比較法,即從三個(gè)不可靠子網(wǎng)絡(luò)出發(fā),加上一些比較裝置,不斷構(gòu)成一個(gè)更大、更可靠的子網(wǎng)絡(luò)來實(shí)現(xiàn)同樣的功能。對(duì)某個(gè)具有可靠元件的自動(dòng)機(jī)的網(wǎng)絡(luò),系統(tǒng)地施行下去,即可以實(shí)現(xiàn)用不可靠元件的可靠機(jī)器。第二個(gè)方法是多重輸出法,即把二元輸出的一線變成一叢線,可以構(gòu)造一個(gè)輸入線叢對(duì)應(yīng)輸出線叢的子網(wǎng)絡(luò),通過冗余,它可以大大降低誤差的概率。馮·諾伊曼認(rèn)為這可能也是人腦可靠性的基礎(chǔ)。

馮·諾伊曼更重要的貢獻(xiàn)在于創(chuàng)立細(xì)胞自動(dòng)機(jī)理論。這個(gè)理論完全是從生物學(xué)出發(fā)的,它具有一般機(jī)器完全不同的特點(diǎn),即自繁殖性。馮·諾伊曼的細(xì)胞自動(dòng)機(jī)與原來自動(dòng)機(jī)不同之處主要是: 細(xì)胞自動(dòng)機(jī)的“元件”是小的自動(dòng)機(jī),運(yùn)算是并行運(yùn)算,他提出細(xì)胞自動(dòng)機(jī)論最基本的概念稱為細(xì)胞空間——它已引出許多研究方向。馮·諾伊曼最原始的細(xì)胞空間就像棋盤,每個(gè)格子點(diǎn)處有個(gè)細(xì)胞。它的細(xì)胞都是相同的,具有29個(gè)狀態(tài)的確定的有限自動(dòng)機(jī)。細(xì)胞自動(dòng)機(jī)整體構(gòu)形由每個(gè)小自動(dòng)機(jī)的前一時(shí)刻狀態(tài)決定。初始構(gòu)形以自動(dòng)的方式?jīng)Q定下一時(shí)刻的構(gòu)形,而自動(dòng)機(jī)論則探討所有可能構(gòu)形的結(jié)構(gòu)、功能及其關(guān)系。所有后來的細(xì)胞自動(dòng)機(jī)都是在這個(gè)基礎(chǔ)上發(fā)展起來的。例如1968年擴(kuò)展出的L系統(tǒng)就可以描述多細(xì)胞的發(fā)育過程。即便是最簡(jiǎn)單的馮·諾伊曼細(xì)胞空間,也在設(shè)計(jì)并行計(jì)算機(jī)以及大規(guī)模集成電路方面有重要應(yīng)用。這些都足以顯示馮·諾伊曼思想的深刻性與前瞻性。