官术网_书友最值得收藏!

1.3.3 可信生物學習機制

ELM學習機制的關鍵在于,只要隱藏層神經元滿足非線性分段連續特性,即使神經元隨機生成且固定,系統整體仍具備通用且普適的學習能力。這種“隨機神經元”可能在生物系統中普遍存在,因為生物系統通常局部無序而全局有序。ELM學習機制與生物學習機制之間的潛在聯系既展現了ELM學習理論之美,也反映了人類探索生物智能化奧秘的美好意愿。

人類在過去幾百年對自然界和宇宙的認識飛速發展,但對生物學習特別是人腦的思維機制方面,至今還知之甚少。然而,即便生物學習系統(比如人腦)或許是宇宙中最復雜的事物之一,也仍然無法阻擋科研人員的好奇心與積極探索的腳步。起初羅森布拉特在提出他的感知機[24]結構時并沒有有效的學習算法,但是他夢想可以將這種感知機看作是“計算機的一種胚胎”,一種最終能夠幫助計算機實現“走路、說話、看東西、寫作、繁衍自己并有自我意識”的智能源泉。這些預測在60多年前是極其大膽又有遠見的,在當時,計算機猶如一個龐然大物,幾乎沒有人相信他的預測是正確且有望實現的。而60多年后的今天,他的感知機已成為當前神經網絡模型的基石。與羅森布拉特同時期的約翰·馮·諾依曼[25]在造出第一代計算機之后,作為計算機之父的他感到困惑不解的是計算機的硬件實現要極其精致美妙,不能有任何瑕疵,因為任何硬件實現上的瑕疵都可能導致計算機不能正常運作,而與計算機需要完美硬件連接組成不同的是,為什么“一個不完美的包含許多看似隨機連接的(生物)神經網絡卻能夠可靠地實現完美的學習功能”。羅森布拉特的感知機和約翰·馮·諾依曼關于生物學習的困惑看似關聯性不大,但從某種角度來看,機器和生物學習系統可以看成是一致的,只是構造的基本材料和硬件不同而已,一種由無機硅等組成,另一種由碳水化合物與蛋白質等組成。作者堅信兩者之間可以存在一個共同的學習結構和學習算法。

時至今日,ELM對約翰·馮·諾依曼的困惑給出了一種有趣的解釋,神經網絡的隱藏層節點即便隨機化處理也不失穩定性,這種“彈性化”和“局部無序”的連接方式并未使系統變得脆弱[25]。在ELM理論和技術提出之后的10年左右,越來越多有關生物腦學習系統的研究成果直接或間接地支持了ELM理論。比如,由美國斯坦福大學、哈佛醫學院、麻省理工學院和哥倫比亞大學等的研究人員發表在2013年及之后《自然》等期刊上的文章顯示,果蠅的嗅覺神經元活動具有極強的隨機性[26];2015年左右,美國哥倫比亞大學與IBM Watson的研究人員發現,生物學習系統中神經元的隨機性可以進一步幫助生物學習系統實現特征學習[27-29];同樣在2015年,美國喬治亞理工學院和華盛頓大學的一批研究人員通過對人的行為學進行分析驗證,認為人腦中隨機神經元機制可以幫助人具備小樣本學習能力[30];2017年發表在《科學》上的文章表明,ELM所倡導的隨機性理論在果蠅的嗅覺系統中得到了驗證,啟發了信息檢索模型的設計[31]

未來,作者期待ELM的研究能夠為生物可信學習機制提供新的研究思路。

主站蜘蛛池模板: 长兴县| 正镶白旗| 本溪市| 阜宁县| 巴南区| 五峰| 哈尔滨市| 义马市| 鄱阳县| 德兴市| 桂林市| 资源县| 玉环县| 崇明县| 宁德市| 平远县| 十堰市| 沾化县| 闽清县| 亳州市| 宝应县| 堆龙德庆县| 桦川县| 军事| 黔南| 定结县| 龙井市| 方山县| 鹤庆县| 五大连池市| 湟中县| 金溪县| 高尔夫| 西峡县| 文昌市| 白沙| 句容市| 龙山县| 宜川县| 积石山| 海淀区|