- 超限學習機:理論、技術與應用
- 鄧宸偉 周士超
- 1180字
- 2020-09-11 18:03:58
1.3.3 可信生物學習機制
ELM學習機制的關鍵在于,只要隱藏層神經元滿足非線性分段連續特性,即使神經元隨機生成且固定,系統整體仍具備通用且普適的學習能力。這種“隨機神經元”可能在生物系統中普遍存在,因為生物系統通常局部無序而全局有序。ELM學習機制與生物學習機制之間的潛在聯系既展現了ELM學習理論之美,也反映了人類探索生物智能化奧秘的美好意愿。
人類在過去幾百年對自然界和宇宙的認識飛速發展,但對生物學習特別是人腦的思維機制方面,至今還知之甚少。然而,即便生物學習系統(比如人腦)或許是宇宙中最復雜的事物之一,也仍然無法阻擋科研人員的好奇心與積極探索的腳步。起初羅森布拉特在提出他的感知機[24]結構時并沒有有效的學習算法,但是他夢想可以將這種感知機看作是“計算機的一種胚胎”,一種最終能夠幫助計算機實現“走路、說話、看東西、寫作、繁衍自己并有自我意識”的智能源泉。這些預測在60多年前是極其大膽又有遠見的,在當時,計算機猶如一個龐然大物,幾乎沒有人相信他的預測是正確且有望實現的。而60多年后的今天,他的感知機已成為當前神經網絡模型的基石。與羅森布拉特同時期的約翰·馮·諾依曼[25]在造出第一代計算機之后,作為計算機之父的他感到困惑不解的是計算機的硬件實現要極其精致美妙,不能有任何瑕疵,因為任何硬件實現上的瑕疵都可能導致計算機不能正常運作,而與計算機需要完美硬件連接組成不同的是,為什么“一個不完美的包含許多看似隨機連接的(生物)神經網絡卻能夠可靠地實現完美的學習功能”。羅森布拉特的感知機和約翰·馮·諾依曼關于生物學習的困惑看似關聯性不大,但從某種角度來看,機器和生物學習系統可以看成是一致的,只是構造的基本材料和硬件不同而已,一種由無機硅等組成,另一種由碳水化合物與蛋白質等組成。作者堅信兩者之間可以存在一個共同的學習結構和學習算法。
時至今日,ELM對約翰·馮·諾依曼的困惑給出了一種有趣的解釋,神經網絡的隱藏層節點即便隨機化處理也不失穩定性,這種“彈性化”和“局部無序”的連接方式并未使系統變得脆弱[25]。在ELM理論和技術提出之后的10年左右,越來越多有關生物腦學習系統的研究成果直接或間接地支持了ELM理論。比如,由美國斯坦福大學、哈佛醫學院、麻省理工學院和哥倫比亞大學等的研究人員發表在2013年及之后《自然》等期刊上的文章顯示,果蠅的嗅覺神經元活動具有極強的隨機性[26];2015年左右,美國哥倫比亞大學與IBM Watson的研究人員發現,生物學習系統中神經元的隨機性可以進一步幫助生物學習系統實現特征學習[27-29];同樣在2015年,美國喬治亞理工學院和華盛頓大學的一批研究人員通過對人的行為學進行分析驗證,認為人腦中隨機神經元機制可以幫助人具備小樣本學習能力[30];2017年發表在《科學》上的文章表明,ELM所倡導的隨機性理論在果蠅的嗅覺系統中得到了驗證,啟發了信息檢索模型的設計[31]。
未來,作者期待ELM的研究能夠為生物可信學習機制提供新的研究思路。
- 面向STEM的mBlock智能機器人創新課程
- 數據產品經理:解決方案與案例分析
- 步步圖解自動化綜合技能
- 學會VBA,菜鳥也高飛!
- 筆記本電腦維修90個精選實例
- 在實戰中成長:Windows Forms開發之路
- 空間機械臂建模、規劃與控制
- LMMS:A Complete Guide to Dance Music Production Beginner's Guide
- PowerMill 2020五軸數控加工編程應用實例
- 人工智能云平臺:原理、設計與應用
- Deep Learning Essentials
- 網管員世界2009超值精華本
- Practical Network Automation
- Cisco UCS Cookbook
- 電氣自動化工程師自學寶典(基礎篇)