第1章 緒論

1.1 引言

超限學(xué)習(xí)機(jī)（Extreme Learning Machine, ELM）[1]是近年來(lái)發(fā)展十分迅速的一種機(jī)器學(xué)習(xí)方法，已在自然圖像檢索與分類(lèi)、生物信息識(shí)別、語(yǔ)音識(shí)別、遙感影像解譯、工業(yè)故障識(shí)別和預(yù)測(cè)、醫(yī)療影像疾病診斷等工業(yè)領(lǐng)域獲得有效性驗(yàn)證與實(shí)際應(yīng)用[2]。

就具體技術(shù)層面而言，ELM可被視為一種新型人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network, ANN），旨在從結(jié)構(gòu)、功能等方面模擬智能的生物學(xué)習(xí)系統(tǒng)，形成計(jì)算模型，實(shí)現(xiàn)對(duì)樣本數(shù)據(jù)一般規(guī)律的快速學(xué)習(xí)，并將該規(guī)律應(yīng)用于未觀測(cè)數(shù)據(jù)的準(zhǔn)確分析與處理任務(wù)。

在ELM被正式提出之前，人工神經(jīng)網(wǎng)絡(luò)已經(jīng)經(jīng)歷了60多年的發(fā)展，有許多改進(jìn)模型問(wèn)世，例如，以徑向基函數(shù)（Radial Basis Function, RBF）網(wǎng)絡(luò)、核回歸（Kernel Regression, KR）模型、支持向量機(jī)（Support Vector Machine, SVM）等為典型代表的單隱藏層前饋神經(jīng)網(wǎng)絡(luò)（Single Hidden-Layer Feedforward Neural Network, SLFNN），以及以深度學(xué)習(xí)（Deep Learning, DL）為代表的多層神經(jīng)網(wǎng)絡(luò)等[3-4]。面對(duì)紛繁復(fù)雜的網(wǎng)絡(luò)模型，不免會(huì)引發(fā)一系列疑問(wèn)：如此繁多的網(wǎng)絡(luò)結(jié)構(gòu)但本質(zhì)上數(shù)學(xué)表達(dá)模型近乎相同，是否真的需要如此多且不同的模型學(xué)習(xí)算法？這些算法能否取得統(tǒng)一性解釋?zhuān)课磥?lái)模型的學(xué)習(xí)機(jī)制究竟何去何從？

實(shí)際上，ELM被提出的主要?jiǎng)訖C(jī)便是試圖回答上述問(wèn)題。目前，無(wú)論是人工神經(jīng)網(wǎng)絡(luò)，還是本書(shū)重點(diǎn)討論的ELM，均取得了長(zhǎng)足的技術(shù)進(jìn)步。本書(shū)接下來(lái)將介紹ELM基本理論、實(shí)現(xiàn)技術(shù)與應(yīng)用案例，同時(shí)也將概覽其他相關(guān)重要研究成果。