第3章　當(dāng)機(jī)器人太過(guò)完美時(shí)

那是2009年一個(gè)夏夜，法航447航班準(zhǔn)備從巴西飛往巴黎，機(jī)上載有228名乘客1。乘客們登機(jī)坐好后等待起飛。飛機(jī)起飛后，飛行員宣布他們已經(jīng)達(dá)到了平穩(wěn)的巡航高度，有些乘客拿出了書(shū)和筆記本電腦，或者把座位向后傾斜，打算睡一會(huì)兒。他們沒(méi)有意識(shí)到的是，飛行員也在放松。現(xiàn)在自動(dòng)駕駛儀已經(jīng)啟用了，飛行員不再需要手動(dòng)駕駛。機(jī)長(zhǎng)認(rèn)為這是他休息的最佳時(shí)間。他向兩名副機(jī)長(zhǎng)通報(bào)了情況，然后回到機(jī)艙里。

幾分鐘后，飛機(jī)的傳感器之一——空速管上形成了冰晶。空速管通過(guò)測(cè)量壓力的變化來(lái)確定空速，而結(jié)冰會(huì)阻塞氣流，使空速測(cè)量失效。由于這個(gè)傳感器的故障，自動(dòng)駕駛儀自動(dòng)退出，飛機(jī)進(jìn)入了一種新的飛行控制模式，稱(chēng)為2b替代法則。空客飛行計(jì)算機(jī)可以以三種不同的模式或法則操縱飛機(jī)。正常法則是當(dāng)所有的傳感器和系統(tǒng)都運(yùn)轉(zhuǎn)正常時(shí)，為了防止任何可能導(dǎo)致飛機(jī)變得不穩(wěn)定的大小變動(dòng)，控制系統(tǒng)保持飛機(jī)在其指定的飛行參數(shù)內(nèi)。當(dāng)數(shù)據(jù)由于傳感器故障或其他故障而丟失時(shí)，飛行計(jì)算機(jī)進(jìn)入替代或直接法則。當(dāng)一些保護(hù)措施仍在發(fā)揮作用時(shí)，就會(huì)使用替代法則。直接法則是指在沒(méi)有任何保護(hù)的情況下，飛行員的輸入直接轉(zhuǎn)化為飛行操縱面的運(yùn)動(dòng)。2b替代法則，也就是那天從巴西起飛的447航班所采用的法則，是所有替代法則中最差的一條，它只有在出現(xiàn)嚴(yán)重問(wèn)題且飛行員不得不在沒(méi)有自動(dòng)系統(tǒng)協(xié)助的情況下采取行動(dòng)時(shí)才會(huì)投入使用。在所有替代法則模式中，該模式對(duì)故障（包括失速）的保護(hù)措施最少。

但進(jìn)入那個(gè)模式并不是問(wèn)題所在，問(wèn)題是飛行員重新控制了飛機(jī)卻沒(méi)有意識(shí)到這一點(diǎn)。發(fā)生模式更改時(shí)，顯示器上水平儀旁邊的小綠線變?yōu)殓晟郑硎疽亚袚Q到替代法則，但飛行員沒(méi)有注意到這種細(xì)微的變化。當(dāng)飛機(jī)開(kāi)始出現(xiàn)明顯的故障時(shí)，他們才注意到有些事情發(fā)生了變化，而在最緊急的時(shí)刻，飛行員只顧著驚訝和困惑。他們對(duì)受損傳感器的問(wèn)題缺乏全面的了解，也無(wú)法對(duì)飛機(jī)行為的漏洞進(jìn)行彌補(bǔ)。他們?cè)噲D接管控制權(quán)，但并不知道自動(dòng)飛行控制系統(tǒng)是如何運(yùn)作的。

過(guò)了幾分鐘，一位副機(jī)長(zhǎng)把機(jī)長(zhǎng)叫回機(jī)艙里。飛機(jī)遇險(xiǎn)，引擎全速運(yùn)轉(zhuǎn)，但機(jī)身開(kāi)始向右偏轉(zhuǎn)并迅速下降。當(dāng)時(shí)控制飛機(jī)的副機(jī)長(zhǎng)向后拉操縱桿，試圖讓飛機(jī)爬升，但他沒(méi)有意識(shí)到自己使飛機(jī)爬升得太快：飛機(jī)爬得太陡了，機(jī)翼上方的空氣已經(jīng)無(wú)法正常流動(dòng)。當(dāng)飛機(jī)快速下降時(shí)，另一位副機(jī)長(zhǎng)說(shuō)：“爬升……爬……爬……爬升！”控制飛機(jī)的那個(gè)人回答說(shuō)：“但是我已經(jīng)把機(jī)頭上揚(yáng)到最高了！”就在這時(shí)，機(jī)長(zhǎng)意識(shí)到發(fā)生了什么事，喊道：“不，不，不，不要再爬了！”飛行員所要做的就是俯沖以恢復(fù)空速，這樣機(jī)翼就會(huì)再次發(fā)揮作用。但是已經(jīng)太遲了——飛機(jī)飛得太低，無(wú)法從失速中恢復(fù)。當(dāng)探測(cè)到地面時(shí)，警報(bào)開(kāi)始響起，飛行員說(shuō)：“我們要墜毀了！這不可能是真的。但是發(fā)生了什么？”他真的很困惑。飛機(jī)墜入大海，機(jī)上所有人都遇難了。

數(shù)十年航空航天應(yīng)用領(lǐng)域的人機(jī)協(xié)作研究表明，自動(dòng)化程度的提高會(huì)削弱操作員識(shí)別和糾正錯(cuò)誤的能力。事實(shí)上，自動(dòng)化程度的提高導(dǎo)致了許多飛機(jī)失事2。研究一致表明，當(dāng)系統(tǒng)發(fā)生故障時(shí)（不管自動(dòng)化系統(tǒng)有多先進(jìn)，它最終總會(huì)以某種方式發(fā)生故障），相關(guān)人員的處境比從未使用過(guò)自動(dòng)化的人更糟糕。當(dāng)人類(lèi)和自動(dòng)化系統(tǒng)必須合作時(shí)，問(wèn)題就會(huì)惡化，特別是當(dāng)新系統(tǒng)被引入時(shí)3。