人工智能的難點是“黑盒子”問題

大數據的沖擊力量現在看來還在加劇，其中有一個力量非常值得關注，那就是人工智能。

當人工智能遇到大數據的時候，現在井噴式的發展才變成了可能。其實人工智能是現在這個時代很多技術中的一類，它本身已經發展好幾十年了，但是為什么在近些年才得到了快速發展？人工智能技術和這幾個關鍵詞有關，那就是“學習、訓練、推理、演化、智能、智慧”，也就是說，它是關于這些關鍵詞內容的一類技術。特別重要的一點，它要根據大量的數據來進行學習和預測，就是從數據中學習，建立模型，并用于預測未來。過去為什么不行呢？比如本來想學一個圓，但是過去的數據只有一個半圓，你說它怎么能很好地學出這個圓呢？所以，進入大數據時代，當我們的數據有足夠的粒度和像素的時候它才成為可能，因為人工智能的主流技術首先是要基于大規模數據進行學習。其次，人工智能算法本身需要非常強的計算能力，也就是算力，只有在大數據時代，有了云計算平臺、數據傳輸、數據的流通、數據的管理、諸如5G技術等，才能為進一步的大數據應用創造條件，為人工智能的發展提供非常好的環境和支撐。現在可以看到我們身邊其實已經有很多人工智能產品了，比如工業機器人、財務機器人、作業機器人、下棋機器人、能作詩作畫作曲的機器人等，這些機器人可以做很多我們過去認為不可能的事情。

人工智能在未來會波濤洶涌，一浪高過一浪地發展。但是它本身也有局限，目前的一些大數據技術特別是深度神經網絡這樣的技術，基本上屬于“黑盒子”的技術，可以算得非常準，但是“為什么”還說不大清楚。在這種情況下，在一些重要的應用領域就受到局限，因為如果不知道“為什么”就不敢用這個方法做重要決策，如果不能通過非常清楚的機理來說明，實際它未來的應用也是有局限的。現在，業界和學界都在攻關“可解釋人工智能”，實際就是人工智能在輸入和輸出之間，在數據和預測的結果之間，從數學上來講需要一點定理，一些形式化的機理，從認識論上來講需要一些因果關系。

現在這么熱鬧的人工智能，很多都是過去成果的工程化和產品化。它本身的理論突破，包括提到的可解釋性，也是大家在未來關注的重點。

不管怎么說，人工智能的應用已經深刻地影響到我們了。作為人類，我們自己創造了一個“亞種”叫作機器人。機器人的行為是不是都在我們人的設想之中呢？會不會干一些我們想不到的事情呢？似乎這個擔憂是必要的。所以機器行為學應運而生。當人知道和我們打交道的是機器人時，人到底會有什么不同？機器如果只是模擬人的行為，那么我們用不用擔心它會做一些其他的事情？當人和機器人一起互動時，會不會有其他的一些問題出現？這些問題實際是很革命性的。傳統社會學、管理學、經濟學、心理學等都是研究人、由人構成的組織的行為、由人形成的網絡的行為。隨著各式各樣的機器人越來越多地出現在我們身邊，越來越多地替代人的工作，越來越多地挑戰人們在智力、計算上的能力，這個擔憂或者這樣的研究是非常必要的。所以，我們要研究機器如何塑造人類的行為，人類如何塑造機器的行為，以及人機協作的行為。最新的《自然》雜志上有一篇文章也是呼喚學界、業界關注機器的行為以及機器和人的行為⁽¹²⁾。