1.5 人工智能與安全
跟其他高科技一樣，人工智能也是一把雙刃劍。認識人工智能的社會影響，正在日益得到人們的重視（見圖1-19）。2018年2月，牛津大學、劍橋大學和OpenAI公司等14家機構共同發布題為《人工智能的惡意使用：預測、預防和緩解》的報告，指出人工智能可能給人類社會帶來數字安全、物理安全和政治安全等潛在威脅，并給出了一些建議來減少風險。
圖1-19 人工智能的安全
1.5.1 安全問題不容忽視
人工智能的飛速發展一定程度上改變了人們的生活，但與此同時，由于人工智能尚處于初期發展階段，該領域的安全、倫理、隱私的政策、法律和標準問題引起人們的日益關注，直接影響人們與人工智能工具交互對其的信任。
有些研究者認為，讓計算機擁有智商是很危險的，它可能會反抗人類。這種隱患已經在多部電影中出現過，其關鍵是允不允許機器擁有自主意識的產生與延續，如果使機器擁有自主意識，則意味著機器具有與人同等或類似的創造性、自我保護意識、情感和自發行為。
人工智能最大的特征是能夠實現無人類干預的，基于知識并能夠自我修正地自動化運行（見圖1-20）。在開啟人工智能系統后，人工智能系統的決策不再需要操控者進一步的指令，這種決策可能會產生人類預料不到的結果。設計者和生產者在開發人工智能產品的過程中可能并不能準確預知某一產品會存在的可能風險。因此，人工智能的安全問題不容忽視。
圖1-20 人工智能最大特征是實現無人類干預
由于人工智能的程序運行并非公開可追蹤，其擴散途徑和速度也難以精確控制。在無法利用已有傳統管制技術的條件下，想要保障人工智能的安全，必須另辟蹊徑，保證人工智能技術本身及在各個領域的應用都遵循人類社會所認同的倫理原則。
1.5.2 設定倫理要求
人工智能是人類智能的延伸，也是人類價值系統的延伸。在其發展的過程中，應當包含對人類倫理價值的正確考量。設定人工智能技術的倫理要求（見圖1-21），要依托于社會和公眾對人工智能倫理的深入思考和廣泛共識，并遵循一些共識原則。
圖1-21 重視人工智能的社會倫理
一是人類利益原則，即人工智能應以實現人類利益為終極目標。這一原則體現了對人權的尊重、對人類和自然環境利益最大化，以及降低技術風險和對社會的負面影響。在此原則下，政策和法律應致力于人工智能發展的外部社會環境的構建，推動對社會個體的人工智能倫理和安全意識教育，讓社會警惕人工智能技術被濫用的風險。此外，還應該警惕人工智能系統做出與倫理道德偏差的決策。
二是責任原則，即在技術開發和應用兩方面都建立明確的責任體系，以便在技術層面可以對人工智能技術開發人員或部門問責，在應用層面可以建立合理的責任和賠償體系。在責任原則下，在技術開發方面應遵循透明度原則；在技術應用方面則應當遵循權責一致原則。
1.5.3 強力保護個人隱私
人工智能的發展是建立在大量數據的信息技術應用之上，不可避免地涉及個人信息的合理使用問題，因此對于隱私應該有明確且可操作的定義。人工智能技術的發展也讓侵犯個人隱私的行為更為便利，因此相關法律和標準應該為個人隱私提供更強有力的保護（見圖1-22）。
圖1-22 人工智能的發展要重視保護個人隱私
此外，人工智能技術的發展使得政府對于公民個人數據信息的收集和使用更加便利。大量個人數據信息能夠幫助政府各個部門更好地了解所服務的人群狀態，確保個性化服務的機會和質量。但隨之而來的是，政府部門和政府工作人員不恰當使用個人數據信息的風險和潛在的危害也在提升。
人工智能環境下的個人數據獲取和知情同意應該重新進行定義。首先，相關政策、法律和標準應直接對數據的收集和使用進行規制，而不能僅僅征得數據所有者的同意；其次，應當建立實用、可執行的、適應于不同使用場景的標準流程以供設計者和開發者保護數據來源的隱私；再次，對于利用人工智能可能推導出超過公民最初同意披露的信息的行為應該進行規制。最后，政策、法律和標準對于個人數據管理應該采取延伸式保護，鼓勵發展相關技術，探索將算法工具作為個體在數字和現實世界中的代理人。
涉及的安全、倫理和隱私問題是人工智能發展面臨的挑戰。安全問題是讓技術能夠持續發展的前提。技術的發展給社會信任帶來了風險，如何增加社會信任，讓技術發展遵循倫理要求，特別是保障隱私不會被侵犯是急需解決的問題。為此，需要制定合理的政策、法律、標準基礎，并與國際社會協作。建立一個令人工智能技術造福于社會、保護公眾利益的政策、法律和標準化環境，是人工智能技術持續、健康發展的重要前提。
在科技發展日新月異的今天，人工智能受到越來越多的關注。其實，在電影中，也不乏人工智能的身影，它們大多擁有酷炫的外表、豐富的情感和高超的本領，對未來的人類社會和人工智能的發展進行了大膽設想。
例如，《人工智能》是由華納兄弟影片公司于2001年拍攝發行的一部未來派的科幻類電影（見圖1-23）。影片講述21世紀中期，人類的科學技術已經達到了相當高的水平，一個小機器人為了尋找養母，縮短機器人和人類差距而奮斗的故事。
圖1-23 電影《人工智能》海報
在機器人的發展過程中，賦予機器人以情感是最富有爭議的，也是尚未能完全做到的事。通常機器人被視作為一個極其復雜的裝置，人們認為他們不會具備感情。但是，有很多父母失去了自己的孩子，時代的需要就使這種可能性大大增加了。終于，Cybertronics Manufacturing制作公司著手解決了這個問題，制造出了第一個具有感情的機器人，他的名字叫大衛。
作為第一個被輸入情感程序的機器男孩，大衛是這個公司的員工亨瑞和他妻子的一個試驗品，他們夫妻倆收養了大衛。而他們自己的孩子卻最終因病被冷凍起來，以期待有朝一日，有一種能治療這種病的方法會出現。盡管大衛逐漸成了他們的孩子，擁有了所有的愛，成為家庭的一員。但是，一系列意想不到的事件的發生，使得大衛的生活無法進行下去。
人類與機器最終都無法接受他，大衛只有唯一的一個伙伴機器泰迪——他的超級玩具泰迪熊，也是他的保護者。大衛開始踏上了旅程，去尋找真正屬于自己的地方。他發現在那個世界中，機器人和機器之間的差距是那么的巨大，又是那么的脆弱。他要找尋自我、探索人性，成為一個真正意義上的人。