序言
一、人工智能的發(fā)展與治理的必要性
近年來，隨著具有即時性、平面化、去中心化、智能化的互聯(lián)網(wǎng)、大數(shù)據(jù)以及人工智能（AI）技術(shù)的深入研發(fā)和廣泛應(yīng)用，在社會生產(chǎn)生活中出現(xiàn)了一些與此相關(guān)的新的事物、新的行為和新的社會關(guān)系現(xiàn)象；在社會運行和治理層面，也相應(yīng)地產(chǎn)生了一些新的社會問題以及解決這些問題的理論思考和社會實踐。概括地說，人工智能技術(shù)的研發(fā)和應(yīng)用，一方面產(chǎn)生了極大的良性的社會效益，另一方面也帶來了諸多負(fù)面的社會問題。
一方面，社會生產(chǎn)生活更加便利和高效，各種生產(chǎn)生活資源的融通整合更加快速有效，人們足不出戶就可以享受到各種生活服務(wù)；在社會管理和運行上，公共信息更加透明和及時，避免了權(quán)力尋租和各種職業(yè)價值異化；社會生活民主和自由度得到極大提高；等等。可以說，無論是在微觀的個體生活層面，還是在宏觀的社會生產(chǎn)層面，互聯(lián)網(wǎng)、大數(shù)據(jù)以及人工智能技術(shù)都給整個人類行為賦能良多，給社會生產(chǎn)生活帶來前所未有的改變。
另一方面，在人類社會的價值理解和認(rèn)知邏輯上，再強的科學(xué)技術(shù)都是一把雙刃劍，其作為一種價值中性的事物能為善亦能為惡，能解決問題也能帶來問題。這已經(jīng)不再僅僅是一種邏輯上的推理和觀念上的想象，現(xiàn)實生活中的信息和數(shù)據(jù)泄露造成了諸多問題，如個人隱私安全、財產(chǎn)安全、公共安全以及國家安全問題，平臺經(jīng)濟中的壟斷和不正當(dāng)競爭問題，算法黑箱和歧視問題，社會貧富分化和失業(yè)問題，等等。
可以說，對于技術(shù)帶來的好與壞兩方面而言，二者的實現(xiàn)能力和程度不相上下，往往需要在社會發(fā)展的動態(tài)選擇和較量中達(dá)成一種力量和效果上的平衡。而對于強大的新一代人工智能技術(shù)而言，如果說其僅僅是人類的一項技術(shù)而不是另一個入侵的物種，那么這種技術(shù)在社會中運用上的好與壞、善與惡，最終還是要歸結(jié)為其是掌握在好人還是壞人的手里，最終還是要體現(xiàn)在社會主體，即人類的行為選擇和責(zé)任承擔(dān)上。
由此，人工智能的社會治理就是人工智能作為一項技術(shù)在人類社會發(fā)展中的必然性話語命題和現(xiàn)實任務(wù)；如果不單獨從一種純粹的技術(shù)研發(fā)和應(yīng)用的角度，而是從人類社會行為意義上來看，人工智能技術(shù)只有完成好這個任務(wù)，人工智能才能進(jìn)入人類社會并獲得應(yīng)用和發(fā)展。那么，這個任務(wù)是什么呢？無論是在經(jīng)驗上還是在邏輯上，人工智能的社會治理所指的都不是因為恐懼和擔(dān)心而簡單粗暴地限制或拒絕人工智能技術(shù)的研發(fā)、應(yīng)用和發(fā)展，而是理性地看待人工智能技術(shù)所帶來的好與壞、善與惡、問題與賦能、發(fā)展與限制等這些矛盾性的價值。在社會發(fā)展中，以上這些矛盾的方面都可以被統(tǒng)一概括為安全應(yīng)用與風(fēng)險防控，人工智能治理無疑就是人類如何對這項技術(shù)趨利避害和揚長避短，在社會生產(chǎn)生活中實現(xiàn)人工智能的安全應(yīng)用與風(fēng)險防控的平衡，從而給人類帶來福祉。
二、人工智能治理需要面對的幾個重要問題
雖然可以在基本原則和任務(wù)方向上將人工智能的治理歸結(jié)為以上根本性問題，但從具體的層面上來講，這項工作應(yīng)當(dāng)是一個復(fù)雜的問題知識體系和社會工作結(jié)構(gòu)系統(tǒng)，從回應(yīng)現(xiàn)實問題的必要性以及問題邏輯構(gòu)成的應(yīng)然性上來看，治理人工智能需要在如下基本問題上作出思考和探討。
首先，如何界定人工智能以及相關(guān)技術(shù)。在邏輯上，人工智能治理首先要解決的問題是確認(rèn)所要治理的對象，否則難以形成共識性的問題認(rèn)識以及解決方案，即便有探討，也無法確定爭議的焦點。確認(rèn)這個問題的現(xiàn)實必要性體現(xiàn)在：首先，即使在人工智能學(xué)界，對于新一代人工智能的內(nèi)涵和外延的認(rèn)識也并不完全一致，現(xiàn)實中的人工智能技術(shù)所指范圍也不相同。比如，所治理的人工智能技術(shù)僅指純粹的智能技術(shù)本身，還是包含互聯(lián)網(wǎng)、大數(shù)據(jù)等其他技術(shù)？顯而易見，不同的技術(shù)內(nèi)容及范圍在現(xiàn)實社會生產(chǎn)生活中所產(chǎn)生的問題的種類、屬性以及社會效果是不同的，其相關(guān)治理價值定位和方式方法也是不同的。因此，對于人工智能這一治理對象的確定和確認(rèn)是開展相關(guān)研究的基礎(chǔ)和前提。
其次，人工智能治理如何界定。關(guān)于人工智能治理的所指，除上文所說的大的原則和方向外，在具體層面上還要回答治理對象具體指的是什么。比如說，是治理技術(shù)本身，還是治理技術(shù)所產(chǎn)生的社會效應(yīng)、社會效果和社會問題？如何從社會治理的視角來看待人工智能的技術(shù)構(gòu)成及其技術(shù)屬性？人工智能治理的具體性質(zhì)、屬性、內(nèi)涵、外延、價值定位、目標(biāo)任務(wù)如何？等等。如此才能確定治理所要解決的問題、治理工作所要遵循的基本原則以及所要采用的方式方法等。
最后，如何進(jìn)行人工智能的治理。無論是人工智能的界定還是對其進(jìn)行治理的界定，核心的目標(biāo)指向就是回答如何對人工智能進(jìn)行社會治理這一問題。在以上相關(guān)界定的基礎(chǔ)上，人工智能治理首先需要分析人工智能治理的一般性原則、基本方式方法、治理工作階段的劃分、治理道路模式的探索和構(gòu)建；其次還有必要在經(jīng)驗層面上梳理介紹世界各個國家和地區(qū)治理工作的經(jīng)驗、人工智能治理的國際協(xié)作情況，探索時下在治理上問題比較突出的、現(xiàn)實中具有治理緊迫性的、具體社會應(yīng)用領(lǐng)域的相關(guān)治理理論和實踐。
三、具體章節(jié)的撰寫工作的分配
為回應(yīng)和探討以上幾個重要問題，筆者以人工智能治理的法律、公共政策以及倫理規(guī)范等相關(guān)社會行為和社會關(guān)系的規(guī)則的建立和運行為主要思考方向和工作進(jìn)路，通過對相關(guān)文字資料的梳理分析、實地調(diào)研考察、座談會議交流，確定了本書的內(nèi)容構(gòu)成和研究撰寫分工，對相關(guān)的問題進(jìn)行了嘗試性的分析和探討，具體如下：
引言：主要內(nèi)容為智能社會發(fā)展與治理問題的提出，介紹了智能技術(shù)推進(jìn)社會進(jìn)步和發(fā)展的基本情況，同時也提出智能技術(shù)存在大量的社會安全風(fēng)險，需要引起重視，一些現(xiàn)實問題需要在各國國家社會發(fā)展中加以解決。這一部分由劉露研究撰寫完成。
第一篇：主要內(nèi)容為人工智能發(fā)展的綜合情況，具體包括對人工智能的基本認(rèn)識與對其發(fā)展歷程的概要描述，核心目標(biāo)是對本書所指的治理對象即人工智能的界定。為了更好地實現(xiàn)這一目標(biāo)，筆者還對人工智能的技術(shù)構(gòu)成、典型場景、產(chǎn)業(yè)發(fā)展?fàn)顩r以及時下比較突出的相關(guān)技術(shù)產(chǎn)業(yè)場景及其監(jiān)管治理問題作了初步的梳理和介紹。這一部分共分為三章，前兩章由江溯研究撰寫完成，第三章由劉露研究撰寫完成。
第二篇：主要內(nèi)容為世界上人工智能發(fā)展較為迅速的歐盟以及美國、日本、韓國、英國和澳大利亞等地區(qū)和國家的人工智能發(fā)展及立法與政策制定的基本狀況的梳理介紹，對各個地區(qū)和國家在人工智能治理方面所采取的態(tài)度、原則、策略和方式進(jìn)行了比較，對人工智能領(lǐng)域國際監(jiān)管的政策的共性、差異以及治理上的國際合作進(jìn)行了分析和總結(jié)。這一部分共分為五章，主要內(nèi)容由張平研究撰寫完成，劉露根據(jù)新近的發(fā)展變化情況作了補充和完善。
第三篇：主要內(nèi)容為人工智能法律以及各種規(guī)則制度性治理的基本原理、基本路徑和模式的探索分析。首先結(jié)合第一篇的內(nèi)容分析了人工智能的社會屬性、社會效應(yīng)以及法律和規(guī)則治理視角下的治理上的基本問題；其次從基本原理的角度和層面探討了人工智能治理的屬性、目標(biāo)、原則以及模式構(gòu)成，其中闡釋了對治理的方式方法以及價值功能定位的認(rèn)識和選擇；最后對人工智能治理的階段、道路和規(guī)律性的認(rèn)識進(jìn)行了理論上的探討和分析。這一部分共分為兩章，由楊曉雷研究撰寫完成。
第四篇：主要內(nèi)容為對我國人工智能產(chǎn)業(yè)、政策的發(fā)展情況的介紹，以及對其治理與規(guī)制思路的總結(jié)、梳理和探索。首先對我國人工智能產(chǎn)業(yè)的發(fā)展?fàn)顩r以及國家和地方兩個層面人工智能領(lǐng)域的政策法規(guī)進(jìn)行了總結(jié)介紹，結(jié)合國內(nèi)外人工智能產(chǎn)業(yè)和政策法規(guī)的發(fā)展現(xiàn)狀，分析闡釋了我國關(guān)于人工智能立法和政策制定方面的優(yōu)勢和不足；在此基礎(chǔ)上，分析探討了我國人工智能規(guī)制的價值定位、應(yīng)當(dāng)重視處理的重要關(guān)系；最后嘗試提出了我國人工智能總體規(guī)制應(yīng)當(dāng)考慮的路徑和具體法律規(guī)制的基本定位。這一部分共分為兩章，由王成研究撰寫完成。
總之，本書基于近幾年來全球人工智能發(fā)展的理論和社會應(yīng)用現(xiàn)狀，嘗試性地探討了人工智能治理的如上幾個基本問題。面對人工智能研發(fā)和應(yīng)用的廣泛的領(lǐng)域、豐富的內(nèi)容和復(fù)雜的情況，本書所及的現(xiàn)象、問題，依據(jù)的信息、材料以及相關(guān)研究探討應(yīng)當(dāng)是有限的。比如，鑒于本書開始策劃時人工智能應(yīng)用的具體場景以及暴露的具體治理上的問題的相對有限性，本書在內(nèi)容上主要針對人工智能所產(chǎn)生的一般性社會效應(yīng)和社會治理問題進(jìn)行相對抽象性、概念性的思考和探討，沒有就具體的智能應(yīng)用領(lǐng)域的法律、政策等規(guī)范規(guī)則治理問題進(jìn)行聚焦探討并給出建設(shè)性方案。另外，人工智能的治理不只是法律、政策、倫理等社會規(guī)范和社會制度上的問題，還應(yīng)當(dāng)包含如何通過技術(shù)切入實現(xiàn)智能技術(shù)的治理或者安全應(yīng)用和發(fā)展的問題。對此，本書在對人工智能治理的基本屬性認(rèn)識和基本原理探討上，雖然已經(jīng)提出通過技術(shù)本身以及通過技術(shù)給規(guī)則和制度進(jìn)行同樣能力的賦能來實現(xiàn)人工智能的有效治理，但主要還是把技術(shù)作為一種治理對象，尚沒有將其作為一種手段展開更多的研究和全面的探討。以上這些尚未進(jìn)行研究的應(yīng)當(dāng)是人工智能治理研究工作非常重要的組成內(nèi)容和方向，隨著人工智能技術(shù)的深入研發(fā)、廣泛應(yīng)用并在特定領(lǐng)域發(fā)育發(fā)展和相對成熟，法律以及規(guī)則運行方面的人工智能技術(shù)研發(fā)將能夠進(jìn)一步產(chǎn)生顯著社會效應(yīng)。
本書內(nèi)容的研究和撰寫成文要特別感謝北京大學(xué)法學(xué)院張守文教授、潘劍鋒教授、郭靂教授等同事們的支持、鼓勵和指導(dǎo)，感謝北京大學(xué)人工智能研究院人工智能治理研究中心的支持以及同事們的幫助，感謝中共中央網(wǎng)絡(luò)安全和信息化委員會辦公室負(fù)責(zé)相關(guān)工作的同志們給予的指導(dǎo)意見、提供的資料上的幫助，感謝北京大學(xué)出版社以及楊玉潔、靳振國編輯為本書的編輯出版工作所付出的一切努力，感謝為本書的研究和寫作幫助整理資料的所有北京大學(xué)法學(xué)院的學(xué)生們。
不足之處，還請同行提出寶貴的批評和指導(dǎo)意見，同時也期待通過同行們的共同努力，在人工智能治理領(lǐng)域，能夠繼續(xù)深入探討研究這些重要的理論問題，貢獻(xiàn)相關(guān)的問題解決方案。
楊曉雷
2022年7月