前言

過去幾年，越來越多的工程師和研究人員悄悄地改寫了計算機與物理世界互動的規則。其結果是，一項被稱為“邊緣人工智能”的技術有望顛覆近百年的計算機歷史，并觸及每個人的生活。

通過一次微小的軟件更新，邊緣人工智能技術可以賦予廉價、節能的處理器（已經廣泛應用于從洗碗機到恒溫器等各種設備中）感知和理解世界的能力。我們可以賦予日常物品智能，不再依賴于對數據需求量大的中心化服務器。而且，下一代工具使每個人都能接觸這種魔力，無論是高中生還是研究人員。

世界上已經有許多邊緣人工智能產品。以下是一些我們將在本書中遇到的例子：

●通過安裝在電力塔上的智能設備預測可能發生的故障，幫助防止由電力傳輸引起的森林火災。

●可穿戴手環能夠在消防員面臨熱應變和過度勞累風險時發出警報，確保他們的安全。

●語音用戶界面提供無須手動操作的控制技術，不需要互聯網連接。

●智能項圈可以監測野生大象的活動，幫助研究人員了解它們的行為并防止它們發生沖突。

●野生動物相機（或稱攝像機）可以識別特定的動物物種，幫助科學家了解它們的行為。

邊緣人工智能技術仍然是嶄新的，而這些現有應用只是其潛力的一小部分。隨著越來越多的人學習如何使用邊緣人工智能，他們將創造出能夠解決人類各個領域問題的應用程序。本書的目標是讓你成為他們中的一員。我們希望能夠幫助你根據自己獨特的視角創造成功的邊緣人工智能產品。

關于本書

本書旨在為那些將推動這場革命的工程師、科學家、產品經理和決策者提供指導。它是針對整個領域的高層次指南，提供了一個工作流程和框架，用于利用邊緣人工智能解決現實世界的問題。

除此之外，我們希望你掌握以下內容：

●不同邊緣人工智能技術所固有的機遇、限制和風險。

●通過人工智能和嵌入式機器學習進行問題分析和解決方案框架的設計。

●成功開發邊緣人工智能應用的端到端實踐工作流。

本書的第一部分將介紹和討論關鍵概念，幫助你了解整個領域的情況。接下來將帶你了解有助于設計和實現應用程序的實際過程。

本書的第二部分從第11章開始，我們將通過三個完整的用例來演示如何運用所學知識解決科學、工業和消費者項目中的實際問題。

閱讀本書，你將有信心通過邊緣人工智能的視角來觀察世界，并擁有一套可靠的工具，可以用來構建有效的解決方案。

本書預期

這不是一本編程書，也不是針對特定工具的教程，所以不要期望有大量的逐行代碼解釋或使用特定軟件的分步指南。相反，你將學習如何使用最適合的工具和通用框架來解決問題。

也就是說，這個主題非常適合可探索、定制和構建的有形、交互式示例。在本書中，我們將提供各種可供探索的工件（artifact），包括Git存儲庫、免費的在線數據集和示例訓練管道（流水線）。

其中許多工件將托管在Edge Impulse（https://edgeimpulse.com）中，這是一個用于構建邊緣人工智能應用的工程工具^[1]。它基于開源技術和標準最佳實踐，因此即使你在不同的平臺上工作，也能夠理解其中的原理。本書的作者都是Edge Impulse的忠實粉絲——但他們可能有偏好，因為他們是構建該工具的團隊的一部分！

為了保證可移植性，機器學習管道中的所有工作都可以以開放格式從Edge Impulse中導出，包括數據集、機器學習模型和任意信號處理代碼的C++實現。

需要了解的基礎知識

本書是關于構建在邊緣設備上運行的軟件，因此對嵌入式開發的高級概念有一定的了解會有所幫助，可以是關于資源受限設備（如微控制器或數字信號處理器）或通用設備（如嵌入式Linux計算機）的知識。

盡管如此，如果你剛開始接觸嵌入式軟件，也不用擔心跟不上！我們會保持簡單，并在出現新主題時介紹它們。

除此之外，無須假設任何特定的知識。由于本書的目標是為整個工程領域提供實用的路線圖，因此我們將涵蓋許多主題。如果你對我們提到的任何內容感興趣——從機器學習的基礎知識到應用設計的基本要素——那么本書將提供許多我們在學習過程中發現的有用資源。

負責任、合乎倫理、有效的人工智能

構建任何類型的應用程序，最重要的部分都是確保它在現實世界中正常運行。不幸的是，人工智能應用程序特別容易受到一類問題的影響，使它們在外表上看起來工作得很好，但實際上卻以非常有害的方式失效。

避免這類問題將是本書的核心主題之一。因為現代人工智能開發是一個迭代的過程，僅僅在工作流的最后測試系統是否正常工作是不夠的。相反，需要在整個過程中的每一步考慮潛在的陷阱。你必須了解風險所在，嚴格審查中間結果，并在考慮利益相關者需求的情況下做出明智的決策。

在本書中，我們將介紹一個強大的框架，幫助你理解、推理、度量性能，并針對構建人工智能應用程序時可能出現的問題做出決策。這將是我們整個開發過程的基礎，并且會塑造我們設計應用程序的方式。

這個過程始于項目的最初階段。為了構建有效的應用程序，理解我們目前的人工智能方法并不適用于某些用例是至關重要的。在許多情況下，造成傷害（無論是身體上的、財務上的還是社會上的）的風險超過了部署人工智能的潛在利益。本書將教你如何識別這些風險，并在探索項目的可行性時將其考慮在內。

作為領域專家，我們有責任確保自己創造的技術得到適當的使用。沒有人比我們更適合做這項工作，因此我們有責任做好這項工作。本書將幫助你做出正確的決策，并創建性能良好、可避免傷害并使更多人受益的應用程序。

擴展資源

涵蓋從低級實現到高級設計模式的嵌入式人工智能的書籍將占據書架的大部分空間！而你正在閱讀的這本書不會試圖把所有內容都塞進一本書中，而是提供了整個領域的詳細但高層次的路線圖。

要深入了解與你的特定項目相關的細節，本書5.1.6節將推薦許多額外資源。

排版約定

本書中使用以下排版約定：

斜體（Italic）

表示新的術語、URL、電子郵件地址、文件名和文件擴展名。

等寬字體（Constant width）

用于程序清單，以及段落中的程序元素，例如變量名、函數名、數據庫、數據類型、環境變量、語句以及關鍵字。

等寬粗體（Constant width bold）

表示應由用戶直接輸入的命令或其他文本。

等寬斜體（Constant width italic）

表示應由用戶提供的值或由上下文確定的值替換的文本。

該圖示表示提示或建議。

該圖示表示一般性說明。

該圖示表示警告或注意。

示例代碼

可以從https://github.com/ai-at-the-edge下載補充材料（示例代碼、練習、勘誤等）。

這里的代碼是為了幫助你更好地理解本書的內容。通常，可以在程序或文檔中使用本書中的代碼，而不需要聯系O’Reilly獲得許可，除非需要大段地復制代碼。例如，使用本書中所提供的幾個代碼片段來編寫一個程序不需要得到我們的許可，但銷售或發布O’Reilly的示例代碼則需要獲得許可。引用本書的示例代碼來回答問題也不需要許可，將本書中的很大一部分示例代碼放到自己的產品文檔中則需要獲得許可。

非常歡迎讀者使用本書中的代碼，希望（但不強制）注明出處。注明出處時包含書名、作者、出版社和ISBN，例如：

AI at the Edge，作者Daniel Situnayake和Jenny Plunkett，由O’Reilly出版，書號978-1-098-12020-7。

如果讀者覺得對示例代碼的使用超出了上面所給出的許可范圍，歡迎通過permissions@oreilly.com聯系我們。

O’Reilly在線學習平臺（O’Reilly Online Learning）

40多年來，O’Reilly Media致力于提供技術和商業培訓、知識和卓越見解，來幫助眾多公司取得成功。

我們擁有獨一無二的專家和革新者組成的龐大網絡，他們通過圖書、文章、會議和我們的在線學習平臺分享他們的知識和經驗。O’Reilly的在線學習平臺允許你按需訪問現場培訓課程、深入的學習路徑、交互式編程環境，以及O’Reilly和200多家其他出版商提供的大量文本和視頻資源。有關的更多信息，請訪問http://oreilly.com。

如何聯系我們

對于本書，如果有任何意見或疑問，請按照以下地址聯系本書出版商。

美國：

O’Reilly Media，Inc.

1005 Gravenstein Highway North

Sebastopol，CA 95472

中國：

北京市西城區西直門南大街2號成銘大廈C座807室（100035）

奧萊利技術咨詢（北京）有限公司

要詢問技術問題或對本書提出建議，請發送電子郵件至errata@oreilly.com.cn。

本書配套網站https://oreil.ly/ai-at-the-edge上列出了勘誤表、示例以及其他信息。

關于書籍、課程、會議和新聞的更多信息，請訪問我們的網站https://oreilly.com。

我們在LinkedIn上的地址：https://linkedin.com/company/oreilly-media

我們在Twitter上的地址：https://twitter.com/oreillymedia

我們在YouTube上的地址：https://www.youtube.com/oreillymedia

致謝

本書的完成離不開許多人的辛勤工作和支持，我們對他們表示深深的感激。

我們很榮幸得到了獨一無二的Pete Warden（https://petewarden.com）撰寫的序言，他不僅是一個具有遠見卓識的技術專家，對于推動這一領域的發展功不可沒，還是一個了不起的人和一位偉大的朋友。非常感謝他的支持！

我們對Wiebke（Toussaint）Hutiri（https://wiebketoussaint.com）的無私奉獻表示深深的感謝，他在塑造和完善本書中的負責任的人工智能內容方面做出了巨大貢獻，包括為2.3.1節貢獻了精彩的介紹。他是他所在領域的明星。

我們對技術評審和顧問團隊表示衷心感謝，他們的智慧和見解對本書產生了巨大的影響。他們是Alex Elium、Aurélien Geron、Carlos Roberto Lacerda、David J.Groom、Elecia White、Fran Baker、Jen Fox、Leonardo Cavagnis、Mat Kelcey、Pete Warden、Vijay Janapa Reddi和Wiebke（Toussaint）Hutiri。另外特別感謝Benjamin Cabé允許我們展示他的人造鼻子項目。書中的任何不準確之處由我們負責。

我們還要感謝O'Reilly出版社的出色團隊，特別是Angela Rufino，她以最大的理解和關懷引導我們完成了整個寫作過程。特別感謝Elizabeth Faerm、Kristen Brown、Mike Loukides、Nicole Taché和Rebecca Novack。

本書離不開Edge Impulse的團隊的支持，這絕對是一個全明星陣容。特別感謝創始人Zach Shelby和Jan Jongboom，感謝他們相信我們對本書的愿景，支持我們使其成為現實，并創造了一個讓思想綻放的空間。感謝全體團隊成員：Adam Benzion、Alessandro Grande、Alex Elium、Amir Sherman、Arjan Kamphuis、Artie Beavis、Arun Rajasekaran、Ashvin Roharia、Aurelien Lequertier、Carl Ward、Clinton Oduor、David Schwarz、David Tischler、Dimi Tomov、Dmitry Maslov、Emile Bosch、Eoin Jordan、Evan Rust、Fernando Jiménez Moreno、Francesco Varani、Jed Huang、Jim Edson、Jim van der Voort、Jodie Lane、John Pura、Jorge Silva、Joshua Buck、Juliette Okel、Keelin Murphy、Kirtana Moorthy、Louis Moreau、Louise Paul、Maggi Yang、Mat Kelcey、Mateusz Majchrzycki、Mathijs Baaijens、Mihajlo Raljic、Mike Senese、Mikey Beavis、MJ Lee、Nabil Koroghli、Nick Famighetti、Omar Shrit、Othman Mekhannene、Paige Holvik、Raul James、Raul Vergara、RJ Vissers、Ross Lowe、Sally Atkinson、Saniea Akhtar、Sara Olsson、Sergi Mansilla、Shams Mansoor、Shawn Hanscom、Shawn Hymel、Sheena Patel、Tyler Hoyle、Vojislav Milivojevic、William DeLey、Yan Li、Yana Vibe和Zin Kyaw。他們創造了奇跡。

Jenny想要感謝她在得克薩斯州的家人和朋友多年來的大力支持，還要感謝她的貓咪Blue Gene和Beatrice，它們是最好的伙伴。她特別要感謝她的父親Michael Plunkett，是他鼓勵她去得克薩斯大學奧斯汀分校攻讀電子工程專業，并激發了她對新技術的終身好奇心。

Daniel想要感謝他的家人和朋友，感謝他們對他每一次冒險的支持。他由衷感激Lauren Ward在所有旅程中的愛和陪伴。他還感謝Minicat帶來的平靜和陪伴，并允許在本書中使用她的照片。

---

[1]Edge Impulse在學術論文“Edge Impulse：An MLOps Platform for Tiny Machine Learning”（https://oreil.ly/Dyd-Z）（S.Hymel等人，2002）中進行了描述。