前言

本書涵蓋了基于應用領域的新的深度學習模型、方法和實現。全書共四部分：

• 第一部分（第1章）介紹深度學習的構建和神經網絡（NN）背后的數學知識。
• 第二部分（第2～4章）闡述卷積神經網絡（CNN）及其在計算機視覺（CV）中的高級應用。你將學習在對象檢測和圖像分割應用中流行的CNN架構。之后，還將學習變分自編碼器和生成對抗網絡。
• 第三部分（第6～8章）闡述自然語言和序列處理。講解如何使用神經網絡提取復雜的單詞向量表示。討論各種類型的循環網絡，如長短期記憶（LSTM）網絡和門控循環單元（GRU）網絡。之后，介紹如何在沒有循環網絡的情況下使用注意力機制處理序列數據。
• 第四部分（第9～11章）介紹如何使用圖神經網絡來處理結構化數據。講解元學習，幫助讀者用較少的訓練樣本來訓練神經網絡。最后，介紹如何將深度學習應用于自動駕駛。

閱讀本書，讀者將掌握與深度學習相關的關鍵概念，以及監控和管理深度學習模型的方法。

本書讀者

本書適合數據科學家、深度學習工程師、研究人員閱讀，也適合想要掌握深度學習，并想建立自己的創新和獨特的深度學習項目的AI開發者閱讀。本書也將吸引希望通過使用真實的例子來精通高級用例和深度學習領域的方法的人。閱讀本書需要讀者了解深度學習和Python的基礎知識。

本書涵蓋的內容

第1章簡要介紹什么是深度學習，然后討論神經網絡的數學基礎。本章將討論神經網絡的數學模型。更具體地說，我們將關注向量、矩陣和微分，還將深入討論一些梯度下降變化方法，如動量、Adam和Adadelta。除此之外，還將討論如何處理不平衡數據集。

第2章提供CNN的簡短描述。我們將討論CNN及其在CV中的應用。

第3章討論一些先進的、廣泛使用的神經網絡架構，包括VGG、ResNet、MobileNet、GoogleNet、Inception、Xception和DenseNet。我們還將使用PyTorch實現ResNet和Xception/MobileNet。

第4章討論兩個重要的視覺任務：對象檢測和圖像分割。我們將提供實現過程。

第5章討論生成模型。特別是我們將討論生成對抗網絡和神經類型的轉移，之后將實現特定的風格轉換。

第6章介紹單詞和字符級語言模型。我們還將討論單詞向量（word2vec、Glove和fastText），并使用Gensim實現它們。我們還將在自然語言工具包（Natural Language ToolKit，NLTK）的文本處理技術的幫助下，介紹為機器學習應用程序（如主題建模和情感建模）準備文本數據的高級技術和復雜過程。

第7章討論基本的循環網絡、LSTM和GRU單元。我們將為所有的網絡提供詳細的解釋和純Python實現。

第8章討論序列模型和注意力機制，包括雙向LSTM以及一個名為transformer的新架構（該架構具有編碼器和解碼器）。

第9章討論圖神經網絡和具有記憶的神經網絡，如神經圖靈機（NTM）、可微神經計算機和MANN。

第10章討論元學習——教算法如何學習的算法。我們還將嘗試改進深度學習算法，使其能夠使用更少的訓練樣本來學習更多的信息。

第11章探索深度學習在自動駕駛汽車上的應用。我們將討論如何使用深度網絡來幫助車輛了解其周圍的環境。

如何充分利用本書

為了充分利用本書，需要熟悉Python并掌握一些機器學習的知識。本書包括對神經網絡的主要類型的簡要介紹，即使你已經熟悉神經網絡的基礎知識，這些介紹也會對你有所幫助。

下載示例代碼及彩色圖像

本書的示例代碼及所有截圖和樣圖，可以從http://www.packtpub.com通過個人賬號下載，也可以訪問華章圖書官網http://www.hzbook.com，通過注冊并登錄個人賬號下載。

本書的代碼包也托管在GitHub的https://github.com/PacktPublishing/Advanced-Deep-Learning-with-Python上。如果代碼有更新，它將在現有的GitHub存儲庫上更新。

我們還提供了一個PDF文件，其中有本書使用的屏幕截圖和圖表的彩色圖像。你可以在http://www.packtpub.com/sites/default/files/downloads/9781789956177_ColorImages.pdf下載。

排版約定

本書中使用了許多排版約定。

CodeInText：表示文本中的代碼、數據庫表名、文件夾名、文件名、文件擴展名、路徑名、用戶輸入和Twitter句柄。下面是一個示例：“通過包含generator、discriminator和combined網絡來構建完整的GAN模型?！?/p>

書中代碼塊的風格如下：

粗體：表示新術語、重要的詞，或你在屏幕上看到的詞。例如：“一個實驗的所有可能結果（事件）的集合稱為樣本空間”。

表示警告或重要說明。

表示提示和技巧。