- Transformer自然語言處理實戰:使用Hugging Face Transformers庫構建NLP應用
- (澳)路易斯·湯斯頓等
- 464字
- 2024-05-23 17:22:20
1.4 Hugging Face Transformers庫:提供規范化接口
將新穎的機器學習架構應用于新任務可能是一項復雜的任務,通常涉及以下步驟:
1.將模型架構付諸代碼實現(通常基于PyTorch或TensorFlow)。
2.從服務器加載預訓練權重(如果有的話)。
3.預處理輸入并傳給模型,然后應用一些針對具體任務的后處理。
4.實現數據加載器并定義損失函數和優化器來訓練模型。
其中每個步驟都需要自定義每個模型和任務的邏輯。傳統上(但并非總是如此!),當研究小組發表一篇新文章時,他們也會發布代碼以及模型權重。但是這類代碼很少是規范化的,并且通常需要數天的改造才能適用于新的用例。
這就是Hugging Face Transformers庫拯救NLP從業者的地方!它為各種Transformer模型提供了規范化接口,從而令這些模型可以適用于新用例的代碼和工具。該庫目前支持三種主要的深度學習框架(PyTorch、TensorFlow和JAX),并能夠在它們之間輕松切換。此外,它還提供針對任務的頭,因此你可以輕松地微調下游任務(如文本分類、命名實體識別和問答)的Transformer模型。這點令訓練和測試模型所需的時間從一周減少到一個下午!
你將在1.5節親眼見證這一點,那里我們將展示通過Hugging Face Transformers庫只需幾行代碼就可以實現一些最常見的NLP應用程序。
推薦閱讀
- 做合成:Photoshop構圖+透視+紋理+造型+調色技術修煉
- Moldflow 2010完全自學與速查手冊(模流分析·成本控制)
- PPT設計實用教程
- UG NX 9.0中文版 基礎教程 (UG工程師成才之路)
- ASP.NET MVC 2 Cookbook
- Drupal 6 Panels Cookbook
- 3ds Max 2015中文版從入門到精通
- 平面設計制作標準教程(微課版 第2版)
- Oracle 11g Streams Implementer's Guide
- 三維建模與3D打印從入門到精通
- 神奇的中文版Photoshop CC 2017入門書
- Photoshop CC 2019 平面設計實例教程
- Excel 2013公式·函數與數據分析
- 中文版Photoshop CS5平面設計實用教程(第2版)
- Magento: Beginner's Guide