簡(jiǎn)單粗暴上手TensorFlow 2.0，北大學(xué)霸力作，必須人手一冊(cè)！

長(zhǎng)沙7喜 2019-10-20

展開(kāi)全文

整理 | 夕顏

出品 | AI科技大本營(yíng)（ID:rgznai100）

【導(dǎo)讀】 TensorFlow 2.0 于近期正式發(fā)布后，立即受到學(xué)術(shù)界與科研界的廣泛關(guān)注與好評(píng)。此前，AI 科技大本營(yíng)曾特邀專(zhuān)家回顧了 TensorFlow 2.0 從初版到最新版本的發(fā)展史。今天，我們將介紹一本全面詳解 TensorFlow 2.0 的手冊(cè)。這本手冊(cè)是 Google Summer of Code 2019 項(xiàng)目之一，從基礎(chǔ)安裝與環(huán)境配置、部署，到大規(guī)模訓(xùn)練與加速、擴(kuò)展，全方位講解 TensorFlow 2.0 的入門(mén)要點(diǎn)，并附錄相關(guān)資料供讀者參考。

這是一本簡(jiǎn)明的 TensorFlow 2.0 入門(mén)指導(dǎo)手冊(cè)，基于 Keras 和 Eager Execution（即時(shí)運(yùn)行）模式，力圖讓具備一定機(jī)器學(xué)習(xí)及 Python 基礎(chǔ)的開(kāi)發(fā)者們快速上手 TensorFlow 2.0。

本手冊(cè)的所有代碼基于 TensorFlow 2.0 正式版及 beta1 版本。

中文指南：https:///

GitHub鏈接：https://github.com/snowkylin/tensorflow-handbook

文中的所有示例代碼：https://github.com/snowkylin/tensorflow-handbook/tree/master/source/_static/code/zh

本手冊(cè)所有章節(jié)如下圖，不僅包含 TensorFlow 的概述，還含有基礎(chǔ)、部署、大規(guī)模訓(xùn)練與加速、擴(kuò)展，以及附錄部分。

前言

此前，TensorFlow 所基于的傳統(tǒng) Graph Execution 的弊端，如入門(mén)門(mén)檻高、調(diào)試?yán)щy、靈活性差、無(wú)法使用 Python 原生控制語(yǔ)句等早已被開(kāi)發(fā)者詬病許久。一些新的基于動(dòng)態(tài)圖機(jī)制的深度學(xué)習(xí)框架（如 PyTorch）也橫空出世，并以其易用性和快速開(kāi)發(fā)的特性而占據(jù)了一席之地。尤其是在學(xué)術(shù)研究等需要快速迭代模型的領(lǐng)域，PyTorch 等新興深度學(xué)習(xí)框架已經(jīng)成為主流。作者所在的數(shù)十人的機(jī)器學(xué)習(xí)實(shí)驗(yàn)室中，竟只有其一人 “守舊” 地使用 TensorFlow。

然而，直到目前，市面上相關(guān)的 TensorFlow 相關(guān)的中文技術(shù)書(shū)籍及資料仍然基于傳統(tǒng)的 Graph Execution 模式，讓不少初學(xué)者（尤其是剛學(xué)過(guò)機(jī)器學(xué)習(xí)課程的大學(xué)生）望而卻步。由此，在 TensorFlow 正式支持 Eager Execution 之際，有必要出現(xiàn)一本全新的技術(shù)手冊(cè)，幫助初學(xué)者及需要快速迭代模型的研究者，以一個(gè)全新的角度快速入門(mén) TensorFlow。

同時(shí)，本手冊(cè)還有第二個(gè)任務(wù)。市面上與 TensorFlow 相關(guān)的中文技術(shù)書(shū)籍大都以深度學(xué)習(xí)為主線，將 TensorFlow 作為這些深度學(xué)習(xí)模型的實(shí)現(xiàn)方式。這樣固然有體系完整的優(yōu)點(diǎn)，然而對(duì)于已經(jīng)對(duì)機(jī)器學(xué)習(xí)或深度學(xué)習(xí)理論有所了解，希望側(cè)重于學(xué)習(xí) TensorFlow 本身的讀者而言，就顯得不夠友好。

于是，作者希望編寫(xiě)一本手冊(cè)，以盡量精簡(jiǎn)的篇幅展示 TensorFlow 作為一個(gè)計(jì)算框架的主要特性，并彌補(bǔ)官方手冊(cè)的不足，力圖能讓已經(jīng)有一定機(jī)器學(xué)習(xí) / 深度學(xué)習(xí)知識(shí)及編程能力的讀者迅速上手 TensorFlow，并在實(shí)際編程過(guò)程中可以隨時(shí)查閱并解決實(shí)際問(wèn)題。

適用群體

本書(shū)適用于以下讀者：

已有一定機(jī)器學(xué)習(xí) / 深度學(xué)習(xí)基礎(chǔ)，希望將所學(xué)理論知識(shí)使用 TensorFlow 進(jìn)行具體實(shí)現(xiàn)的學(xué)生和研究者；
曾使用或正在使用 TensorFlow 1.X 版本或其他深度學(xué)習(xí)框架（比如 PyTorch），希望了解 TensorFlow 2.0 新特性的開(kāi)發(fā)者；
希望將已有的 TensorFlow 模型應(yīng)用于業(yè)界的開(kāi)發(fā)者或工程師。

提示

本書(shū)不是一本機(jī)器學(xué)習(xí) / 深度學(xué)習(xí)原理入門(mén)手冊(cè)。若希望進(jìn)行機(jī)器學(xué)習(xí) / 深度學(xué)習(xí)理論的入門(mén)學(xué)習(xí)，可參考附錄中提供的一些入門(mén)資料。

TensorFlow 概述

學(xué)生和研究者：模型的建立與訓(xùn)練
開(kāi)發(fā)者和工程師：模型的調(diào)用與部署
TensorFlow 能幫助我們做什么？

基礎(chǔ)

TensorFlow 安裝與環(huán)境配置

TensorFlow 的最新安裝步驟可參考官方網(wǎng)站上的說(shuō)明（https://tensorflow.google.cn/install）。TensorFlow 支持 Python、Java、Go、C 等多種編程語(yǔ)言以及 Windows、OSX、Linux 等多種操作系統(tǒng)，此處及后文均以 Python 3.7 為準(zhǔn)。

提示

本章介紹在一般的個(gè)人電腦或服務(wù)器上直接安裝 TensorFlow 2.0 的方法。關(guān)于在容器環(huán)境（Docker）、云平臺(tái)中部署 TensorFlow 或在線上環(huán)境中使用 TensorFlow 的方法，見(jiàn)附錄使用 Docker 部署 TensorFlow 環(huán)境和在云端使用 TensorFlow 。軟件的安裝方法往往具有時(shí)效性，本節(jié)的更新日期為 2019 年 10 月。

一般安裝步驟
GPU 版本 TensorFlow 安裝指南

GPU 硬件的準(zhǔn)備
NVIDIA 驅(qū)動(dòng)程序的安裝
CUDA Toolkit 和 cnDNN 的安裝

第一個(gè)程序
IDE 設(shè)置
TensorFlow 所需的硬件配置 *

TensorFlow 基礎(chǔ)

本章介紹 TensorFlow 的基本操作。

TensorFlow 1+1
自動(dòng)求導(dǎo)機(jī)制
基礎(chǔ)示例：線性回歸

NumPy 下的線性回歸
TensorFlow 下的線性回歸

TensorFlow 模型建立與訓(xùn)練

本章介紹如何使用 TensorFlow 快速搭建動(dòng)態(tài)模型。

模型（Model）與層（Layer）
基礎(chǔ)示例：多層感知機(jī)（MLP）

數(shù)據(jù)獲取及預(yù)處理：tf.keras.datasets
模型的構(gòu)建：tf.keras.Model 和 tf.keras.layers
模型的訓(xùn)練：tf.keras.losses 和 tf.keras.optimizer
模型的評(píng)估：tf.keras.metrics

卷積神經(jīng)網(wǎng)絡(luò)（CNN）

使用 Keras 實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)
使用 Keras 中預(yù)定義的經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）
深度強(qiáng)化學(xué)習(xí)（DRL）
Keras Pipeline *

Keras Sequential/Functional API 模式建立模型
使用 Keras Model 的 compile 、 fit 和 evaluate 方法訓(xùn)練和評(píng)估模型

自定義層、損失函數(shù)和評(píng)估指標(biāo) *

自定義層
自定義損失函數(shù)和評(píng)估指標(biāo)

TensorFlow 常用模塊

tf.train.Checkpoint ：變量的保存與恢復(fù)
TensorBoard：訓(xùn)練過(guò)程可視化
tf.data ：數(shù)據(jù)集的構(gòu)建與預(yù)處理

數(shù)據(jù)集對(duì)象的建立
數(shù)據(jù)集對(duì)象的預(yù)處理
數(shù)據(jù)集元素的獲取與使用
實(shí)例：cats_vs_dogs 圖像分類(lèi)

@tf.function ：Graph Execution 模式 *

@tf.function 基礎(chǔ)使用方法
@tf.function 內(nèi)在機(jī)制
AutoGraph：將 Python 控制流轉(zhuǎn)換為 TensorFlow 計(jì)算圖
使用傳統(tǒng)的 tf.Session

tf.TensorArray ：TensorFlow 動(dòng)態(tài)數(shù)組 *
tf.config：GPU 的使用與分配 *

指定當(dāng)前程序使用的 GPU
設(shè)置顯存使用策略
單 GPU 模擬多 GPU 環(huán)境

部署

TensorFlow 模型導(dǎo)出

使用 SavedModel 完整導(dǎo)出模型
Keras Sequential save 方法（Jinpeng）

TensorFlow Serving

TensorFlow Serving 安裝
TensorFlow Serving 模型部署

Keras Sequential 模式模型的部署
自定義 Keras 模型的部署

在客戶(hù)端調(diào)用以 TensorFlow Serving 部署的模型

Python 客戶(hù)端示例
Node.js 客戶(hù)端示例（Ziyang）

TensorFlow Lite（Jinpeng）

模型轉(zhuǎn)換
Android 部署
Quantization 模型轉(zhuǎn)換
總結(jié)

TensorFlow in JavaScript（Huan）

TensorFlow.js 簡(jiǎn)介

瀏覽器中使用 TensorFlow.js 的優(yōu)勢(shì)
TensorFlow.js 性能對(duì)比

TensorFlow.js 環(huán)境配置

在瀏覽器中使用 TensorFlow.js
在 Node.js 中使用 TensorFlow.js
在微信小程序中使用 TensorFlow.js

TensorFlow.js 模型部署

通過(guò) TensorFlow.js 加載 Python 模型
使用 TensorFlow.js 模型庫(kù)

TensorFlow.js 模型訓(xùn)練 *

大規(guī)模訓(xùn)練與加速

TensorFlow 分布式訓(xùn)練

當(dāng)我們擁有大量計(jì)算資源時(shí)，通過(guò)使用合適的分布式策略，可以充分利用這些計(jì)算資源，從而大幅壓縮模型訓(xùn)練的時(shí)間。針對(duì)不同的使用場(chǎng)景，TensorFlow 在 tf.distribute.Strategy 中為我們提供了若干種分布式策略，從而能夠更高效地訓(xùn)練模型。

單機(jī)多卡訓(xùn)練：MirroredStrategy
多機(jī)訓(xùn)練：MultiWorkerMirroredStrategy

使用 TPU 訓(xùn)練 TensorFlow 模型（Huan）

2017 年 5 月，Alpha Go 在中國(guó)烏鎮(zhèn)圍棋峰會(huì)上，與世界第一棋士柯潔比試，并取得了三比零全勝戰(zhàn)績(jī)。之后的版本 Alpha Zero 可以通過(guò)自我學(xué)習(xí) 21 天即可以達(dá)到勝過(guò)中國(guó)頂尖棋手柯潔的 Alpha Go Master 的水平。

Alpha Go 背后的動(dòng)力全部由 TPU 提供，TPU 使其能夠更快地 “思考” 并在每一步之間看得更遠(yuǎn)。

TPU 簡(jiǎn)介

什么是 TPU
為什么使用 TPU
TPU 性能

TPU 環(huán)境配置

免費(fèi) TPU：Google Colab
Cloud TPU

TPU 基礎(chǔ)使用

擴(kuò)展

TensorFlow Hub 模型復(fù)用（Jinpeng）
TensorFlow Datasets 數(shù)據(jù)集載入
Swift for TensorFlow (S4TF) (Huan）

S4TF 簡(jiǎn)介

為什么要使用 Swift 進(jìn)行 Tensorflow 開(kāi)發(fā)

S4TF 環(huán)境配置

本地安裝 Swift for Tensorflow
在 Colaboratory 中快速體驗(yàn) Swift for Tensorflow
在 Docker 中快速體驗(yàn) Swift for TensorFlow

S4TF 基礎(chǔ)使用

在 Swift 中使用標(biāo)準(zhǔn)的 TensorFlow API
在 Swift 中直接加載 Python 語(yǔ)言庫(kù)
語(yǔ)言原生支持自動(dòng)微分
MNIST 數(shù)字分類(lèi)

TensorFlow in Julia（Ziyang）

TensorFlow.jl 簡(jiǎn)介

為什么要使用 Julia ？

TensorFlow.jl 環(huán)境配置

在 docker 中快速體驗(yàn) TensorFlow.jl
在 julia 包管理器中安裝 TensorFlow.jl

TensorFlow.jl 基礎(chǔ)使用

MNIST 數(shù)字分類(lèi)

附錄

圖模型下的 TensorFlow

TensorFlow 1+1
基礎(chǔ)示例：線性回歸

使用 Docker 部署 TensorFlow 環(huán)境
在云端使用 TensorFlow

在 Colab 中使用 TensorFlow
在 Google Cloud Platform（GCP）中使用 TensorFlow

在 Compute Engine 建立帶 GPU 的實(shí)例并部署 TensorFlow
使用 AI Platform 中的 Notebook 建立帶 GPU 的在線 JupyterLab 環(huán)境

在阿里云上使用 GPU 實(shí)例運(yùn)行 Tensorflow（Ziyang）

部署自己的交互式 Python 開(kāi)發(fā)環(huán)境 JupyterLab
TensorFlow 性能優(yōu)化

（圖片來(lái)源：領(lǐng)英）

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶(hù)發(fā)布，不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買(mǎi)等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來(lái)自：長(zhǎng)沙7喜 > 《智能技術(shù)》

舉報(bào)/認(rèn)領(lǐng)