深度學習嵌入式應用開發：基於RK3399Pro和RK3588

前言

第1章　深度學習基礎　1
1.1　深度學習的現實應用　2
1.1.1　電腦視覺　2
1.1.2　自然語言處理　2
1.1.3　推薦系統　3
1.1.4　語音處理　3
1.1.5　其他領域　3
1.2　回歸問題和分類問題　4
1.2.1　線性回歸　5
1.2.2　Softmax分類　6
1.3　梯度下降算法　8
1.3.1　優化算法概述　8
1.3.2　隨機梯度下降算法　10
1.3.3　小批量梯度下降算法　13
1.3.4　Momentum梯度下降
算法　14
1.3.5　Adam優化算法　15
1.4　神經網路　16
1.4.1　神經網路的表示　16
1.4.2　啟動函數及其導數　19
1.4.3　前向傳播和反向傳播　23
1.4.4　神經網路的梯度下降　26
1.5　本章小結　27

第2章　卷積神經網路　28
2.1　卷積基礎知識　28
2.1.1　卷積操作　29
2.1.2　池化　33
2.1.3　卷積的變種　34
2.2　深度卷積神經網路　37
2.2.1　卷積神經網路的整體
結構　37
2.2.2　殘差結構和1×1卷積　38
2.2.3　經典卷積網路　41
2.3　卷積神經網路的應用　44
2.3.1　圖像分類　44
2.3.2　目標檢測　45
2.3.3　其他應用　49
2.4　本章小結　49

第3章　迴圈神經網路　50
3.1　深度迴圈神經網路　50
3.1.1　迴圈神經網路概述　51
3.1.2　基於時間的反向傳播　52
3.1.3　迴圈神經網路的長期依賴
問題　54
3.2　迴圈神經網路變體　55
3.2.1　長短時記憶網路　55
3.2.2　門控迴圈神經網路　60
3.3　序列模型和注意力機制　61
3.3.1　Seq2Seq序列模型　62
3.3.2　注意力機制　64
3.3.3　Transformer結構　69
3.4　迴圈神經網路的應用　74
3.4.1　自然語言處理　74
3.4.2　語音辨識　84
3.4.3　喚醒詞檢測　87
3.5　本章小結　88

第4章　深度神經網路的訓練　90
4.1　深度學習的學習策略　90
4.1.1　資料集劃分和評估指標　90
4.1.2　偏差、方差和誤差　94
4.1.3　神經網路的權重初始化　95
4.2　深度學習的訓練技巧　96
4.2.1　梯度消失和梯度爆炸　96
4.2.2　正則化和隨機失活　97
4.2.3　歸一化　99
4.2.4　自我調整學習率　100
4.2.5　超參數優化　101
4.3　改善模型表現　102
4.3.1　解決資料不匹配問題　102
4.3.2　遷移學習　103
4.4　動手訓練神經網路　104
4.4.1　Jupyter Notebook的
使用　104
4.4.2　訓練MNIST手寫數位識別模型　106
4.4.3　TensorBoard的使用　112
4.5　本章小結　115

第5章　RK3399Pro晶片功能與
架構　116
5.1　RK3399Pro晶片的整體架構　116
5.2　神經網路處理單元　121
5.2.1　神經網路處理單元的
4個模組　122
5.2.2　RKNN-Toolkit開發
套件　123
5.2.3　RKNN-API開發套件　126
5.3　視頻處理單元　126
5.4　圖形處理加速單元　128
5.5　本章小結　128

第6章　TB-RK3399Pro開發板　130
6.1　開發板硬體環境介紹　130
6.1.1　硬體總覽　130
6.1.2　硬體規格　131
6.2　開發板開發環境搭建　134
6.2.1　開發板的啟動和網路
配置　134
6.2.2　終端與套裝軟體安裝　138
6.3　本章小結　144

第7章　基於TB-RK3399Pro進行卷積神經網路實戰　145
7.1　TB-RK3399Pro圖像採集　145
7.1.1　原理　145
7.1.2　實戰　146
7.2　TB-RK3399Pro手寫數字
識別　147
7.2.1　原理　147
7.2.2　實戰　150
7.3　TB-RK3399Pro YOLO目標
檢測　152
7.3.1　原理　153
7.3.2　實戰　154
7.4　TB-RK3399Pro人臉識別　156
7.4.1　原理　156
7.4.2　實戰　162
7.5　本章小結　163

第8章　TB-RK3399Pro神經網路
運算加速　165
8.1　神經網路運算加速引擎介紹　165
8.2　神經網路模型部署和推理　166
8.2.1　模型部署　167
8.2.2　模型推理　169
8.3　神經網路模型量化　170
8.4　本章小結　173

第9章　基於TB-RK3399Pro開發板進行迴圈神經網路實戰　174
9.1　TB-RK3399Pro開發板聲音
採集　174
9.1.1　必備環境安裝　174
9.1.2　聲音採集　175
9.2　語音辨識模型介紹　176
9.2.1　特徵提取　177
9.2.2　語音辨識網路　180
9.2.3　評價指標　182
9.3　TB-RK3399Pro語音辨識
實戰　182
9.3.1　實戰目的　182
9.3.2　實戰數據　182
9.3.3　實戰環境　183
9.3.4　實戰步驟　183
9.3.5　實戰結果　187
9.4　本章小結　188

第10章　基於Rock-X API的深度
學習案例　189
10.1　Rock-X SDK介紹　189
10.2　Rock-X環境部署　190
10.3　目標檢測　190
10.4　車牌識別