書籍簡(jiǎn)介:
本書遵循循序漸進(jìn)、兼顧理論和實(shí)踐的原則,從神經(jīng)網(wǎng)絡(luò)基本概念入手,以圖文并茂的形式生動(dòng)地講解激活函數(shù)和反向傳播等概念原理,并以人臉識(shí)別和動(dòng)作檢測(cè)為例,讓讀者直觀地了解深度學(xué)習(xí)的應(yīng)用場(chǎng)景,在知識(shí)內(nèi)容方面,不但包含決策樹、隨機(jī)森林等常規(guī)算法,還重點(diǎn)講解了LSTM、CNN神經(jīng)網(wǎng)絡(luò)等主流算法,在代碼實(shí)踐方面,比較深入地講解開發(fā)細(xì)節(jié),詳細(xì)介紹了相關(guān)網(wǎng)絡(luò)結(jié)構(gòu)、參數(shù)調(diào)優(yōu)和各種網(wǎng)絡(luò)的對(duì)照比較,對(duì)程序員實(shí)際動(dòng)手有比較強(qiáng)的參考意義。此外,本書還包含了常用激活函數(shù),讀者可以方便的在附錄中查詢相關(guān)函數(shù)特性,是一本集原理、實(shí)踐與資料查詢?yōu)橐惑w的書籍。
作者簡(jiǎn)介:
馬特·R.科爾(Matt R. Cole)是一名經(jīng)驗(yàn)豐富的開發(fā)人員和作者,在Microsoft Windows、C、C++、 C#和.NET方面有30年的經(jīng)驗(yàn)。他是Evolved AI Solutions公司的老板,該公司是高級(jí)機(jī)器學(xué)習(xí)/生物AI技術(shù)的主要供應(yīng)商。他開發(fā)了第一個(gè)完全用C#和.NET編寫的企業(yè)級(jí)微服務(wù)框架,該框架被紐約一家大型對(duì)沖基金生產(chǎn)。他還開發(fā)了第一個(gè)完全整合鏡像和標(biāo)準(zhǔn)神經(jīng)元的生物人工智能框架。
出版日期:
2019年07月
章節(jié)目錄:
譯者序
前言
關(guān)于作者
關(guān)于審校者
第1章 快速預(yù)覽 1
1.1 神經(jīng)網(wǎng)絡(luò)概述 2
1.1.1 神經(jīng)網(wǎng)絡(luò)訓(xùn)練 4
1.1.2 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)指南 4
1.2 神經(jīng)網(wǎng)絡(luò)在當(dāng)今企業(yè)中的作用 6
1.3 學(xué)習(xí)的類型 6
1.3.1 有監(jiān)督學(xué)習(xí) 7
1.3.2 無監(jiān)督學(xué)習(xí) 7
1.3.3 強(qiáng)化學(xué)習(xí) 7
1.4 了解感知器 7
1.5 了解激活函數(shù) 10
1.5.1 激活函數(shù)繪圖 12
1.5.2 函數(shù)繪圖 13
1.6 了解后向傳播 16
1.7 小結(jié) 17
1.8 參考文獻(xiàn) 17
第2章 構(gòu)建第一個(gè)神經(jīng)網(wǎng)絡(luò) 18
2.1 一個(gè)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò) 18
2.2 神經(jīng)網(wǎng)絡(luò)訓(xùn)練 19
2.2.1 突觸 20
2.2.2 神經(jīng)元 21
2.2.3 前向傳播 21
2.2.4 Sigmoid函數(shù) 21
2.2.5 后向傳播 22
2.2.6 計(jì)算誤差 23
2.2.7 計(jì)算梯度 23
2.2.8 更新權(quán)重 23
2.2.9 計(jì)算值 23
2.3 神經(jīng)網(wǎng)絡(luò)函數(shù) 24
2.3.1 創(chuàng)建新網(wǎng)絡(luò) 24
2.3.2 導(dǎo)入現(xiàn)有網(wǎng)絡(luò) 24
2.3.3 導(dǎo)入數(shù)據(jù)集 27
2.3.4 網(wǎng)絡(luò)運(yùn)算 27
2.3.5 導(dǎo)出網(wǎng)絡(luò) 28
2.3.6 訓(xùn)練網(wǎng)絡(luò) 28
2.3.7 測(cè)試網(wǎng)絡(luò) 29
2.3.8 計(jì)算前向傳播 29
2.3.9 將網(wǎng)絡(luò)導(dǎo)出為JSON格式 29
2.3.10 導(dǎo)出數(shù)據(jù)集 30
2.4 神經(jīng)網(wǎng)絡(luò) 30
2.5 例子 31
2.5.1 訓(xùn)練到最小值 31
2.5.2 訓(xùn)練到最大值 31
2.6 小結(jié) 32
第3章 決策樹和隨機(jī)森林 33
3.1 決策樹 33
3.1.1 決策樹的優(yōu)點(diǎn) 34
3.1.2 決策樹的缺點(diǎn) 35
3.1.3 何時(shí)應(yīng)該使用決策樹 35
3.2 隨機(jī)森林 35
3.2.1 隨機(jī)森林的優(yōu)點(diǎn) 36
3.2.2 隨機(jī)森林的缺點(diǎn) 36
3.2.3 何時(shí)應(yīng)該使用隨機(jī)森林 36
3.3 SharpLearning 37
3.3.1 術(shù)語 37
3.3.2 加載和保存模型 37
3.4 示例代碼和應(yīng)用程序 41
3.4.1 保存模型 41
3.4.2 均方差回歸指標(biāo) 41
3.4.3 F1分?jǐn)?shù) 41
3.4.4 優(yōu)化 42
3.4.5 示例應(yīng)用程序1 42
3.4.6 示例應(yīng)用程序2—葡萄酒質(zhì)量 43
3.5 小結(jié) 45
3.6 參考文獻(xiàn) 45
第4章 面部和運(yùn)動(dòng)檢測(cè) 46
4.1 面部檢測(cè) 46
4.2 運(yùn)動(dòng)檢測(cè) 54
4.3 小結(jié) 59
第5章 使用ConvNetSharp訓(xùn)練CNN 60
5.1 熱身 60
5.2 過濾器 64
5.3 創(chuàng)建網(wǎng)絡(luò) 64
5.3.1 第一個(gè)簡(jiǎn)單的例子 65
5.3.2 第二個(gè)簡(jiǎn)單的例子 66
5.3.3 第三個(gè)簡(jiǎn)單的例子 67
5.3.4 使用Fluent API 68
5.4 GPU 68
5.5 使用MNIST數(shù)據(jù)集進(jìn)行流暢設(shè)計(jì)訓(xùn)練 68
5.6 訓(xùn)練網(wǎng)絡(luò) 69
5.6.1 測(cè)試數(shù)據(jù) 70
5.6.2 預(yù)測(cè)數(shù)據(jù) 71
5.6.3 計(jì)算圖 71
5.7 小結(jié) 73
5.8 參考文獻(xiàn) 73
第6章 使用 RNNSharp訓(xùn)練自動(dòng)編碼器 74
6.1 什么是自動(dòng)編碼器 74
6.2 自動(dòng)編碼器的分類 74
6.2.1 標(biāo)準(zhǔn)自動(dòng)編碼器 75
6.2.2 變分自動(dòng)編碼器 76
6.2.3 降噪自動(dòng)編碼器 76
6.2.4 稀疏自動(dòng)編碼器 76
6.3 創(chuàng)建自己的自動(dòng)編碼器 76
6.4 小結(jié) 87
6.5 參考文獻(xiàn) 88
第7章 用PSO代替后向傳播 89
7.1 基礎(chǔ)理論 89
7.1.1 群體智能 90
7.1.2 粒子群優(yōu)化算法 90
7.2 用粒子群優(yōu)化算法代替后向傳播 94
7.3 小結(jié) 98
第8章 函數(shù)優(yōu)化 99
8.1 入門 100
8.2 函數(shù)最小化和最大化 103
8.2.1 什么是粒子 104
8.2.2 Swarm初始化 106
8.2.3 圖表初始化 107
8.2.4 狀態(tài)初始化 108
8.2.5 控制隨機(jī)性 109
8.2.6 更新群體位置 110
8.2.7 更新群速度 110
8.2.8 主程序初始化 110
8.2.9 運(yùn)行粒子群優(yōu)化 111
8.2.10 用戶界面 112
8.3 超參數(shù)和調(diào)參 113
8.3.1 函數(shù) 113
8.3.2 策略 114
8.3.3 維度大小 115
8.3.4 上限 115
8.3.5 下限 116
8.3.6 上限速度 116
8.3.7 下限速度 117
8.3.8 小數(shù)位 117
8.3.9 群體大小 117
8.3.10 最大迭代次數(shù) 118
8.3.11 慣性 119
8.3.12 社交權(quán)重 120
8.3.13 認(rèn)知權(quán)重 121
8.3.14 慣性權(quán)重 122
8.4 可視化 122
8.4.1 二維可視化 122
8.4.2 三維可視化 123
8.5 繪制結(jié)果 128
8.5.1 回放結(jié)果 128
8.5.2 更新信息樹 130
8.6 添加新的優(yōu)化函數(shù) 131
8.6.1 目的 131
8.6.2 添加新函數(shù)的步驟 131
8.6.3 添加新函數(shù)示例 132
8.7 小結(jié) 135
第9章 尋找最佳參數(shù) 136
9.1 優(yōu)化 136
9.1.1 什么是適配函數(shù) 137
9.1.2 約束 137
9.1.3 元優(yōu)化 139
9.2 優(yōu)化方法 141
9.2.1 選擇優(yōu)化器 141
9.2.2 梯度下降 141
9.2.3 模式搜索 141
9.2.4 局部單峰采樣 142
9.2.5 差異進(jìn)化 142
9.2.6 粒子群優(yōu)化 143
9.2.7 多優(yōu)化聯(lián)絡(luò)員 143
9.2.8 網(wǎng)格 143
9.3 并行 144
9.3.1 并行化優(yōu)化問題 144
9.3.2 并行優(yōu)化方法 144
9.3.3 編寫代碼 144
9.3.4 執(zhí)行元優(yōu)化 146
9.3.5 計(jì)算適配度 146
9.3.6 測(cè)試自定義問題 148
……
封面圖: