內容簡介
深度神經網路是近年來受到廣泛關注的研究方向，它已成為人工智慧2.0的主要組成部分。本書系統地論述了深度神經網路基本理論、算法及套用。全書共十六章，分為兩個部分；第一部分（第一章到第十章）系統論述了理論及算法，包括深度前饋神經網路、深度卷積神經網路、深度堆疊神經網路、深度遞歸神經網路、深度生成網路、深度融合網路等；第二部分（第十一章到第十五章）論述了常用的深度學習平台，以及在高光譜圖像、自然圖像、SAR與極化SAR影像等領域的套用；第十六章為總結與展望，給出了深度學習發展的歷史圖、前沿方及最新進展。每章都附有相關閱讀材料及仿真代碼，以便有興趣的讀者進一步鑽研探索。本書可為高等院校計算機科學、電子科學與技術、信息科學、控制科學與工程、人工智慧等領域的研究人員提供參考，以及作為相關專專業本科生及研究生教學參考書，同時可供深度學習及其套用感興趣的研究人員和工程技術人員參考。
作者簡介
焦李成，男，漢族，1959年10月生，1992年起任西安電子科技大學教授。現任智慧型感知與計算國際聯合研究中心主任、智慧型感知與圖像理解教育部重點實驗室主任、智慧型感知與計算國際合作聯合實驗室主任、“智慧型信息處理科學與技術”高等學校學科創新引智基地（“111計畫”）主任、教育部科技委國際合作部學部委員、中國人工智慧學會副理事長、IET西安分會主席、IEEE西安分會獎勵委員會主席、IEEE計算智慧型協會西安分會主席、IEEE GRSS西安分會主席，IEEE TGRS副主編、教育部創新團隊首席專家。國務院學位委員會學科評議組成員、教育部本科教學水平評估專家。1991年被批准為享受國務院政府津貼的專家，1996年首批入選國家“百千萬”人才工程（第一、二層次）。當選為全國模範教師、陝西省師德標兵和曾任第八屆全國人大代表。焦李成教授的主要研究方向為智慧型感知與計算、圖像理解與目標識別、深度學習與類腦計算，培養的十餘名博士獲全國優秀博士學位論文獎、提名獎及陝西省優秀博士論文獎。研究成果獲包括國家自然科學獎二等獎及省部級一等獎以上科技獎勵十餘項，出版學術專著十餘部，五次獲國家優秀科技圖書獎勵及全國首屆三個一百優秀圖書獎。
目錄
目錄
第1章深度學習基礎
1.1數學基礎
1.1.1矩陣論
1.1.2機率論
1.1.3最佳化分析
1.1.4框架分析
1.2稀疏表示
1.2.1稀疏表示初步
1.2.2稀疏模型
1.2.3稀疏認知學習、計算與識別的範式
1.3機器學習與神經網路
1.3.1機器學習
1.3.2神經網路
參考文獻
第2章深度前饋神經網路
2.1神經元的生物機理
2.1.1生物機理
2.1.2單隱層前饋神經網路
2.2多隱層前饋神經網路
2.3反向傳播算法
2.4深度前饋神經網路的學習範式
參考文獻
第3章深度卷積神經網路
3.1卷積神經網路的生物機理及數學刻畫
3.1.1生物機理
3.1.2卷積流的數學刻畫
3.2深度卷積神經網路
3.2.1典型網路模型與框架
3.2.2學習算法及訓練策略
3.2.3模型的優缺點分析
3.3深度反卷積神經網路
3.3.1卷積稀疏編碼
3.3.2深度反卷積神經網路
3.3.3網路模型的性能分析與套用舉例
3.4全卷積神經網路
3.4.1網路模型的數學刻畫
3.4.2網路模型的性能分析及套用舉例
參考文獻
第4章深度堆疊自編碼網路
4.1自編碼網路
4.1.1逐層學習策略
4.1.2自編碼網路
4.1.3自編碼網路的常見範式
4.2深度堆疊網路
4.3深度置信網路/深度玻爾茲曼機網路
4.3.1玻爾茲曼機/受限玻爾茲曼機
4.3.2深度玻爾茲曼機/深度置信網路
參考文獻
第5章稀疏深度神經網路
5.1稀疏性的生物機理
5.1.1生物視覺機理
5.1.2稀疏性回響與數學物理描述
5.2稀疏深度網路模型及基本性質
5.2.1數據的稀疏性
5.2.2稀疏正則
5.2.3稀疏連線
5.2.4稀疏分類器設計
5.2.5深度學習中關於稀疏的技巧與策略
5.3網路模型的性能分析
5.3.1稀疏性對深度學習的影響
5.3.2對比試驗及結果分析
參考文獻
第6章深度融合網路
6.1深度SVM網路
6.1.1從神經網路到SVM
6.1.2網路模型的結構
6.1.3訓練技巧
6.2深度PCA網路
6.3深度ADMM網路
6.4深度極限學習機
6.4.1極限學習機
6.4.2深度極限學習機
6.5深度多尺度幾何網路
6.5.1深度脊波網路
6.5.2深度輪廓波網路
6.6深度森林
6.6.1多分辨特性融合
6.6.2級聯特徵深度處理
參考文獻
第7章深度生成網路
7.1生成式對抗網路的基本原理
7.1.1網路模型的動機
7.1.2網路模型的數學物理描述
7.2深度卷積對抗生成網路
7.2.1網路模型的基本結構
7.2.2網路模型的性能分析
7.2.3網路模型的典型套用
7.3深度生成網路模型的新範式
7.3.1生成式對抗網路的新範式
7.3.2網路框架的性能分析與改進
7.4套用驅動下的兩種新生成式對抗網路
7.4.1堆疊生成式對抗網路
7.4.2對偶學習範式下的生成式對抗網路
7.5變分自編碼器
參考文獻
第8章深度復卷積神經網路與深度二值神經網路
8.1深度復卷積神經網路
8.1.1網路模型構造的動機
8.1.2網路模型的數學物理描述
8.2深度二值神經網路
8.2.1網路基本結構
8.2.2網路的數學物理描述
8.2.3討論
參考文獻
第9章深度循環和遞歸神經網路
9.1深度循環神經網路
9.1.1循環神經網路的生物機理
9.1.2簡單的循環神經網路
9.1.3深度循環神經網路的數學物理描述
9.2深度遞歸神經網路
9.2.1簡單的遞歸神經網路
9.2.2深度遞歸神經網路的優勢
9.3長短時記憶神經網路
9.3.1改進動機分析
9.3.2長短時記憶神經網路的數學分析
9.4典型套用
9.4.1深度循環神經網路的套用舉例
9.4.2深度遞歸神經網路的套用舉例
參考文獻
第10章深度強化學習
10.1深度強化學習簡介
10.1.1深度強化學習的基本思路
10.1.2發展歷程
10.1.3套用新方向
10.2深度Q網路
10.2.1網路基本模型與框架
10.2.2深度Q網路的數學分析
10.3套用舉例——AlphaGo
10.3.1AlphaGo原理分析
10.3.2深度強化學習性能分析
參考文獻
第11章深度學習軟體仿真平台及開發環境
11.1Caffe平台
11.1.1Caffe平台開發環境
11.1.2AlexNet神經網路學習
11.1.3AlexNet神經網路套用於圖像分類
11.2TensorFlow平台
11.2.1TensorFlow平台開發環境
11.2.2深度卷積生成式對抗網DCGAN
11.2.3DAN套用於樣本擴充
11.3MXNet平台
11.3.1MXNet平台開發環境
11.3.2VGGNET深度神經網路學習
11.3.3圖像分類套用任務
11.4Torch 7平台
11.4.1Torch 7平台開發環境
11.4.2二值神經網路
11.4.3二值神經網路套用於圖像分類
11.5Theano平台
11.5.1Theano平台開發環境
11.5.2遞歸神經網路
11.5.3LSTM套用於情感分類任務
參考文獻
第12章基於深度神經網路的SAR/PolSAR影像地物分類
12.1數據集及研究目的
12.1.1數據集特性分析
12.1.2基本數據集
12.1.3研究目的
12.2基於深度神經網路的SAR影像地物分類
12.2.1基於自適應自編碼和超像素的SAR圖像分類
12.2.2基於卷積中層特徵學習的SAR圖像分類
12.3基於第一代深度神經網路的PolSAR影像地物分類
12.3.1基於稀疏極化DBN的極化SAR地物分類
12.3.2基於深度PCA網路的極化SAR影像地物分類
12.4基於第二代深度神經網路的PolSAR影像地物分類
12.4.1基於深度復卷積網路的PolSAR影像地物分類
12.4.2基於生成式對抗網的PolSAR影像地物分類
12.4.3基於深度殘差網路的PolSAR影像地物分類
參考文獻
第13章基於深度神經網路的SAR影像的變化檢測
13.1數據集特點及研究目的
13.1.1研究目的
13.1.2數據基本特性
13.1.3典型數據集
13.2基於深度學習和SIFT特徵的SAR圖像變化檢測
13.2.1基本方法與實現策略
13.2.2對比試驗結果分析
13.3基於SAE的SAR圖像變化檢測
13.3.1基本方法與實現策略
13.3.2實驗結果和分析
13.4基於CNN的SAR圖像變化檢測
13.4.1基本方法與實現策略
13.4.2對比試驗結果分析
參考文獻
第14章基於深度神經網路的高光譜圖像分類與壓縮
14.1數據集及研究目的
14.1.1高光譜遙感技術
14.1.2高光譜遙感的研究目的
14.1.3常用的高光譜數據集
14.2基於深度神經網路的高光譜影像的分類
14.2.1基於堆疊自編碼的高光譜影像的分類
14.2.2基於卷積神經網路的高光譜影像的分類
14.3基於深度神經網路的高光譜影像的壓縮
14.3.1基於深度自編碼網路的高光譜圖像壓縮方法
14.3.2實驗設計及分類結果
參考文獻
第15章基於深度神經網路的目標檢測與識別
15.1數據特性及研究目的
15.1.1研究目的
15.1.2常用數據集
15.2基於快速CNN的目標檢測與識別
15.2.1RCNN
15.2.2Fast RCNN
15.2.3Faster RCNN
15.2.4對比實驗結果與分析
15.3基於回歸學習的目標檢測與識別
15.3.1YOLO
15.3.2SSD
15.3.3對比實驗結果與分析
15.4基於學習搜尋的目標檢測與識別
15.4.1基於深度學習的主動目標定位
15.4.2AttentionNet
15.4.3對比實驗結果與分析
參考文獻
第16章總結與展望
16.1深度學習發展歷史圖
16.1.1從機器學習、稀疏表示學習到深度學習
16.1.2深度學習、計算與認知的範式演進
16.1.3深度學習形成脈絡
16.2深度學習的套用介紹
16.2.1目標檢測與識別
16.2.2超分辨
16.2.3自然語言處理
16.3深度神經網路的可塑性
16.3.1旋轉不變性
16.3.2平移不變性
16.3.3多尺度、多分辨和多通路特性
16.3.4稀疏性
16.4基於腦啟發式的深度學習前沿方向
16.4.1生物神經領域關於認知、識別、注意等的最新研究進展
16.4.2深度神經網路的進一步研究方向
16.4.3深度學習的可拓展性
參考文獻
附錄A基於深度學習的常見任務處理介紹
附錄B代碼介紹
