圖書簡介
本書介紹資訊理論與編碼的基本理論和方法。全書共分9章,內容包括信息的概念、數字通信系統模型、資訊理論的發展狀況、信息的統計度量、 離散與連續信源、離散與連續信道、信道容量、信息率失真函式、無失真信源編碼、限失真信源編碼、有噪信道編碼、糾錯編碼、資訊理論在密碼學中的套用、網路資訊理論初步,每章後面附有習題,便於加深理解。
本書系統簡明,深入淺出,舉例經典,注重思路; 適合作為高等院校信息科學與信息技術相關專業的本科生教材或教學參考書,也適合作為從事通信、雷達、導航、計算機、控制、系統工程、生物工程、管理工程等有關的科研和工程技術人員的入門參考書。
圖書目錄
第1章緒論
1.1信息與資訊理論
1.2通信系統模型
1.3資訊理論的形成和發展
第2章離散信源與信息熵
2.1信源的分類和描述
2.2離散信源的信息熵
2.2.1自信息量
2.2.2平均自信息量
2.2.3熵的性質
2.3離散無記憶信源
2.3.1離散無記憶信源的數學描述
2.3.2離散平穩無記憶信源的信息熵
2.4離散平穩信源
2.4.1離散平穩信源的定義
2.4.2平均符號熵與二維平穩信源
2.4.3離散平穩信源的極限熵
2.5馬爾可夫信源
2.5.1馬爾可夫信源的數學描述
2.5.2馬爾可夫鏈
2.5.3極限熵與條件熵
2.6信源的相關性與冗餘度
習題
第3章離散信道與平均互信息量
3.1信道的模型和分類
3.1.1信道的系統模型
3.1.2信道的分類
3.1.3離散信道的數學模型
3.2互信息量與平均互信息量
3.2.1互信息量
3.2.2平均互信息量
3.3信道容量
3.3.1信道容量的定義
3.3.2無噪信道的信道容量
3.3.3對稱信道的信道容量
3.3.4一般信道的信道容量
3.3.5信源與信道匹配
3.4離散無記憶信道
3.4.1離散無記憶信道的數學描述
3.4.2離散無記憶信道的平均互信息量
3.5串聯信道的平均互信息量
習題
第4章無失真信源編碼
4.1信源編碼的基本概念和要求
4.2即時碼與唯一可解碼
4.3定長編碼定理
4.4變長編碼定理
4.5變長編碼方法
4.5.1香農編碼方法
4.5.2費諾編碼方法
4.5.3霍夫曼編碼方法
習題
第5章限失真信源編碼
5.1失真函式
5.1.1失真度
5.1.2平均失真度
5.2信息率失真函式
5.2.1信息率失真函式的定義
5.2.2信息率失真函式的性質
5.2.3二進制信源的率失真函式
5.3信息率失真函式的計算
5.3.1率失真函式的參量表述方法
5.3.2率失真函式的疊代計算方法
5.4限失真信源編碼定理
習題
第6章有擾信道編碼
6.1信道編碼的基本概念
6.2差錯控制系統
6.3信道編碼的分類
6.4編碼信道模型
6.5最大後驗機率解碼與最大似然解碼
6.6漢明距離與距離分布
6.7編碼信道容量
6.8信道編碼定理
習題
第7章線性糾錯碼
7.1線性分組碼與生成矩陣
7.2線性分組碼與校驗矩陣
7.3線性分組碼的解碼
7.3.1伴隨式與碼的結構
7.3.2不可檢錯機率與碼的重量分布
7.3.3標準陣列與陪集
7.4Hamming碼及其變形
7.4.1Hamming碼
7.4.2Hamming碼的變形
7.5線性分組碼的性能限
7.6Turbo分組碼
7.6.1Turbo分組碼的編碼
7.6.2Turbo疊代解碼的基本思想
7.7LDPC碼
7.7.1LDPC碼的概念
7.7.2LDPC碼的構造
7.7.3LDPC碼疊代解碼的基本思想
7.7.4二進制刪除信道中的疊代解碼算法
7.8糾錯解碼的性能估計
習題
第8章連續信源與連續信道
8.1連續信源與其相對熵
8.1.1單維連續信源的相對熵
8.1.2連續信源的最大熵
8.1.3多維連續信源的相對熵
8.2連續信道與平均互信息量
8.2.1單維連續信道的平均互信息量
8.2.2多維連續信道的平均互信息量
8.3連續信道的信道容量
8.3.1單維加性信道的信道容量
8.3.2多維加性信道的信道容量
8.3.3信道編碼定理與香農限
8.4連續信源的信息率失真函式
8.4.1信息率失真函式的定義和性質
8.4.2高斯信源的信息率失真函式
習題
第9章資訊理論發展與套用
9.1網路資訊理論初步
9.1.1網路信道分類
9.1.2網路信道容量
9.2資訊理論在密碼學中的套用
9.2.1保密系統
9.2.2安全保密性
習題
參考文獻