編輯推薦
《資訊理論基礎》可作為高等學校信息與計算科學專業以及信息類專業的教材，也可作為相關課程的教學參考書。
圖書目錄
前言
第1章 緒論
第2章 機率統計的基礎知識
2.1 機率空間
2.2 條件機率
2.3 獨立性
2.4 隨機變數
2.4.1 隨機變數的基本性質
2.4.2 隨機變數的獨立性
2.5 隨機變數的數字特徵
2.5.1 離散型
2.5.2 連續型
2.6 大數定律
習題2
第3章 離散信源的熵和信息量
3.1 離散信源
3.2 事件的互信息
3.3 條件互信息和聯合事件的互信息
3.4 事件的自信息
3.5 離散隨機變數的平均自信息——熵
3.6 熵的性質
3.7 香農熵的公理化定義
3.8 隨機變數的鑑別信息和平均互信息
3.8.1 隨機變數的鑑別信息
3.8.2 隨機變數的互信息
3.9 馬爾可夫鏈和數據處理定理
3.10 連續隨機變數的互信息和微分熵
3.10.1 連續隨機變數的互信息
3.10.2 連續隨機變數的熵——微分熵
3.10.3 微分熵的極大化
3.11 凸函式和互信息的凸性
3.11.1 凸函式的概念和性質
3.11.2 Kuhn-Tucker條件
3.11.3 互信息的凸性
3.12 平穩離散信源
3.12.1 平穩離散信源的一般概念
3.12.2 平穩信源的熵
3.12.3 馬爾可夫信源的熵
習題3
第4章 離散信源的無錯編碼
4.1 漸近等同分割性和離散無記憶信源的等長編碼
4.1.1 漸近等同分割性
4.1.2 離散無記憶信源的等長編碼
4.2 離散無記憶信源的不等長編碼
4.2.1 Kraft不等式
4.2.2 不等長編碼定理
4.2.3 最佳不等長編碼(Huffman編碼)
4.2.4 其他不等長編碼
4.3 平穩信源和馬爾可夫信源的編碼定理
4.3.1 平穩信源的編碼
4.3.2 馬爾可夫信源的編碼定理
習題4
第5章 離散無記憶信道的容量和編碼定理
5.1 離散無記憶信道及其容量
5.1.1 信道容量的定義和舉例
5.1.2 對稱離散無記憶信道容量的計算
5.1.3 轉移機率矩陣可逆信道的容量計算
5.1.4 離散無記憶信道容量的疊代計算
5.2 信道的組合
5.2.1 積信道(平行組合信道)
5.2.2 和信道
5.2.3 級聯信道
5.3 離散無記憶信道的編碼定理
5.3.1 幾個有關定義
5.3.2 聯合典型列對
5.3.3 信道編碼定理
習題5
參考文獻
……
