情報理論への良いイントロをお願いしますか？ [閉まっている

Question

私は知っています ウィキペディア とマッカイの 情報理論、推論、および学習アルゴリズム （教科書として適切ですか？）。シャノンのエントロピーから始まり、条件付きエントロピーと相互情報を通過することから始まる教科書が求められています...何かアイデアはありますか？あなたがあなたの大学でそのようなコースをフォローしている場合、どの教科書が使用されていますか？

ありがとう。

Answer 1

CSでの勉強中に次の教科書を使用しました EPFL. 。 IMO、それはよく書かれており、良い説明があり、ドメインの紹介に十分なカバーをカバーしています。

情報理論の要素

編集：さらに読むために、私の教授がお勧めした他の読み物を以下に示します。私はそれらを読んでいませんでした（私に恥をかかせます）ので、彼らが良いかどうかは言えません。

1. rgギャラガー、 情報理論と信頼できるコミュニケーション, 、ワイリー、1968年。
2. D.マッカイ、 情報理論、推論および学習アルゴリズム, 、ケンブリッジ大学出版局、2008年（あなたはすでにそれについて言及しました）
3. I. CsiszarとJ. Korner、 情報理論：離散メモリレスシステムの定理をコーディングします, 、Akademiai kiado、1997。
4. CEシャノン、コミュニケーションの数学理論