授業科目名	情報理論
時間割番号	TCS201
担当教員名	岩沼　宏治
開講学期・曜日・時限	前期・金・IV	単位数	2
＜対象学生＞
(未登録)
＜授業の目的＞
大容量・高速のコンピュータ・ネットワーク時代を迎え、マルチメディア・データの処理と通信は、その重要性を益々増してきている。シャノンにより創始された情報理論は、マルチメディア処理の根幹を成す極めて重要な基礎理論・技術である。本講義では、このシャノンの情報理論とその周辺について講義を進める．具体的な講義内容としては，情報処理学会のJS97の内容に準拠する．
＜本授業科目による獲得・涵養が特に期待されるコンピテンシー＞（能力・資質）
工学部>コンピュータ理工学科向け 記号 コンピテンシー（能力・資質）   CS-A 専門 5.時代の変化に対応できるよう、最新の技術動向を考慮して、自律的・継続的に学習できる。 ○ CS-B 6.情報科学、及び、数学や自然科学等の知識と手法を用いて、以下のことができる。 6a.解決すべき問題を形式化することができる。 ◎ CS-C 6b.要求、時間、費用、資源等の制約条件を考慮した上で、複数の解が存在するような複雑な問題の中から適切な解を見つけ出すことができ ○
＜到達目標＞  到達目標とは
目標NO 説明 コンピテンシーとの対応 CS 1 情報量のシャノン流の定式化が説明できること CS-B 2 情報源符号化：情報源モデルと圧縮の原理と技術が説明できること CS-C 3 通信路符号化：通信路モデルと誤り検出と訂正の原理と技術が説明できること CS-C 4 伝送路符号化：伝送路符号化の原理と技術が説明できること CS-C 5 情報理論に関する基本的事項の応用ができること CS-A
＜成績評価の方法＞
目標No 割合 評価の観点 1 5% 情報量のシャノン流の定式化が説明できること 2 30% 情報源モデルと圧縮の理解度 3 35% 通信路モデルと誤り検出と訂正の理解度 4 15% 伝送路符号化の理解度 5 15% 情報理論に関する基本的事項の応用力 合計 100%
＜授業の方法＞
オンデマンド型講義資料を用いた事前学習と講義当日のライブ型遠隔授業を組み合わせた講義を行う． ・適宜，自主勉強用の演習問題を配布する． ・成績評価は複数回の定期試験，小テストとレポートにより行う．
＜受講に際して・学生へのメッセージ＞
離散数学，線形代数学I, II，確率統計及び実習I,II，アルゴリズムとデータ構造を前提知識，関連知識です．
＜テキスト＞
小川英一, 改定マルチメディア時代の情報理論, コロナ社, ISBN:978-4-339-02893-5
＜参考書＞
今井秀樹, 情報理論, 昭晃堂, ISBN:4785611391 白木善尚編,, ITテキスト　情報理論, オーム社, ISBN:4274205958 横尾　英俊, 情報理論の基礎, 共立出版, ISBN:4320121066 橋本猛, 情報理論, 培風館, ISBN:4563013986
＜授業計画の概要＞
1 タイトル 情報理論の枠組み，情報量の数量化の基礎 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 講義ガイダンス，情報理論の基礎，ビット，自己情報量，平均情報量（エントロピー） 2 タイトル 情報源符号化その１ 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 符号の木，クラフトの不等式，ハフマン符号化 3 タイトル 情報源符号化その２ 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 （非等長）ハフマンブロック符号化，情報源符号化定理，記憶のある情報源：マルコフ情報源 4 タイトル データの圧縮その１ 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 ランレングス符号化，ＭＨ符号化 5 タイトル データの圧縮その２ 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 ＬＺ符号化 6 タイトル 前半のまとめと中間評価その１ 事前学習 事後学習 これまでの講義資料の復習 授業内容 これまでの授業のまとめと試験問題の出題意図の解説 7 タイトル 通信路符号化その１ 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 誤りの種類，誤り検出と訂正の原理，ハミング距離，符号空間 8 タイトル 通信路符号化その２ 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 通信路の確率モデル，相互情報量，最尤符号推定法，通信路符号化定理 9 タイトル 最尤復号法 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 尤度，最尤符号推定，情報源と通信路モデル上の確率計算 10 タイトル 基礎的な誤り検出・訂正符号 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 パリティ検査符号，ハミング符号，線形符号，検査行列，シンドローム 11 タイトル 中盤のまとめと中間評価その２ 事前学習 事後学習 これまでの講義資料の復習 授業内容 これまでの授業のまとめと試験問題の出題意図の解説 12 タイトル 実用的な誤り検出・訂正符号その１ 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 ＣＲＣ符号 13 タイトル 実用的な誤り検出・訂正符号その２ 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 畳み込み符号とビタビ復号 14 タイトル 伝送路符号化とアナログ信号の情報量 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 ベースバンド信号，変調符号，記録符号化とＲＡＩＤ技術，標本化，量子化，周波数帯域 15 タイトル 期末のまとめと総合評価 事前学習 事後学習 これまでの講義資料の復習 授業内容 これまでの授業のまとめと試験問題の出題意図の解説 16 タイトル 事前学習 事後学習 授業内容 17 タイトル 事前学習 事後学習 授業内容 18 タイトル 事前学習 事後学習 授業内容 19 タイトル 事前学習 事後学習 授業内容 20 タイトル 事前学習 事後学習 授業内容 21 タイトル 事前学習 事後学習 授業内容 22 タイトル 事前学習 事後学習 授業内容 23 タイトル 事前学習 事後学習 授業内容 24 タイトル 事前学習 事後学習 授業内容 25 タイトル 事前学習 事後学習 授業内容 26 タイトル 事前学習 事後学習 授業内容 27 タイトル 事前学習 事後学習 授業内容 28 タイトル 事前学習 事後学習 授業内容 29 タイトル 事前学習 事後学習 授業内容 30 タイトル 事前学習 事後学習 授業内容
＜備考＞
オフィスアワー：月曜４時限目