授業科目名	情報理論
時間割番号	TCS201
担当教員名	岩沼　宏治
開講学期・曜日・時限	前期・金・III	単位数	2
＜対象学生＞
(未登録)
＜授業の目的＞
大容量・高速のコンピュータ・ネットワーク時代を迎え、マルチメディア・データの処理と通信は、その重要性を益々増してきている。シャノンにより創始された情報理論は、マルチメディア処理の根幹を成す極めて重要な基礎理論・技術である。本講義では、このシャノンの情報理論とその周辺について講義を進める．具体的な講義内容としては，情報処理学会のJS97の内容に準拠する．
＜本授業科目による獲得・涵養が特に期待されるコンピテンシー＞（能力・資質）
工学部(～2023年度入学生)>コンピュータ理工学科向け 記号 コンピテンシー（能力・資質）   CS-A 専門 5.時代の変化に対応できるよう、最新の技術動向を考慮して、自律的・継続的に学習できる。 ○ CS-B 6.情報科学、及び、数学や自然科学等の知識と手法を用いて、以下のことができる。 6a.解決すべき問題を形式化することができる。 ◎ CS-C 6b.要求、時間、費用、資源等の制約条件を考慮した上で、複数の解が存在するような複雑な問題の中から適切な解を見つけ出すことができ ○
＜到達目標＞  到達目標とは
目標NO 説明 コンピテンシーとの対応 CS 1 情報量のシャノン流の定式化が説明できること CS-B 2 情報源符号化：情報源モデルと圧縮の原理と技術が説明できること CS-C 3 通信路符号化：通信路モデルと誤り検出と訂正の原理と技術が説明できること CS-C 4 伝送路符号化：伝送路符号化の原理と技術が説明できること CS-C 5 情報理論に関する基本的事項の応用ができること CS-A
＜成績評価の方法＞
目標No 割合 評価の観点 1 5% 情報量のシャノン流の定式化が説明できること 2 30% 情報源モデルと圧縮の理解度 3 35% 通信路モデルと誤り検出と訂正の理解度 4 15% 伝送路符号化の理解度 5 15% 情報理論に関する基本的事項の応用力 合計 100%
＜授業の方法＞
講義は面接授業を基本として，小テスト（オンライン型）を毎回行う． ・Moodle上に講義資料と復習用動画資料を公開し，オンデマンド型授業の長所を取り入れる． ・試験対策その他のための演習問題もMoodle上で配布する． ・成績評価は複数回の試験と小テスト，およびレポートにより行う．
＜受講に際して・学生へのメッセージ＞
前提知識として，確率統計，離散数学，線形代数学，アルゴリズムとデータ構造（初歩的なプログラミング技術も含む），電気電子などに関する基本的な知識が必要です．
＜テキスト＞
小川英一, 改定マルチメディア時代の情報理論, コロナ社, ISBN:978-4-339-02893-5
＜参考書＞
今井秀樹, 情報理論, 昭晃堂, ISBN:4785611391 白木善尚編,, ITテキスト　情報理論, オーム社, ISBN:4274205958 横尾　英俊, 情報理論の基礎, 共立出版, ISBN:4320121066 橋本猛, 情報理論, 培風館, ISBN:4563013986
＜授業計画の概要＞
1 タイトル ガイダンスおよび序論：情報伝送の基礎知識と情報量の数量化 事前学習 事後学習 事前配布の講義資料の予習と講義の小テスト 授業内容 講義ガイダンス，情報理論の基礎，ビット，自己情報量，平均情報量（エントロピー） 2 タイトル 情報源符号化その１ 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 符号の木，クラフトの不等式，ハフマン符号化 3 タイトル 情報源符号化その２ 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 （非等長）ハフマンブロック符号化，情報源符号化定理，記憶のある情報源：マルコフ情報源 4 タイトル データの圧縮その１ 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 ランレングス符号化，ＭＨ符号化 5 タイトル データの圧縮その２ 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 ＬＺ符号化とその周辺 6 タイトル 前半のまとめと中間評価その１ 事前学習 事後学習 これまでの講義資料の復習 授業内容 これまでの授業のまとめと試験問題の出題意図の解説 7 タイトル 通信路符号化その１ 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 誤りの種類，誤り検出と訂正の原理，ハミング距離，符号空間 8 タイトル 通信路符号化その２ 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 通信路の確率モデル，相互情報量，最尤符号推定法，通信路符号化定理 9 タイトル 最尤復号法 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 尤度，最尤符号推定，情報源と通信路モデル上の確率計算 10 タイトル 基礎的な誤り検出・訂正符号 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 パリティ検査符号，ハミング符号，線形符号，検査行列，シンドローム 11 タイトル 中盤のまとめと中間評価その２ 事前学習 事後学習 これまでの講義資料の復習 授業内容 これまでの授業のまとめと試験問題の出題意図の解説 12 タイトル 実用的な誤り検出・訂正符号その１ 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 ＣＲＣ符号とその周辺 13 タイトル 実用的な誤り検出・訂正符号その２ 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 畳み込み符号とビタビ復号 14 タイトル 伝送路符号化とアナログ信号の情報量 事前学習 事後学習 事前配布の講義資料の予習と講義後の小テスト 授業内容 ベースバンド信号，変調符号，記録符号化とＲＡＩＤ技術，標本化，量子化，周波数帯域 15 タイトル 期末のまとめと総合評価 事前学習 事後学習 これまでの講義資料の復習 授業内容 これまでの授業のまとめと試験問題の出題意図の解説 16 タイトル 事前学習 事後学習 授業内容 17 タイトル 事前学習 事後学習 授業内容 18 タイトル 事前学習 事後学習 授業内容 19 タイトル 事前学習 事後学習 授業内容 20 タイトル 事前学習 事後学習 授業内容 21 タイトル 事前学習 事後学習 授業内容 22 タイトル 事前学習 事後学習 授業内容 23 タイトル 事前学習 事後学習 授業内容 24 タイトル 事前学習 事後学習 授業内容 25 タイトル 事前学習 事後学習 授業内容 26 タイトル 事前学習 事後学習 授業内容 27 タイトル 事前学習 事後学習 授業内容 28 タイトル 事前学習 事後学習 授業内容 29 タイトル 事前学習 事後学習 授業内容 30 タイトル 事前学習 事後学習 授業内容
＜前年度授業に対する改善要望等への対応＞
前年度の授業アンケートにおいて，講義内容の周辺事項の解説について賛否両方の意見が寄せられた．今年度は試行として，周辺事項を少し減らし，講義での口頭説明の分量の削減を試みる予定である．その他は前年度と同様に実施する予定である．
＜備考＞
オフィスアワー：月曜４時限目