数理情報科学特論Ⅱ

科目名	数理情報科学特論Ⅱ
教員名	古市茂
単位数	2	課程		開講区分	文理学部
学期	後期	履修区分	選択必修

授業テーマ	情報理論の発展的内容
授業のねらい・到達目標	3年次に学んだ情報理論をべつの切り口から学びなおす。特に，3年次の授業で取り扱えなかった，Data-Processing不等式，Fano不等式，漸近等分割性などを学ぶ。
授業の方法	受講者による輪講形式とする。最初の授業（オリエンテーション）で，洋書のコピーを配布するので，次週までに内容を理解してきて，皆の前で解説する。
履修条件	情報理論１・２を履修していることが望ましい。
事前学修・事後学修，授業計画コメント	3年次の情報理論の教科書を復習しておくとよい

授業計画
1	オリエンテーション（授業内容，進め方などの詳細を説明する．授業で使うプリントの配布を行う。） [事前準備：初回なので特になし]
2	entropy, joint entropy, conditional entropy [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
3	relative entropy, mutual entropy [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
4	entropyとmutual entropyの関係,chain rules [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
5	Jansenの不等式とlog-sum不等式 [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
6	Data-processing不等式 [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
7	Fanoの不等式 [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
8	AEPの定理 [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
9	データ圧縮 [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
10	典型系列 [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
11	マルコフ連鎖 [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
12	entropy rate [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
13	マルコフ連鎖の例 [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
14	熱力学第2法則 [事前準備：該当箇所を事前に精読し理解し，他人に説明できるようにしておくこと]
15	これまでの成果，発表 [事前準備：これまでに学んだ内容を十分に理解しておくこと]

その他
教科書	最初の授業時に指示をする。
成績評価の方法及び基準	平常点(50%)、授業参画度(50%) 事前連絡のない欠席は授業参画度の評価を下げる
オフィスアワー	水曜日の昼休み