文理学部シラバスTOP > 文理学部 > 情報科学科 > 情報科学講究2
日本大学ロゴ

情報科学講究2

このページを印刷する

令和2年度以降入学者 情報科学講究2
令和元年度以前入学者 情報科学講究2
教員名 古市茂
単位数    2 学年    3 開講区分 文理学部
科目群 情報科学科
学期 後期 履修区分 必修
授業の形態 同時双方向型授業(Zoomによるライブ中継)

Blackboard ID:月曜4限→20224409
授業概要 情報理論の基礎と応用
授業のねらい・到達目標 3年次の輪講で学んだ,情報理論入門を基礎としてより詳細な情報理論について理解する。

この科目は文理学部(学士(理学))のディプロマポリシーDP6及びカリキュラムポリシーCP9に対応している。

なお、新カリキュラム(令和2年度以降の入学者)では、この科目は文理学部(学士(理学))のディプロマポリシーDP1-8及びカリキュラムポリシーCP1-8に対応している。

・経験や学修から得られた豊かな情報科学の知識と教養に基づいて,自己の倫理観を倫理的な課題に適用することができる(A-1-3)。
・世界諸国の歴史や政治,経済,文化,価値観,信条などの背景を理解し,国際社会が直面している問題を情報科学の視点から説明することができる(A-2-3)。
・仮説に基づく課題や問題を提示し,客観的な情報を基に,論理的・批判的に考察できる(A-3-3)。
・問題を分析し,複数の解決策を提示した上で,問題を解決することができる(A-4-3)。
・責任と役割を担い,新しい問題に取り組む意識を持ち,そのために必要な情報科学の知識・情報を収集することができる(A-5-3)。
・さまざまな人々とのコミニュケーションを通じて相互の意思伝達を自由かつ確実に行い,他者との良好な関係を確立することができる(A-6-3)。
・集団の活動において,より良い成果を上げるために,指導者として他者と協働し,作業を行うことができる(A-7-3)。
・学修状況を自己分析し,その成果を評価することができる(A-8-3)。
授業の方法 授業の形式:【ゼミ】
参加者のプレゼンテーション(輪講)を基本とし発表者以外の学生も質疑に加わって学習内容のより深い理解につなげる.
各自,パワーポイントで自分の担当箇所のスライドを作製しZoomで発表する.
履修条件 学科内規に定められた条件を満たすこと.
授業計画
1 Huffman符号の最適性の証明について学ぶ.それを理解できるようになる.(A-1,2,3,4,5,6,7,8)
【事前学習】教科書4.3節を読んでおくこと。 (4時間)
【事後学習】教科書4.3節の内容を理解しておくこと。 (4時間)
2 ユニバーサル符号化について学ぶ.
特にLZ77符号化・復号化について学ぶ.
【事前学習】教科書4.4節(LZ77の部分)を読んでおくこと。 (4時間)
【事後学習】教科書4.4節(LZ77の部分)の内容を理解しておくこと。 (4時間)
3 ユニバーサル符号化について学ぶ.
特にLZ78符号化・復号化について学ぶ.
【事前学習】教科書4.4節(LZ78の部分)を読んでおくこと。 (4時間)
【事後学習】教科書4.4節(LZ78の部分)の内容を理解しておくこと。 (4時間)
4 相互情報量の定義,エントロピーとの関係式について学ぶ.それらを理解できるようになる。(A-1,2,3,4,5,6,7,8)
【事前学習】教科書5.1節を読んでおくこと。 (4時間)
【事後学習】教科書5.1節の内容を理解しておくこと。 (4時間)
5 相対エントロピーの基本的な性質について学ぶ.それらを理解できるようになる。(A-1,2,3,4,5,6,7,8)
【事前学習】教科書5.2節前半を読んでおくこと。 (4時間)
【事後学習】教科書5.2節前半の内容を理解しておくこと。 (4時間)
6 数学的距離の復習,相互情報量の再定義,クロスエントロピーについて学ぶ。それらを理解できるようになる。(A-1,2,3,4,5,6,7,8)
【事前学習】教科書5.2節中半を読んでおくこと。 (4時間)
【事後学習】教科書5.2節中半の内容を理解しておくこと。 (4時間)
7 ノルムの復習,相対エントロピーの下界(Pinskerの不等式),Shannonエントロピーの上界に関して学ぶ。それらを理解できるようになる。(A-1,2,3,4,5,6,7,8)
【事前学習】教科書5.2節後半を読んでおくこと。 (4時間)
【事後学習】教科書5.2節後半の内容を理解しておくこと。 (4時間)
8 微分エントロピーとその例,相対エントロピーの非負性について学ぶ.
エントロピー最大化原理について学ぶ.それらを理解できるようになる。(A-1,2,3,4,5,6,7,8)
【事前学習】教科書5.3節前半を読んでおくこと。 (4時間)
【事後学習】教科書5.3節前半の内容を理解しておくこと。 (4時間)
9 クラメール・ラオの不等式について学ぶ.それらを理解できるようになる。(A-1,2,3,4,5,6,7,8)
【事前学習】教科書5.3節後半を読んでおくこと。 (4時間)
【事後学習】教科書5.3節後半の内容を理解しておくこと。 (4時間)
10 通信路行列と事前確率に対して相互情報量を定義する.
2元対称通信路の通信路容量を導出することを学ぶ. それらを理解できるようになる。(A-1,2,3,4,5,6,7,8)
【事前学習】教科書6.1節前半を読んでおくこと。 (4時間)
【事後学習】教科書6.1節前半の内容を理解しておくこと。 (4時間)
11 2元消失通信路, Z型チャネルの通信路容量を導出することを学ぶ. それらを理解できるようになる。(A-1,2,3,4,5,6,7,8)
【事前学習】教科書6.1節後半を読んでおくこと。 (4時間)
【事後学習】教科書6.1節後半の内容を理解しておくこと。 (4時間)
12 通信路符号写像・復号写像,誤り確率を定義し,インディケーター関数を導入し平均誤り確率の見積もりを開始する.それらを理解できるようになる。(A-1,2,3,4,5,6,7,8)
【事前学習】教科書6.2節(p.123下から3行目まで)を読んでおくこと。 (4時間)
【事後学習】教科書6.2節(p.123下から3行目まで)の内容を理解しておくこと。 (4時間)
13 Gallagerの上界を導出する.それらを理解できるようになる。(A-1,2,3,4,5,6,7,8)
【事前学習】教科書6.2節(p.128上から6行目まで)を読んでおくこと。 (4時間)
【事後学習】教科書6.2節(p.128上から6行目まで)の内容を理解しておくこと。 (4時間)
14 補助関数の性質を学習する.それを理解できるようになる。
(A-1,2,3,4,5,6,7,8)
【事前学習】教科書6.2節(p.135上から6行目まで)を読んでおくこと。 (4時間)
【事後学習】教科書6.2節(p.135上から6行目まで)の内容を理解しておくこと。 (4時間)
15 通信路符号化定理を導出する.それを理解できるようになる。
(A-1,2,3,4,5,6,7,8)
【事前学習】教科書6.2節(を読んでおくこと。 (4時間)
【事後学習】教科書6.2節の内容を理解しておくこと。 (4時間)
その他
教科書 古市 茂 『情報理論: エントロピーと符号化定理』 日本評論社 2021年 第1版
参考書 なし
成績評価の方法及び基準 レポート:授業内容に関する課題に取り組みレポートを提出してもらい評価する.(40%)、授業参画度:毎回の授業での発表内容・方法・結果(60%)
オフィスアワー 質問についてはblackboardから電子メールなどを通してお願いします.
備考 ・輪講担当箇所は当日に決まるので,全員が,該当箇所を予習してくること.
・病気・ケガなどで欠席する場合は可能な限り全履修生にわかるような形で早めに連絡すること.

このページのトップ