文理学部シラバスTOP > 文理学部 > 情報科学科（情報システム解析学科） > 非線形解析
日本大学ロゴ

非線形解析

このページを印刷する

平成２８年度以前入学者 非線形解析
教員名 古市茂
単位数    2 学年    3 開講区分 文理学部
科目群 情報科学科
学期 後期 履修区分 選択必修
授業の形態 オンデマンド型の遠隔授業（全15回分の講義動画）
(Blackboard ID:20203291)
授業概要 「エントロピー解析」に関して講義をする。自己情報量の定式化，エントロピーの一意性定理，ハフマン符号の最適性，LZ符号のアルゴリズム，相対エントロピーの性質，信頼性関数による通信路符号化定理の証明を学ぶ．
授業のねらい・到達目標 [ 授業のねらい ]
情報エントロピー，相対エントロピーの性質，信頼性関数を用いた通信路符号化定理について学習する。

[ 到達目標 ]
微分積分、線形代数と基礎的な数学を前年度まで学んできた学生を対象に，エントロピー解析について概観することができる。
1つ1つの話題が十分に重要かつ興味深い内容であるので，4年次にさらに踏み込んだ内容を各自で学習できるようにするための基礎を身に付ける。

この科目は文理学部(学士(理学))のディプロマポリシーDP6及びカリキュラムポリシーCP9に対応している。
授業の方法 担当教官による講義．後期事業開始日以降に全15回分の講義動画を公開予定です．
文字通りオンデマンドで，
後期授業終了日までに全15回分の講義動画を順に視聴しながら，各自がノートに講義内容を写しながら理解に努めてください．
レポート課題を課しますので，各自が指示に従って，レポートを作成の上，指示された方法で，指示される期日までに提出すること．

授業動画の公開方法や課題の提出方法などについては，Blackboardなどで指示する．
履修条件 「解析学１・２」および「線形代数１・２」を履修し、単位を修得していることが望ましい。
「情報理論１・２」を履修し、単位を修得していることが望ましい。
「情報理論２」については履修中でも構わない．
授業計画
1 自己情報量の定式化とエントロピーの性質
【事前学習】参考書①の1章を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
2 Shannonエントロピーの一意性定理の証明
【事前学習】参考書①の2章を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
3 Shannon符号，Fano符号，可変長符号に対する情報源符号化定理
【事前学習】参考書②の7.1節，7.2節を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
4 Huffman符号とその最適性
【事前学習】参考書②の7.3節および参考書③の4.9節を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
5 LZ77符号およびLZ78符号
【事前学習】参考書②の8章を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
6 相対エントロピーとその性質，Crossエントロピーとの関係
【事前学習】参考書④の2章を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
7 Pinskerの不等式とエントロピーの連続性
【事前学習】参考書④の2章を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
8 微分エントロピーとエントロピー最大化原理
【事前学習】参考書⑤を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
9 通信路符号化におけるインディケータ関数と最尤復号化法
【事前学習】教科書⑥の5.1節を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
10 通信路符号化における平均誤り確率の見積り
【事前学習】教科書⑥の5.2節を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
11 信頼性関数の補助関数の数学的性質の証明
【事前学習】教科書11章を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
12 通信路符号化定理（順定理）の証明
【事前学習】教科書⑥の5.3節を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
13 誤り確率の下界の導出
【事前学習】教科書⑥の5.4節を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
14 通信路符号化定理（強逆定理）の証明
【事前学習】教科書⑥の5.5節を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
15 2元対称通信路を例とした信頼性関数の具体的な導出
【事前学習】教科書⑥の5.6節を読んでくること。 （2時間）
【事後学習】講義内容を復習すること （2時間）
その他
教科書 教材については最初の授業時に指示する．（Blackboardか電子メールで指示する予定．）
参考書 梅垣壽春 『情報数理の基礎―関数解析的展開―』 1993年 第1版
平澤茂一 『情報理論入門』 培風館 2000年 第1版
稲井寛 『はじめての情報理論』 森北出版 2011年 第1版
韓太舜，小林 欣吾  『情報と符号化の数理』 培風館 1999年 第1版
On the maximum entropy principle and the minimization of the Fisher information in Tsallis statistic 『S.Furuichi』 J. Math. Phys., Vol.50, 013303. 2009年
有本卓 『現代情報理論』 コロナ社 1978年 第1版
成績評価の方法及び基準 レポート:提出されたレポートの内容によって評価する．(100%)
【レポート】
・出題された課題を指示された形式で指示された方法で期限までに提出すること．
・レポートは，与えられた課題の実施状況及びその出来によって評価する。
・他者と全く同一のレポートが発見された場合は両者とも0点にする．
オフィスアワー 質問についてはblackboardから電子メールなどを通してお願いします．

↑このページのトップ