情報論的システム論

Numbering Code Year/Term 2022 ・ First semester
Number of Credits 2 Course Type
Target Year Target Student
Language Japanese Day/Period Thu.2
Instructor name TANAKA TOSHIYUKI (Graduate School of Informatics Professor)
OBUCHI  TOMOYUKI (Graduate School of Informatics Associate Professor)
Outline and Purpose of the Course 機械学習や人工知能の技術の基礎をなす,不確実性をともなう推論,学習などの問題に対して,確率論および統計科学にもとづいた数理的アプローチについて,特に高次元の確率論や統計学,情報理論などとの関連に重点を置いて講義する.
Course Goals 推論,学習などの問題に対する確率論および統計科学にもとづいた数理的アプローチについて理解する.
Schedule and Contents 統計的決定理論の基礎(2回)
現象の確率的記述にもとづく意思決定の基礎となる統計的決定理論の基礎的事項を解説する.
確率推論のための近似アルゴリズム(4回)
確率モデルにもとづく推論を行う際に生じる計算複雑度の問題を回避するための近似推論アルゴリズム(確率伝搬法,モンテカルロ法など)について述べる.
高次元確率論の基礎(2回)
大数の法則,およびその一般化としての測度集中について,概念および基礎的な結果を講述する.
高次元確率モデルへの応用(2回)
ランダム行列,ランダム射影とジョンソン・リンデンシュトラウスの補題,およびそれらの機械学習への応用について述べる.
スパースモデリング(3回)
対象のスパースさに注目して情報処理を行う枠組みであるスパースモデリングについて,圧縮センシング,低ランク行列再構成などの話題を中心に解説する.
深層学習の数理(2回)
様々な分野で応用がなされている深層学習に関連して,基礎数理的な側面に重点を置いて解説する.
Evaluation Methods and Policy レポートにもとづいて評価する.講義で説明する基本的な概念について理解するとともに,簡単な例題について実際にプログラムを組むことができるようになることを達成目標とする.
Course Requirements 確率論,統計学の基礎的な知識を前提とする.
Study outside of Class (preparation and review) 講義で説明した話題について,自らプログラムを作成し数値実験を行うことで理解を深めることが望ましい.
References, etc. 講義中に適宜紹介する.
PAGE TOP