Numbering Code	G-INF04 63422 LJ54 G-INF04 63422 LJ10	Year/Term	2022 ・ First semester
Number of Credits	2	Course Type	Lecture
Target Year	Master's students	Target Student
Language	Japanese	Day/Period	Thu.2
Instructor name	YAMASHITA NOBUO (Graduate School of Informatics Professor)
Outline and Purpose of the Course	様々な数理最適化問題に対するアルゴリズムの設計法とその基礎となる最適化理論の重要な結果について講述する．具体的には，非線形計画問題における双対性理論，凸最適化問題に対する勾配法や内点法，機械学習や統計など，実際の応用問題に対する凸最適化によるアプローチなどを中心に説明する． Lecture on basic optimization theory and algorithm design for solving mathematical optimization problems. Topics include duality in nonlinear optimization, gradient methods and interior point methods for convex optimization problems, convex optimization approaches to real-world problems, in particular, machine learning and statistics.
Course Goals	機械学習などに現れる現実的な問題を，凸最適化問題としてモデル化できる．さらに，その凸最適化問題の最適性の条件や双対問題を導出できる．さらに，その凸最適化問題を解くための最適化手法を理解し，実装できる． To formulate real-world problems as convex optimization problems. To be able to derive optimality conditions and duality problems for convex optimization. To understand and implement optimization methods for solving convex optimization.
Schedule and Contents	・はじめに（さまざまな最適化問題と研究の歴史の紹介）：１ ・最適化の基礎（線形計画問題と凸最適化問題，双対定理と最適性条件）：３ ・最適化モデル（最適化モデルの定式化，機械学習，パラメータ推定，ポートフォリオ最適化，ロバスト最適化など）：４ ・最適化アルゴリズム１（制約なしの大規模問題に対する勾配法）：４ ・最適化アルゴリズム２（制約付きの問題に対する解法）：３ ・試験：１ ・Introduction (Various Optimization Problems and Past Research): 1 ・Foundation of Optimization (Linear and Convex Programming, Duality and Optimality): 3 ・Optimization Models (Formulation of Optimization Models, Machine Learning, Parameter Estimation, Portfolio Optimization, Robust Optimization, etc.): 4 ・Optimization Algorithms 1 (Gradient methods for large-scale unconstrained optimization problems): 4 ・Optimization Algorithms 2 (Interior Point Algorithms and Other Algorithms for constrained convex optimization problems): 3 ・Examination: 1
Evaluation Methods and Policy	最適化の理論，アルゴリズム，定式化に関する知識が獲得されたことをレポートおよび試験によって評価する． Evaluation of the understanding of optimization theory, algorithms and modeling by examination and reports
Course Requirements	None
Study outside of Class (preparation and review)	授業でいくつかの最適化問題に対する理論的性質を講述するが，復習のため，その類題に関して同等の性質がなりたつことを確認する．また，授業で教えた最適化の手法を実際に実装し，その動きを調べる．
References, etc.	「非線形最適化の基礎」Fundamentals of Nonlinear Optimization (in Japanese), 福島雅夫M. Fukushima, (（朝倉書店，２００１）Asakura Shoten, 2001) 「内点法」Interior Point Methods (in Japanese), 小島政和，土谷隆，水野真治，矢部博M. Kojima, et al.,, (（朝倉書店，２００１）Asakura Shoten, 2001) “Primal-Dual Interior-Point Methods”, S.J. Wright, ((SIAM, 1997)) “Lectures on Modern Convex Optimization”, A. Ben-Tal and A. Nemirovski, ((SIAM, 2001))