理工学研究科Graduate School of Science and Engineering
HUI500X3（人間情報学 / Human informatics 500）最適化システム特論２Optimization System (II)
山岸 昌夫Masao YAMAGISHI
授業コードなどClass code etc
| 学部・研究科Faculty/Graduate school | 理工学研究科Graduate School of Science and Engineering |
| 添付ファイル名Attached documents | |
| 年度Year | 2024 |
| 授業コードClass code | YB019 |
| 旧授業コードPrevious Class code | YB019 |
| 旧科目名Previous Class title | 感性情報処理システム特論２ |
| 開講時期Term | 秋学期授業/Fall |
| 曜日・時限Day/Period | 金3/Fri.3 |
| 科目種別Class Type | |
| キャンパスCampus | 小金井 / Koganei |
| 教室名称Classroom name | 小西館‐W203 |
| 配当年次Grade | |
| 単位数Credit(s) | 2 |
| 備考（履修条件等）Notes | |
| 実務経験のある教員による授業科目Class taught by instructors with practical experience | |
| カテゴリーCategory | 応用情報工学専攻 |
すべて開くShow all
すべて閉じるHide All
Outline (in English)
In data science such as machine learning and signal processing, deep understanding of iterative algorithms is essential to realize high-performance methods. This lecture covers the basics of convex optimization theory and convex optimization algorithms for deepening the understanding of iterative algorithms.
【Goal】
Upon completion of this lecture, students will be able to (i) appropriately explain the fundamentals of convex optimization theory, (ii) Write down program code for the proximal gradient method and the Douglas-Rachford algorithm without relying on libraries.
【Learning Activities Outside of Classroom】
The standard time to spend preparing and reviewing this lesson is 4 hours. In particular, students are encouraged to spend time on assignments and reviews to improve their knowledge in the class.
【Grading Criteria /Policy】
Students are evaluated based on the semester final assignment (60%), the homework assignments (30%), and attitude (10%).
授業で使用する言語Default language used in class
日本語 / Japanese
授業の概要と目的（何を学ぶか）Outline and objectives
機械学習や信号処理などのデータサイエンスにおいて、高性能な手法を実現するためには、反復アルゴリズムへの深い理解が必要不可欠となる。実際、最適化システム特論１で紹介した処理手法の一部には、反復処理による逐次近似アルゴリズムが用いられている。この講義では、反復アルゴリズムへの理解を深めるため、凸最適化理論の基本と凸最適化アルゴリズムを学ぶ。
到達目標Goal
(i) 凸最適化理論の基本的な事項について、適切に説明をすることができる。
(ii) 近接勾配法やDouglas-Rachfordアルゴリズムのプログラムコードをライブラリに頼ることなく書き下すことができる。
この授業を履修することで学部等のディプロマポリシーに示されたどの能力を習得することができるか（該当授業科目と学位授与方針に明示された学習成果との関連）Which item of the diploma policy will be obtained by taking this class?
ディプロマポリシーのうち、「DP1」「DP2」「DP3」に関連
授業で使用する言語Default language used in class
日本語 / Japanese
授業の進め方と方法Method(s)（学期の途中で変更になる場合には、別途提示します。 /If the Method(s) is changed, we will announce the details of any changes. ）
スライドを活用した対面形式での講義を主として、講義内容に関連した演習課題(プログラミング課題も含む)を通じて理解を深める。
課題等に対するフィードバックは学習支援システムや授業で行う。
アクティブラーニング（グループディスカッション、ディベート等）の実施Active learning in class (Group discussion, Debate.etc.)
あり / Yes
フィールドワーク（学外での実習等）の実施Fieldwork in class
なし / No
授業計画Schedule
授業形態/methods of teaching：対面/face to face
※各回の授業形態は予定です。教員の指示に従ってください。
第1回[対面/face to face]：凸最適化入門（１）
凸集合，凸関数の基本的な性質
第2回[対面/face to face]：凸最適化入門（２）
凸最適化問題の解の存在性
第3回[対面/face to face]：凸最適化入門（3）
凸最適化問題の解の唯一性
第4回[対面/face to face]：凸射影定理 (1)
凸射影定理
第5回[対面/face to face]：凸射影定理(2)
凸射影の非拡大性
第6回[対面/face to face]：凸関数の劣微分（１）
劣微分の定義，具体例
第7回[対面/face to face]：凸関数の劣微分（２）
劣微分の基本的な性質，方向微分との関係
第8回[対面/face to face]：凸関数の劣微分（３）
劣微分の代数的な性質
第9回[対面/face to face]：非拡大写像の不動点定理
Krasnoselskii-Mannアルゴリズム、近接写像
第10回[対面/face to face]：凸関数和最小化アルゴリズム（１）
近接勾配法
第11回[対面/face to face]：凸関数和最小化アルゴリズム（２）
近接勾配法の実装
第12回[対面/face to face]：凸関数和最小化アルゴリズム（３）
Douglas-Rachfordアルゴリズム
第13回[対面/face to face]：凸関数和最小化アルゴリズム（４）
Douglas-Rachfordアルゴリズムの実装
第14回[対面/face to face]：期末課題
期末課題の説明
授業時間外の学習（準備学習・復習・宿題等）Work to be done outside of class (preparation, etc.)
【本授業の準備・復習時間は、各４時間を標準とします。】
特に、演習課題と復習に時間をかけ、授業で学んだ知識の定着をはかること。
テキスト（教科書）Textbooks
プリントを配布する。
参考書References
飯塚 秀明，連続最適化アルゴリズム，オーム社，2023.
Heinz H. Bauschke, Patrick L. Combettes, Convex Analysis and Monotone Operator Theory in Hilbert Spaces, Springer; 2nd ed, 2017.
成績評価の方法と基準Grading criteria
期末レポート（60%）、レポート（30%）、授業姿勢（10%）を総合的に判断して評価する。
学生の意見等からの気づきChanges following student comments
特になし