理工学部Faculty of Science and Engineering
COT300XE（計算基盤 / Computing technologies 300）自然言語処理Natural language processing
西田 京介Kyosuke NISHIDA
授業コードなどClass code etc
| 学部・研究科Faculty/Graduate school | 理工学部Faculty of Science and Engineering |
| 添付ファイル名Attached documents | |
| 年度Year | 2022 |
| 授業コードClass code | H6059 |
| 旧授業コードPrevious Class code | |
| 旧科目名Previous Class title | |
| 開講時期Term | 秋学期授業/Fall |
| 曜日・時限Day/Period | 金3/Fri.3 |
| 科目種別Class Type | |
| キャンパスCampus | 小金井 |
| 教室名称Classroom name | 各学部・研究科等の時間割等で確認 |
| 配当年次Grade | |
| 単位数Credit(s) | |
| 備考（履修条件等）Notes | |
| 他学部公開科目Open Program | |
| 他学部公開（履修条件等）Open Program (Notes) | |
| グローバル・オープン科目Global Open Program | |
| 成績優秀者の他学部科目履修制度対象Interdepartmental class taking system for Academic Achievers | |
| 成績優秀者の他学部科目履修（履修条件等）Interdepartmental class taking system for Academic Achievers (Notes) | |
| 実務経験のある教員による授業科目Class taught by instructors with practical experience | |
| SDGsCPSDGs CP | |
| アーバンデザインCPUrban Design CP | |
| ダイバーシティCPDiversity CP | |
| 未来教室CPLearning for the Future CP | |
| カーボンニュートラルCPCarbon Neutral CP | |
| 千代田コンソ単位互換提供（他大学向け）Chiyoda Campus Consortium | |
| カテゴリー＜理工学部＞Category |
応用情報工学科 学科専門科目 |
すべて開くShow all
すべて閉じるHide All
Outline (in English)
Natural language processing has been a central task of artificial intelligence. In recent years, deep learning has begun to be applied to natural language processing, and its practical application fields are expanding. Students learn the basic concepts and the latest natural language processing techniques in this class. Students will be expected to have completed programming exercises after each class meeting. Your study time will be more than one hour for a class. Your overall grade in the course will be decided based on the following; term-end examination: 50%, programming exercises: 50%.
授業で使用する言語Default language used in class
日本語 / Japanese
授業の概要と目的（何を学ぶか）Outline and objectives
人間が日常的に使っている言葉（自然言語）をコンピュータに処理させる自然言語処理は、人工知能の中心的課題の一つとして長年取り組まれている。近年では深層学習が自然言語処理でも適用され始めており、これまでの技術的な課題を解決すると共に実応用も広がっている。本授業では、自然言語処理の基本的な考え方や手法を習得するとともに、深層学習を含めた最新の技術、問題点、応用例について学習する。
到達目標Goal
講義・演習を通じて実践的な課題に取り組みながら、自然言語処理のスキルを身につけることを目標とする。また、他の分野にも応用可能な、深層学習、データ分析のスキルを習得することを目標とする。
この授業を履修することで学部等のディプロマポリシーに示されたどの能力を習得することができるか（該当授業科目と学位授与方針に明示された学習成果との関連）Which item of the diploma policy will be obtained by taking this class?
ディプロマポリシーのうち、「DP1」と「DP2」と「DP4」に関連
授業で使用する言語Default language used in class
日本語 / Japanese
授業の進め方と方法Method(s)（学期の途中で変更になる場合には、別途提示します。 /If the Method(s) is changed, we will announce the details of any changes. ）
授業はパワーポイントによるスライドを用いて進める。授業では講義による説明だけではなく、ノートPCを用いて最新の技術を体感・演習する機会を多く設ける。課題等の提出・フィードバックは「学習支援システム（Hoppii）」を通じて行う。
アクティブラーニング（グループディスカッション、ディベート等）の実施Active learning in class (Group discussion, Debate.etc.)
あり / Yes
フィールドワーク（学外での実習等）の実施Fieldwork in class
なし / No
授業計画Schedule
授業形態/methods of teaching：対面/face to face
※各回の授業形態は予定です。教員の指示に従ってください。
1[未定/undecided]：自然言語処理の概要
自然言語処理とはどのような学問かを説明し、全体の講義計画を紹介する。
2[未定/undecided]：形態素解析
自然な言葉で書かれたテキストを単語に分割する形態素解析について説明する。
3[未定/undecided]：係り受け解析
文節間の「修飾する」「修飾される」を明らかにする係り受け解析について説明する。
4[未定/undecided]：テキスト分類
機械学習によるテキストの分類について説明する。
5[未定/undecided]：テキスト検索
テキストを検索する手法・仕組について説明する。
6[未定/undecided]：ニューラルネットワークの基礎
自然言語処理で用いるニューラルネットワークの基礎を説明する。
7[未定/undecided]：単語ベクトル(1)
単語をベクトルに変換する技術について説明する。
8[未定/undecided]：単語ベクトル(2)
テキストのコーパスから実際に単語ベクトルを学習し、特性を調べる。
9[未定/undecided]：言語モデルとRNN
自然な言葉で書かれたテキストにおいて次の単語を予測する言語モデルおよびRNNを説明する。
10[未定/undecided]：機械翻訳(1)
機械翻訳の基礎となる技術としてエンコーダデコーダおよびアテンションについて説明する。
11[未定/undecided]：機械翻訳(2)
対訳コーパスから実際に機械翻訳モデルを学習し、動作を調べる。
12[未定/undecided]：言語モデルの事前学習
近年の重要技術であるBERTについてモデルの基礎を説明する。
13[未定/undecided]：BERT応用
BERTをテキスト分類等の応用タスクに適用して性能を調べる。
14[未定/undecided]：試験
本講義に対する理解度をチェックするための筆記試験を実施する。
授業時間外の学習（準備学習・復習・宿題等）Work to be done outside of class (preparation, etc.)
【本授業の準備・復習等の授業時間外学習は、4時間を標準とする】確率・統計の基本的な概念に目を通しておくことが望ましい。演習ではGoogle Colaborator上でPython、PyTorchを用いるので、準備・復習などによりプログラミングスキルを身に着けることが望ましい。
テキスト（教科書）Textbooks
講師の作成した教材および配布資料。
参考書References
参考書は特に指定しません．
成績評価の方法と基準Grading criteria
演習(50%)と期末試験(50%)により、自然言語処理の基本的な考え方や手法の理解度を評価する。
学生の意見等からの気づきChanges following student comments
実践的な学習への期待が大きかったので、今年度も実習を中心とした講義とします。
学生が準備すべき機器他Equipment student needs to prepare
全ての週で授業にパソコンを使用する。配布資料は授業終了後、授業支援システムにアップロードする。
その他の重要事項Others
オンラインでの開講となった場合、オンライン授業の方法や授業計画の変更、成績評価方法の変更などについては、学習支援システムでその都度提示する。担当教員から学習支援システムを通じた連絡がないか、日ごろからよく確認するようにしてください。