理工学研究科Graduate School of Science and Engineering
HUI500X3（人間情報学 / Human informatics 500）自然言語処理特論Natural Language Processing
長谷川 拓Taku HASEGAWA
授業コードなどClass code etc
| 学部・研究科Faculty/Graduate school | 理工学研究科Graduate School of Science and Engineering |
| 添付ファイル名Attached documents | |
| 年度Year | 2024 |
| 授業コードClass code | YB027 |
| 旧授業コードPrevious Class code | |
| 旧科目名Previous Class title | |
| 開講時期Term | 秋学期授業/Fall |
| 曜日・時限Day/Period | 金2/Fri.2 |
| 科目種別Class Type | |
| キャンパスCampus | 小金井 / Koganei |
| 教室名称Classroom name | 小南館‐AL教室2 |
| 配当年次Grade | |
| 単位数Credit(s) | 2 |
| 備考（履修条件等）Notes | |
| 実務経験のある教員による授業科目Class taught by instructors with practical experience | |
| カテゴリーCategory | 応用情報工学専攻 |
すべて開くShow all
すべて閉じるHide All
Outline (in English)
【Course outline】
With the development of Internet technology, many documents are overflowing. In order to make effective use of these, natural language processing technology is indispensable. In this lecture, students understand the basic concepts and methods of natural language processing. Students also learn and understand the fundamentals of natural language processing using deep learning, which has become mainstream in recent years.
【Learning Objectives】
The goal of this lecture is to understand the mechanisms of the fundamental technologies of natural language processing and to be able to utilize them. The final goal is to acquire the knowledge to be able to study the contents of natural language processing research on your own by understanding technical terms.
【Learning activities outside of classroom】
Before/after each class meeting, students will be expected to spend one hours to understand the course content.
【Grading Criteria /Policies】
Participation degree : 50%
Final Reports : 50%
授業で使用する言語Default language used in class
日本語 / Japanese
授業の概要と目的（何を学ぶか）Outline and objectives
インターネット技術の発展に伴い，多くの文書があふれている．これらを有効に活用するためには，自然言語処理技術が必須である．本講義では，自然言語処理の基本的な考え方や手法を理解するとともに，近年主流となっている深層学習を用いた言語処理の基礎と応用技術を理解・習得する．
到達目標Goal
本講義では，自然言語処理の基本技術の仕組みを理解し活用できるようになることを目標とする．また，専門用語を理解することによって，自然言語処理研究の内容を自習できる知識を身につけることを最終目標とする．
この授業を履修することで学部等のディプロマポリシーに示されたどの能力を習得することができるか（該当授業科目と学位授与方針に明示された学習成果との関連）Which item of the diploma policy will be obtained by taking this class?
ディプロマポリシーのうち、「DP1」「DP2」「DP3」に関連
授業で使用する言語Default language used in class
日本語 / Japanese
授業の進め方と方法Method(s)（学期の途中で変更になる場合には、別途提示します。 /If the Method(s) is changed, we will announce the details of any changes. ）
人間が記述したテキストは，文字から成り立っており，文字が集まると単語に，単語が集まると文になる．本講では，単なるバイトコードであるテキストから，意味をとらえるまでの解析技術を，レベルに分けて解説する．また，自然言語処理の適用技術として，機械翻訳，文書検索，文書分類も紹介する．
講義は，各回のテーマに合わせたスライドによる説明を中心とする．また，レポート課題（宿題）を出す．資料の配布，課題の配布・提出は学習支援システムを通じて行う予定である．
アクティブラーニング（グループディスカッション、ディベート等）の実施Active learning in class (Group discussion, Debate.etc.)
あり / Yes
フィールドワーク（学外での実習等）の実施Fieldwork in class
なし / No
授業計画Schedule
授業形態/methods of teaching：対面/face to face
※各回の授業形態は予定です。教員の指示に従ってください。
1[対面/face to face]：自然言語処理の概要
自然言語処理の適用分野や流れ，関連分野など，自然言語処理と講義の概要を説明する．
2[対面/face to face]：形態素解析：
英語の品詞タグ付け
文字列がどのような単語から成り立っているかを解析する「形態素解析」について説明する。
3[対面/face to face]：係り受け解析
文節間の「修飾する」「修飾される」を明らかにする係り受け解析について説明する．
4[対面/face to face]：テキスト分類
機械学習によるテキストの分類について説明する．
5[対面/face to face]：テキスト検索
テキストを検索する手法・仕組について説明する．
6[対面/face to face]：機械学習の基礎１
自然言語処理で用いるニューラルネットワークの基礎を説明する。
7[対面/face to face]：自然言語処理の機械学習
単語をベクトルに変換する技術について説明する．
8[対面/face to face]：単語埋め込み
テキストのコーパスから単語ベクトルを学習し、特性を調べる方法について説明する．
9[対面/face to face]：言語モデルとRNN１
自然な言葉で書かれたテキストにおいて次の単語を予測する言語モデルおよびRNNを説明する。
10[対面/face to face]：言語モデルとRNN２
自然言語処理のためのRNNについてより詳細に説明をする．
11[対面/face to face]：言語モデルの事前学習１
近年の重要技術であるTransformer型のモデルの基礎を説明する．
12[対面/face to face]：言語モデルの事前学習２
Transformer型のモデルについてより詳しく説明する．
13[対面/face to face]：言語モデルの応用
事前学習済みの言語モデルの個別タスクへの応用について説明する．
14[対面/face to face]：最終課題
本講義に対する理解度をチェックするための最終課題（演習）を実施する。
授業時間外の学習（準備学習・復習・宿題等）Work to be done outside of class (preparation, etc.)
【本授業の準備・復習等の授業時間外学習は、1時間を標準とする】確率・統計の基本的な概念に目を通しておくことが望ましい．準備・復習などにより自然言語処理のためのプログラミングスキルを身に着けることが望ましい．
テキスト（教科書）Textbooks
スライドおよび配布試料で講義する．
参考書References
参考書は特に指定しません．
成績評価の方法と基準Grading criteria
A． 平常点（演習実施予定）：50% と 最終課題: 50%
B． 最終課題: 100%
A， B の方法で算出した点数の高いものを最終評価とする．
学生の意見等からの気づきChanges following student comments
本年度授業担当者変更によりフィードバックできません．
学生が準備すべき機器他Equipment student needs to prepare
初回を除き，全ての週で授業にパソコンを使用する予定．
配布資料は授業終了後、授業支援システムにアップロードする予定．
その他の重要事項Others
オンラインでの開講となった場合，オンライン授業の方法や授業計画の変更，成績評価方法の変更などについては，学習支援システムなど指定の方法でその都度提示する．
担当教員から連絡がないか，日ごろからよく確認すること．