情報科学部Faculty of Computer and Information Sciences
PRI210KA-CS-351（情報学基礎 / Principles of informatics 200）情報理論Information Theory
尾花 賢Satoshi OBANA
授業コードなどClass code etc
| 学部・研究科Faculty/Graduate school | 情報科学部Faculty of Computer and Information Sciences |
| 添付ファイル名Attached documents | |
| 年度Year | 2022 |
| 授業コードClass code | J0524 |
| 旧授業コードPrevious Class code | |
| 旧科目名Previous Class title | |
| 開講時期Term | 秋学期授業/Fall |
| 曜日・時限Day/Period | 金1/Fri.1 |
| 科目種別Class Type | |
| キャンパスCampus | 小金井 / Koganei |
| 教室名称Classroom name | 各学部・研究科等の時間割等で確認 |
| 配当年次Grade | |
| 単位数Credit(s) | 2 |
| 備考（履修条件等）Notes | |
| 他学部公開科目Open Program | |
| 他学部公開（履修条件等）Open Program (Notes) | |
| グローバル・オープン科目Global Open Program | |
| 成績優秀者の他学部科目履修制度対象Interdepartmental class taking system for Academic Achievers | ○ |
| 成績優秀者の他学部科目履修（履修条件等）Interdepartmental class taking system for Academic Achievers (Notes) |
（１） 受講希望者 (受講検討中の者も含む) は、情報科学部学部Googleフォーム（https://forms.gle/ECvwxVe2NcxmrbTK9）で初回講義前までに希望申請をしてください。（※以下URLのご案内があるGoogleフォームとは異なるのでご注意ください。） （２） 以下のURLと教育開発支援機構事務局の案内に従って、履修希望の申請を行ってください。 https://www.hoseikyoiku.jp/risyu/index.html （３） 履修取消については、ご自身の所属学部の履修取消期間内に必ず同時に履修削除を行ってください。 |
| 実務経験のある教員による授業科目Class taught by instructors with practical experience | |
| SDGsCPSDGs CP | |
| アーバンデザインCPUrban Design CP | |
| ダイバーシティCPDiversity CP | |
| 未来教室CPLearning for the Future CP | |
| カーボンニュートラルCPCarbon Neutral CP | |
| 千代田コンソ単位互換提供（他大学向け）Chiyoda Campus Consortium | |
| 選択・必修Optional/Compulsory | |
| カテゴリー（2022年度以降入学者）Category (2022~) | |
| カテゴリー（2021年度以前入学者）Category (~2021) | |
| カテゴリーCategory |
専門教育科目 専門科目 |
すべて開くShow all
すべて閉じるHide All
Outline (in English)
Course outline: This course introduce basic concepts of information theory.
Learning objectives: You will learn mathematical definitions of information, the concept of entropy, methods of data compression, and error correction etc.
Learning activities outside of classroom: Students are expected to study more than four hours for a class.
Grading Criteria: Short report & contribution to the class: 20%, Final exam: 80%
授業で使用する言語Default language used in class
日本語 / Japanese
授業の概要と目的（何を学ぶか）Outline and objectives
情報の数学的定義および、エントロピーの概念、情報の圧縮の方法、通信路における誤り訂正の方法等を理解する。
到達目標Goal
エントロピーの概念、および、情報理論における基本的な定理である情報源符号化定理、通信路符号化定理を理解する。
この授業を履修することで学部等のディプロマポリシーに示されたどの能力を習得することができるか（該当授業科目と学位授与方針に明示された学習成果との関連）Which item of the diploma policy will be obtained by taking this class?
ディプロマポリシーのうち「DP4-1」と「Dp4-3」に関連
授業で使用する言語Default language used in class
日本語 / Japanese
授業の進め方と方法Method(s)（学期の途中で変更になる場合には、別途提示します。 /If the Method(s) is changed, we will announce the details of any changes. ）
情報とは何か、情報はどのように数学的に定義されるかを学ぶとともに、情報の符号化、情報通信の基礎理論を理解する。授業の理解を深めるため、講義の後半に適宜課題を解く時間を設ける。授業で課した課題(小テストやレポート)等を取り上げ、授業内で全体に対してフィードバックを行う。
アクティブラーニング（グループディスカッション、ディベート等）の実施Active learning in class (Group discussion, Debate.etc.)
あり / Yes
フィールドワーク（学外での実習等）の実施Fieldwork in class
なし / No
授業計画Schedule
授業形態/methods of teaching：対面/face to face
※各回の授業形態は予定です。教員の指示に従ってください。
1[対面/face to face]：情報の概念とエントロピー
情報量の定式化、エントロピーの概念を理解する。
2[対面/face to face]：条件付きエントロピー・相互情報量
確率の基本的な性質の復習を行った後、条件付きエントロピー、相互情報量の概念を理解する。
3[対面/face to face]：エントロピー，条件付きエントロピー，相互情報量の復習
重要な概念である各種エントロピーに関しての理解を深める。
4[対面/face to face]：クラフトの不等式
符号の瞬時復号可能性、一意復号可能性とクラフトの不等式について理解する。
5[対面/face to face]：情報源符号化定理
情報理論における最も重要な定理のひとつである情報源符号化定理を理解する。
6[対面/face to face]：情報源符号化法
具体的な情報源符号化法であるシャノン符号、ファノ符号、ハフマン符号を理解する。
7[対面/face to face]：ハフマン符号のコンパクト性，Elias符号
ハフマン符号のコンパクト性，および算術符号の一種であるElias符号を理解する。
8[対面/face to face]：符号構成法の復習
いくつかの重要な情報源符号化法に関する理解を深める。
9[対面/face to face]：通信路符号化のモデル
通信路符号化のモデルについて理解する。
10[対面/face to face]：通信路符号化定理
情報理論における最も重要な定理のひとつである通信路符号化定理を理解する。
11[対面/face to face]：誤り訂正符号の基礎
通信路符号化定理と関連の深い，誤り訂正符号の概念を理解する。
12[対面/face to face]：謝り訂正符号の例
ハミング符号、拡大ハミング符号の構成法と，その符号化法，復号法を理解する。
13[対面/face to face]：情報理論と暗号
暗号通信のモデルと、完全秘匿性を有する暗号方式について理解する。
14[対面/face to face]：公開鍵暗号
公開鍵暗号の概念と、RSA暗号について理解する。また，暗号を利用したプロトコルについて理解する。
授業時間外の学習（準備学習・復習・宿題等）Work to be done outside of class (preparation, etc.)
前回までの学習内容を完全に把握しておくこと。授業時間外学習は、各週につき4時間を標準とする。
テキスト（教科書）Textbooks
Webからの配布による。
参考書References
情報理論 ―基礎から応用まで―、中川聖一著 (近代科学社)
成績評価の方法と基準Grading criteria
講義への貢献度，課題の出来20%、定期試験80%によって評価する
学生の意見等からの気づきChanges following student comments
講義中に演習問題を提示することで理解を高める。
学生が準備すべき機器他Equipment student needs to prepare
Hoppiiを利用する。