理工学部Faculty of Science and Engineering
COT200XE（計算基盤 / Computing technologies 200）情報理論Information theory
尾川 浩一Ogawa KOICHI
授業コードなどClass code etc
| 学部・研究科Faculty/Graduate school | 理工学部Faculty of Science and Engineering |
| 添付ファイル名Attached documents | |
| 年度Year | 2022 |
| 授業コードClass code | H6014 |
| 旧授業コードPrevious Class code | |
| 旧科目名Previous Class title | |
| 開講時期Term | 春学期授業/Spring |
| 曜日・時限Day/Period | 水1/Wed.1 |
| 科目種別Class Type | |
| キャンパスCampus | 小金井 |
| 教室名称Classroom name | 各学部・研究科等の時間割等で確認 |
| 配当年次Grade | |
| 単位数Credit(s) | |
| 備考（履修条件等）Notes | |
| 他学部公開科目Open Program | |
| 他学部公開（履修条件等）Open Program (Notes) | |
| グローバル・オープン科目Global Open Program | |
| 成績優秀者の他学部科目履修制度対象Interdepartmental class taking system for Academic Achievers | |
| 成績優秀者の他学部科目履修（履修条件等）Interdepartmental class taking system for Academic Achievers (Notes) | |
| 実務経験のある教員による授業科目Class taught by instructors with practical experience | |
| SDGsCPSDGs CP | |
| アーバンデザインCPUrban Design CP | |
| ダイバーシティCPDiversity CP | |
| 未来教室CPLearning for the Future CP | |
| カーボンニュートラルCPCarbon Neutral CP | |
| 千代田コンソ単位互換提供（他大学向け）Chiyoda Campus Consortium | |
| カテゴリー＜理工学部＞Category |
応用情報工学科 学科専門科目 |
すべて開くShow all
すべて閉じるHide All
Outline (in English)
In the information society, technologies for transmitting and storing information are becoming more sophisticated year by year. In the background of such technology, a mathematical background called information theory is required. In this class, you will learn the basics of mathematically systematizing and handling the concept of information. The goal of this course is to understand the mathematical background of information theory. Students will be expected to have completed the required assignments after each class meeting. Your study time will be more than four hours for a class. Final grade will be calculated according to the following process: short tests (20%), term end examination (80%).
授業で使用する言語Default language used in class
日本語 / Japanese
授業の概要と目的（何を学ぶか）Outline and objectives
情報化社会の中で情報の伝送、蓄積などのための技術は年々高度化している。このような技術の背景には情報理論という数学的素養が必要となる。本授業では、このような情報という概念を数学的に体系化して取り扱うための基礎を学ぶ。
到達目標Goal
この講義では、まず定量的に情報を記述する方法を理解し、確率過程と情報量の関係やエントロピーの基礎概念を学ぶ。同時に、これらの情報を伝達する通信路に関して通信速度、通信路容量、符号化法などの理解を深める。これらを通して、情報の定量化に対する概念が理解でき、エントロピー、通信路容量、符号化の原理の基礎が習得できることを到達目標としている。
この授業を履修することで学部等のディプロマポリシーに示されたどの能力を習得することができるか（該当授業科目と学位授与方針に明示された学習成果との関連）Which item of the diploma policy will be obtained by taking this class?
ディプロマポリシーのうち、「DP1」と「DP2」と「DP4」に関連
授業で使用する言語Default language used in class
日本語 / Japanese
授業の進め方と方法Method(s)（学期の途中で変更になる場合には、別途提示します。 /If the Method(s) is changed, we will announce the details of any changes. ）
授業の実施方法は対面形式であるが一部オンライン形式も活用する。毎回の講義内容に示したものは予定しているpdf資料または動画のおよその内容となるが、第何回と示されたものが、毎週提示される訳ではなく、この科目の授業全体でこのような内容のpdf等のコンテンツがこの授業支援システムにおかれるものと理解していただきたい。各回の授業計画の変更があった場合は、学習支援システムで提示する。また、毎回の授業に対して理解度確認のために行う小テストや課題についてのフィードバックは授業支援システムまたは授業内で行う。
アクティブラーニング（グループディスカッション、ディベート等）の実施Active learning in class (Group discussion, Debate.etc.)
あり / Yes
フィールドワーク（学外での実習等）の実施Fieldwork in class
なし / No
授業計画Schedule
授業形態/methods of teaching：オンライン/online
※各回の授業形態は予定です。教員の指示に従ってください。
第1回[オンライン/online]：情報理論の背景
情報理論とはどのような学問でどのような歴史的背景があるのか、シャノンの通信系のモデル
第2回[オンライン/online]：情報量１
定量化の必要性、情報量、情報量の性質、確率と情報量の関係
第3回 [オンライン/online]：情報量２
エントロピー、物理学におけるエントロピー
第4回 [オンライン/online]：マルコフ情報源１
マルコフ情報源、遷移確率、遷移確率行列
第5回 [オンライン/online]：マルコフ情報源２
正規マルコフ情報源、エルゴードマルコフ過程
第6回 [オンライン/online]：マルコフ情報源３
マルコフ情報源のエントロピー
第7回 [オンライン/online]：情報源の符号化１
２進化10進符号、モールス符号、ASCIIコード、符号の分類、符号の木
第8回[オンライン/online]：情報源の符号化２
クラフトの定理、平均符号長
第9回 [オンライン/online]：情報源の符号化３
シャノンの第一定理、シャノンの符号化法、ハフマンの符号化法
第10回[オンライン/online]：通信路１
通信路行列、誤りとエントロピー、曖昧度、散布度
第11回[オンライン/online]：通信路２
通信速度、通信路容量、符号長と通信路容量
第12回[オンライン/online]：通信路３
誤りのある系の通信路容量、復号法
第13回 [オンライン/online]：通信路の符号化１
符号化効率、誤りある時の符号化定理、誤り訂正、検出符号
第14回[オンライン/online]：通信路の符号化２
線形符号、巡回符号
授業時間外の学習（準備学習・復習・宿題等）Work to be done outside of class (preparation, etc.)
本授業の予習、復習の時間は1回あたり4時間です。予習としては事前に配布したハンドアウトの通読を行い、復習は毎回の授業に対しての理解度を深めるための小テストを通じて行って下さい。なお、授業は録画していますので、この録画画像をオンデマンド教材として見直すことも可能です。
テキスト（教科書）Textbooks
配布するハンドアウト
参考書References
(1)宮川洋著、“情報理論”、コロナ社
(2)中川聖一著、“情報理論”、近代科学社
成績評価の方法と基準Grading criteria
毎回の授業の理解度確認のための小テスト（20％）および期末試験（80％）によって行う。
本科目において設定した達成目標を60％以上達成している学生を合格とする
学生の意見等からの気づきChanges following student comments
授業時における演習問題では、基本的な事項が理解できたかを確認するにとどめ、負荷がかからないように配慮する予定である。授業の内容に対する質問や、問題の解答例に対しての質問などは随時メール等で受け付けますので遠慮無く送って下さい。
学生が準備すべき機器他Equipment student needs to prepare
オンライン形式の授業の場合には大学から貸与されたノートPCが必要になる。また、自宅等での聴講の場合にはWiFi環境が必要となる。
その他の重要事項Others
本授業は、「法政大学教育学術情報ネットワーク」を利用し実施される。