情報符号理論

科目ナンバリング U-ENG29 29129 LJ10
U-ENG29 29129 LJ11
開講年度・開講期 2022 ・ 前期
単位数 2 単位 授業形態 講義
配当学年 対象学生
使用言語 日本語 曜時限 火1
教員 湊 真一 (情報学研究科 教授)
授業の概要・目的 情報伝達,蓄積,高信頼化に関わる基礎理論である情報理論について講義する.情報量とエントロピー,情報源と通信路のモデル,情報源と通信路の符号化の限界,通信路符号化法など情報理論の基本的な事柄を取り上げる.
到達目標 講義で述べる情報理論の基本概念を理解し,応用できること.
授業計画と内容 情報理論とは,1回,情報理論の歴史,目的,応用について紹介した後,理論展開の基盤となる情報源と通信路のモデルについて述べる.
情報量とエントロピー,2回,情報源に関する各種のエントロピーや相互情報量の概念を学び,情報理論に関する基本的な事項を理解する.
情報源のモデル,2回,情報源とは文字どおり情報を発する源であるが,情報理論では統計的モデルを仮定してこれを表現する.記憶のない情報源,定常情報源,エルゴード情報源,およびマルコフ情報源などを学ぶ.
情報源符号化の限界,2回,よい情報源符号化とはどのようなものか,正しく復号可能な符号となるための条件,平均符号長の限界,情報源とエントロピーとの関係について学ぶ.
情報源符号化法,2回,平均符号長を最小にするコンパクト符号としてハフマン符号を理解し,その構成方法を習得する.さらにブロック符号化法や非等長情報源系列の符号化,およびひずみを許す情報源符号化法について学ぶ.
通信路符号化とその限界,3回,通信路の統計的なモデルについて述べた後,通信路符号化の限界,すなわち,復号後の誤り率をある値以下に抑えたいとき,付加すべき冗長度をどこまで小さくできるかという問題について学ぶ.通信路容量の概念を導入し,通信路符号化定理を学ぶ.
通信路符号化法,2回,実際的な通信路符号化法の理論について学ぶ.これは狭義の意味で符号理論と呼ばれており,代数学に基盤をおいている.その数学的基盤を理解しつつ,誤りを訂正可能な各種符号化方法について学ぶ.符号理論は,今日の通信,計算機,録音・録画の高品質化,高信頼化技術の土台となっている.
フィードバック,1回,講義に関わる疑問点の解決,さらなる学習への助言などを行う.
成績評価の方法・観点 演習(小テスト)による平常点評価(10%)と期末試験の成績(90%)を総合して評価する.
履修要件 特になし
授業外学習(予習・復習)等 講義スライド資料は講義前にwebページで提供する.各回に簡単な演習問題(小テスト)を解く時間を設け,履修者の理解度を見る.各自の復習のため,演習問題の解答は講義後に提供する.
教科書 基礎から学ぶ情報理論 第2版, 中村篤祥, 喜田拓也, 湊真一, 廣瀬善大, (ムイスリ出版), ISBN:978-4-89641-287-1
参考書等 情報理論, 今井秀樹, (昭晃堂), ISBN:4-7856-1139-1
関連URL
PAGE TOP