前回 (第 09 回) の復習

前回 (第 09 回) の復習 : 情報量
情報 : 確率 P で起きる事象を示す内容
=> この情報が「正しい」ならば、確率が P から 1 に変化する (行動計画が変化する)
情報量 (E) : 確率 P の情報の情報量は E = - log_2 P
=> 確率が小さいと情報量は多い
1 bit : P=1/2 の時の情報量 E = - log_2 (1/2) = 1
アナログ(連続量)とデジタル(離散量)
この講義ではデジタルの形の情報を扱う