基本情報技術者 予想問題｜A 第14問

解説

情報量（自己情報量）は、発生確率pの事象に対して−log₂p ビットで定義される。p＝1/8の場合、1/8を2のべき乗で表すと2^−3なので、−log₂(2^−3)＝3ビットとなる。1ビットはp＝1/2、2ビットはp＝1/4の場合の情報量であり、8ビットは確率の分母をそのまま答えた誤りである。情報量は発生確率が低い（珍しい）事象ほど大きくなる性質を持ち、8通りの等確率の事象を区別するには3ビット必要という直感とも一致する。基本情報では1/2、1/4、1/8、1/16の確率に対する情報量1、2、3、4ビットの対応が頻出であり、各事象の情報量の期待値である平均情報量（エントロピー）の計算問題につながる基礎となる。