【 】是对消息发生的概率（不确定性）的度量。一个二进制码元含【 】的信息量；一个M制的码元还【 】M比特的信息量。等概率发送时，信源的熵有最大值。