平均信息量

以事件发生概率为权重的每个事件的信息之和。

当事件发生的概率不相等时，它(H_ave)的计算公式为H_ave=P_ilog₂1／P_i或H_ave=－P_ilog₂P_i，式中，P_i为事件发生的概率，n为事件数。当所有事件发生的概率相等时，平均信息量取最大值，且单个事件的信息量与平均信息量相等。当P₁=P₂=…=P_n=1／N时，则H_ave=一log₂1／N=log₂N。