1 信息熵

信息熵这个专有名词来源于信息论^[1], 它反映出某信息源X可能发出r种不同的信息a₁, a₂, …, a_r每种信息的先验概率分别为P(a₁), P(a₂), …, P(a_r)，每种信息中均有若干相应信息组成，每种信息的特征均值为I(a₁), I(a₂), …, I(a_r)，则由r种不同的信息组成的信息源X的信息熵H(X)^[1]为：

$ \begin{array}{l} H\left( X \right) = P\left( {{a_1}} \right)I\left( {{a_1}} \right) + P\left( {{a_2}} \right)I\left( {{a_2}} \right) + \\ \;\;\;\;\;\;\;\;\;\;\;\; \cdots + P\left( {{a_r}} \right)I\left( {{a_r}} \right) \end{array} $

(1)

式中，H(X)为信息源X的信息熵；P(a_i)是信息源中第i个信息的先验概率；I(a_i)是信息源中第i个信息的特征均值。

从式(1)可知，某个信息源的信息量的大小，不同的信息源可以通过相应的信息熵进行比较。我们借助信息系统中信息熵的这一特点，解决图像分类的问题。

2 图像的信息熵

一幅图像的特征可以用像元的灰度表示，这就是通常的像元。再一种表示图像的特征是分形维，本文采用图像分形维特征计算图像的信息熵^[2-9]。为了节省信息熵计算的时间，我们将一幅100×100像元图像划分成许多5×5的像元块，并把每个像元块称之为“大像元”，用大像元中25个像元的特征均值作为一个“大像元”的特征值。本文使用的图像信息熵是在大像元的基础上进行计算的。

假定一幅图像中每个大像元的特征为f(i, j)，由该幅图像中大像元的特征，求得特征均值为f_cp, 这样可以求得每个大像元的残差v(i, j)。

$ v\left( {i, j} \right) = \left| {f\left( {i, j} \right) - {f_{cp}}} \right| $

(2)

和该幅图像特征的标准差m：

$ m = \sqrt {\frac{{v\left( {i, j} \right) \times v\left( {i, j} \right)}}{n}} $

(3)

式中，n表示该幅图像中大像元的个数。

在这个基础上，将一幅大像元图像分为两组：第一组是大像元特征值f(i, j)与该图像大像元特征的均值f_cp之差的绝对值小于或等于2m的n₁个大像元组成，即有：

$ \left| {\left( {f\left( {i, j} \right) - {f_{cp}}} \right)} \right| \le 2m $

(4)

在第一组中满足公式(4)的n₁个大像元的特征均值为I(a₁)，第一组大像元的先验概率P(a₁)为：

$ P\left( {{a_1}} \right) = {n_1}/n $

(5)

第二组大像元数量为n₂=n-n₁, 第二组大像元的先验概率P(a₂)为：

$ P\left( {{a_2}} \right) = {n_2}/n $

(6)

在第二组中n₂个大像元的特征均值为I(a₂)。由式(2)~式(6)，并对照式(1)，可以得到适用的图像信息熵公式：

$ H = P\left( {{a_1}} \right)I\left( {{a_1}} \right) + P\left( {{a_2}} \right)I\left( {{a_2}} \right) $

(7)

式中，H表示一幅图像的信息熵；P(a₁)表示满足式(4)和式(5)的第一组大像元的先验概率；P(a₂)表示满足式(6)大像元先验概率；I(a₁)和I(a₂)分别表示一、二两组大像元的特征均值。

3 采用图像信息熵的图像分类

假定有A、B、C等3组不同类别的图像，每组图像分别有n_a、n_b、n_c幅图像，按式(7)分别求得每组图像的信息熵：

$ \left\{ \begin{array}{l} {H_a}\left( i \right) = P{\left( {{a_1}} \right)_i}I{\left( {{a_1}} \right)_i} + P{\left( {{a_2}} \right)_i}I{\left( {{a_2}} \right)_i}\\ {H_b}\left( j \right) = P{\left( {{b_1}} \right)_j}I{\left( {{b_1}} \right)_j} + P{\left( {{b_2}} \right)_j}I{\left( {{b_2}} \right)_j}\\ {H_c}\left( k \right) = P{\left( {{c_1}} \right)_k}I{\left( {{c_1}} \right)_k} + P{\left( {{c_2}} \right)_k}I{\left( {{c_2}} \right)_k} \end{array} \right. $

(8)

式中，H_a(i)、H_b(j)、H_c(k)分别表示A、B、C等3组图像中第i、j、k幅图像的信息熵，这些信息熵都是按每幅图像的大像元求得的。

在每组图像中选择部分图像(一般选择该组图像的1/4)作为取样，计算各组图像取样的信息熵的均值，作为各组图像取样的信息熵HCP_a、HCP_b和HCP_c。今有一幅待检验图像的信息熵H_l，分别计算H_l与3个取样信息熵之差的绝对值Δi：

$ \left\{ \begin{array}{l} {\Delta _1} = Abc\left( {{H_l} - {\rm{HC}}{{\rm{P}}_a}} \right)\\ {\Delta _2} = Abc\left( {{H_l} - {\rm{HC}}{{\rm{P}}_b}} \right)\\ {\Delta _3} = Abc\left( {{H_l} - {\rm{HC}}{{\rm{P}}_c}} \right) \end{array} \right. $

(9)

式中，Δ_i的最小者所属类别便是待检验图像的类别。

4 实验与分析 4.1 实验中使用5种不同类别的图像

实验中使用的图像分别是灌木(52幅)、居民地(23幅)、河流(35幅)、山地(20幅)、水田(13幅)等。每类图像中选择约1/4图像作为每类图像的取样，5种不同类别图像的取样分别为：灌木(14幅)，居民地(5幅)，河流(9幅)，山地(5幅)，水田(4幅)。从5种不同类别图像中选取3种不同类别图像组成一个基于信息熵图像分类的试验组。每个试验组应完成以下工作：

1) 将每幅100×100像元的图像转换为18×18大像元图像，每个大像元是由5×5像元组成的。

2) 根据式(2)~式(6)计算每幅图像的信息熵H(i)=P(a₁)_iI(a₁)_i+P(a₂)_iI(a₂)_i。

3) 选择3个不同类别的图像，如灌木、河流、居民地的组合进行分类试验。

4) 对组合图像中各类图像，按1/4的原则选出各类图像的取样，并计算各类别取样信息熵的均值:HCP_a、HCP_b、HCP_c。

5) 在灌木、河流、居民地组合中任一幅待检验图像的信息熵为H_l，要确定该幅图像的类别，需要按式(9)计算出H_l与3个取样信息熵均值之差Δ₁、Δ₂、Δ₃, 其中Δ_i的最小者所属的类别，便是待检验图像的类别。

4.2 实验结果

利用本文信息熵方法图像分类的结果为正确的分类数/像幅总数(分子表示该类别被正确识别的像幅数；分母表示该类别像幅的总数)。具体为灌木:51/52=0.98;居民地:23/23=1;水田:13/13=1;山地:20/20=1;河流:34/35=0.97。

本文方法与其他方法对比的图像识别情况如表 1。从表 1的对比结果可以看出，基于图像信息熵的图像分类是一个较好的分类方法。

5 结束语

表 1中实验结果是多次实验分析研究的结果。以下几个问题值得进一步分析研究：①怎样选择3个不同类别作为一个组合; ②一个组合确定了，如何合理地选择每类图像的取样。根据我们在实验中的体会，同一个类别的图像在不同的组合中，采用的取样图像可以不完全相同，但是取样的数量保持不变。通过实验中问题的解决，认为本文图像信息熵的图像分类方法是很有潜力的图像分类方法。