Deep Feature Extraction and Classification of Hyperspectral Images Based on Convolutional Neural Networks

使用3-D CNN提取空-谱信息

主要内容

1. 基于CNN设计了三种FE（Feature Extraction) 结构，分别提取空间，光谱和空-谱特征。其中设计了3-D CNN能够有效的提取空-谱特征，提高了分类的效果。
2. 在训练过程中使用L2 正则化，和 Dropout 来解决训练样本太少导致的过拟合问。题
3. 在影像预处理过程中使用了一种虚拟样本来创造训练样本。
4. 首次从HSI中提取了不同深度的层次特征，并对其进行了分析。
5. 所提出的方法应用于三个著名的高光谱数据集。

3-D convolution

在位置$x,y,z$ 处第$j$ 个特征图的神经元$v_{ij}^{xyz}$ 的值为
$$
v_{ij}^{xyz} = g(\sum_m \sum_{p=0}^{P_i -1} \sum_{q=0}^{Q_i -1} \sum_{r=0}^{R_i -1} w_{ijm}^{pqr} v_{(i-1)m}^{(x+p)(y+p)(z+r)}+b_{ij})
$$
其中$m$是连接到当前第$j$层特征图在第$(i-1)$层的特征映射，$P_i$和$Q_i$是空间卷积核的高和宽。$R_i$是沿着光谱维的核的大小$w_{ijm}^{pqr}$是第$m$个特征图在位置$(p,q,r)$处的值，$b_{ij}$ 是

3-D CNN的体系结构

选择$K×K×B $大小的邻近像素作为3-D CNN的输入，包含卷积层和池化层，然后用逻辑回归作为输出层

创建虚拟样本

包括高光谱成像在内的遥感通常包含一个大区域，而同一类别的不同位置的物体受不同辐射的影响。

A. Changing Radiation-Based Virtual Samples

虚拟样本可以通过模拟成像过程来创建。新的虚拟样本$y_n$通过乘以随机因子并将随机噪声添加到训练样本$x_m$来获得
$$
y_n = \alpha_m x_m +\beta_m
$$

其中，$x_m$是一个立方体，它包括被分类像素的光谱信息和空间信息。

$\alpha_m$表示光强度的干扰，它可能受很多种因素的影响，例如季节和大气。

$\beta$ 控制高斯噪音的权重，由相邻像素和仪器误差决定。

B. Mixture-Based Virtual Samples

由于物体与传感器之间的距离很长，所以混合物在遥感中是很常见的。受这种现象的启发，可以从两个给定样本中生成具有适当比率的虚拟样本$y_k$。
$$
y_k = \frac{\alpha_ix_i+\alpha_jx_j}{\alpha_i+\alpha_j}+\beta_n
$$
基于一个类别的高光谱特征在一定范围内变化这一事实，可以合理地假设该范围内的混合结果仍然属于同一类别。

具体操作

将样本按1：9划分为测试集和训练集。

使用27 × 27 × 200，27 × 27 × 103和27 × 27 ×176 分别作为

Indian Pines, University of Pavia, 和 KSC 数据集 的输入。

输入的影像被归一化到[-0.5,0.5]

结构和参数

mini-batch（批大小） ：100learning rate（学习率）：0.003epoch（迭代次数)：400

添加dropout,使用ReLU激活函数

使用虚拟样本

方法A：$\alpha_m$是[0.9,1.1]之间的均匀随机数，$\beta$是噪音权重设置维$1/25$。

方法B：$α_i$和$α_j$是区间[0,1]上均匀分布的随机数，而$x_i$和$x_j$是从同一类中随机选择的。