基于遗传算法的CNN超参数优化与物联网植物病害检测分类研究

### 基于遗传算法的CNN超参数优化与物联网植物病害检测分类研究 #### 基于遗传算法的CNN超参数优化 在语音命令识别（SCR）领域，传统的手动选择卷积神经网络（CNN）超参数的方法既耗时又费力。为了解决这个问题，提出了一种基于遗传算法（GA）的超参数选择方法。 1. **CNN模型架构** - 采用VGG - 16 CNN模型作为布局框架，该模型由五个2D卷积块（Conv - Block）组成。前两个卷积块包含两个2D卷积操作、批量归一化、最大池化和丢弃操作；后三个卷积块包含三个2D卷积操作、批量归一化、最大池化和丢弃操作，总共进行13次2D卷积操作。 - 卷积操作后，将特征图展平为向量，然后通过三个密集层（输入层、隐藏层和输出层），密集层中也包含批量归一化操作。最后使用softmax激活函数输出输入语音命令属于各个类别的概率。 2. **遗传算法相关操作** - **染色体结构**：每个染色体用CNN模型的相关超参数编码，每个位置为一个基因。考虑优化的六个超参数（卷积滤波器数量、密集层神经元数量、卷积滤波器大小、激活函数、丢弃值和优化器）被编码为十个基因，即每个染色体长度为十。例如，卷积滤波器数量有三个选择（f1, f2, f3），密集层神经元数量用f4表示，卷积滤波器大小用k表示，激活函数有两个选择（a1, a2），丢弃值有两个选择（d1, d2），优化器用op表示。 - **适应度评估**：在分类问题中，适应度与模型在验证数据集上的预测分类准确率相关。使用分类交叉熵（CE）作为模型的预测准确率，其数学表达式为： \[categoricalCE = -\frac{1}{K}\sum_{i = 1}^{K}[y_i \log (p_i) + (1 - y_i) \log(1 - p_i)]\] 其中，K表示类别数量，$y_i$和$p_i$分别表示第i个样本的实际类别和预测类别。 - **选择**：采用锦标赛选择机制，该机制在有噪声适应度的情况下使用，目的是为了在多次训练相同神经网络架构时给出统一的适应度值，选择适应度（准确率）高的个体进入下一代。 - **交叉**：随机选择一个0到1之间的数r，如果r小于交叉概率$p_c$（设置为0.4），则对通过选择操作选出的两个父染色体（parent1和parent2）进行交叉操作。随机选择一个交叉点，将每个基因组从交叉点处分成两半，通过拼接生成子代。 - **变异**：每个个体以变异概率$p_m$（设置为0.2）随机改变一个基因值，即随机改变一些超参数设置。 3. **实验设置** - **数据集**：使用Google语音命令（GSC）数据集，考虑其中的8个语音命令（“down”、“go”、“left”、“no”、“right”、“stop”、“up”和“yes”），共8000个语音样本。将数据集分为训练集（6400个样本）、验证集（1000个样本）和测试集（600个样本）。 - **参数设置**：根据计算资源，将种群大小和最大代数都设置为10。交叉概率$ρ_c$为0.4，变异概率$ρ_m$为0.2。CNN的超参数设置如下表所示： |参数类型|参数|取值| | ---- | ---- | ---- | |GA参数|种群大小|10| |GA参数|最大代数|10| |GA参数|交叉概率$ρ_c$|0.4| |GA参数|变异概率$ρ_m$|0.2| |CNN超参数|f1（卷积滤波器数量）|{16, 32, 64}| |CNN超参数|f2（卷积滤波器数量）|{32, 64, 128}| |CNN超参数|f3（卷积滤波器数量）|{32, 64, 128}| |CNN超参数|f4（密集层