基于知识蒸馏和模型剪枝的轻量化模型植物病害识别 |
| |
引用本文: | 刘媛媛,王定坤,邬雷,黄德昌,朱路.基于知识蒸馏和模型剪枝的轻量化模型植物病害识别[J].浙江农业学报,2023(9):2250-2264. |
| |
作者姓名: | 刘媛媛 王定坤 邬雷 黄德昌 朱路 |
| |
作者单位: | 华东交通大学信息工程学院 |
| |
基金项目: | 国家自然科学基金(61967007,61963016); |
| |
摘 要: | 深度学习为植物病害识别提供了新方法,但是目前大多数深度学习模型的参数众多,难以在存储和计算资源受限的智能手机或嵌入式传感器节点等边缘设备上使用。为此,以植物叶片为研究对象,基于知识蒸馏和模型剪枝方法开展基于轻量化模型的植物病害识别研究。首先,改进ResNet模型,在知识蒸馏中引入一个或多个助教网络训练模型;然后,经过稀疏化训练后,利用模型剪枝获得轻量化的学生网络模型;接着,使用助教网络和学习率倒带重训练该学生网络模型,在减小模型规模的同时保证模型的性能。结果表明:在包含14种植物共38个类别的数据集上,将模型剪枝90%后,模型准确率为97.78%,比原模型提高1.49百分点;在包含5个类别苹果叶的数据集上,将模型剪枝70%后,模型准确率为91.94%,比原模型提高4.85百分点。提出的轻量化模型能够移植在Android平台上并有效运行,可为嵌入式终端精准识别植物病害提供新方案。
|
关 键 词: | 病害识别 模型剪枝 知识蒸馏 学习率倒带 残差网络 |
|
|