基于知识蒸馏和模型剪枝的轻量化模型植物病害识别

深度学习为植物病害识别提供了新方法,但是目前大多数深度学习模型的参数众多,难以在存储和计算资源受限的智能手机或嵌入式传感器节点等边缘设备上使用。为此,以植物叶片为研究对象,基于知识蒸馏和模型剪枝方法开展基于轻量化模型的植物病害识别研究。首先,改进ResNet模型,在知识蒸馏中引入一个或多个助教网络训练模型;然后,经过稀疏化训练后,利用模型剪枝获得轻量化的学生网络模型;接着,使用助教网络和学习率倒带重训练该学生网络模型,在减小模型规模的同时保证模型的性能。结果表明：在包含14种植物共38个类别的数据集上,将模型剪枝90%后,模型准确率为97.78%,比原模型提高1.49百分点;在包含5个类别苹果叶的数据集上,将模型剪枝70%后,模型准确率为91.94%,比原模型提高4.85百分点。提出的轻量化模型能够移植在Android平台上并有效运行,可为嵌入式终端精准识别植物病害提供新方案。     

基于实例置信度推断的半监督小样本植物病害图像识别

植物病害影响农业生产的产量和质量。针对现有小样本植物病害识别方法大多数都是基于监督式学习模型以及少数半监督学习方法未判别伪标注样本的可信度的问题,提出一种基于实例置信度推断的半监督学习小样本植物病害图像识别方法。首先构建ResNet-12网络提取有标注样本和无标注样本的特征;其次利用极少数有标签的植物病害样本训练SVM分类器,用分类器推断无标注样本的类别并赋予伪标签;然后采用实例置信度推断(ICI)算法获取伪标注样本的置信度,迭代选择可信的伪标签样本加入训练拓展支持集;最后应用训练后的网络模型对植物病害图像进行识别。该方法能够反映无标注病害样本的真实分布,迭代选择最可信的伪标注样本进行模型训练,从而提高模型的识别性能。试验采用Plant Village公开数据集进行10-way-5-shot试验。结果显示：在unlabel=50的情况下识别准确率为89.34%,病害的各项评价指标均随着无标注样本数量的增加而增加。结果表明本研究提出的方法从无标注样本中获取到的信息是鲁棒的,且识别准确率优于传统迁移学习,能有效提升小样本条件下植物病害图像的识别效果。     

基于改进残差网络的苹果叶片病害识别研究

苹果叶片病害形态相似、斑点大小不同，依靠人工和农业专家识别的传统方式效率较低。为此提出一种基于改进残差网络的苹果病害识别模型REP-ResNet。该模型在基准模型ResNet-50的基础上通过采用批标准化、激活函数、卷积层的残差结构顺序，加入通道注意力机制和并行卷积的方式进行改进。训练过程中，将公开数据集PlantVillage预训练的模型权重参数迁移至上述网络模型中重新训练，达到加快网络的收敛速度和提高模型识别能力的目的。采用数据扩充的方式解决训练过程中样本不均的问题。结果表明，REP-ResNet模型与基准网络模型相比识别准确率提高2.41个百分点。模型使用迁移学习的方式进行训练，在复杂背景下的苹果叶片病害识别中准确率达到97.69%，与传统卷积神经网络相比识别效果有较大提高。     

基于二次迁移模型的小样本茶树病害识别

为提高小样本茶树病害识别的准确率,提出一种基于2次迁移模型的卷积神经网络茶树病害图像识别方法.首先将ResNet模型在ImageNet数据集上进行预训练,然后将预训练模型对植物病害数据集进行参数迁移训练,最后将迁移学习训练后的模型对扩充后的小样本茶树病害数据集进行2次参数迁移训练.结果表明,扩充后的数据集识别准确率较原数据集提高2.32％,再进行2次迁移学习后识别准确率又提高6.38％.通过调整训练超参数,对茶红锈藻病、炭疽病、茶网饼病、圆赤星病、藻斑病等5种茶树病害图像的识别准确率高达96.64％.在对5种茶树病害进行验证时,验证样本识别率与常规深度学习相比由93％提高至98％.2次迁移学习能够有效提高在小样本茶树病害识别下模型的识别能力,对实用化茶树病害识别具有重要的参考意义.     

基于对比学习的多肉植物分类识别方法研究

针对多肉植物种类多，类内差异大、类间差异小，数据难收集，导致传统分类算法不能有效解决多肉植物图像分类的问题，提出一种基于对比学习的多肉植物图像分类网络CL＿ConvNeXt。该网络以ConvNeXt为基础结构引入对比学习思想，在网络中间层添加非线性投影层（Projection head）作为辅助分类器来帮助模型对浅层网络进行特征提取；在一个批处理中通过数据增强来构造正样本，将剩余样本看作负样本；将交叉熵损失函数和对比损失函数进行加权计算，重新设计新的损失函数计算方法，实现单阶段模型训练。训练时采用迁移学习将预训练权重迁移到模型中来提高模型训练时的收敛速度，通过优化各种策略和参数来进一步提升模型的识别准确率。结果表明，在自制的190类多肉植物数据集中，在使用相同训练策略和环境配置的情况下，最终模型CL＿ConvNeXt对多肉植物图像分类识别准确率达到了91.79%，较原ConvNeXt模型结构的识别准确率提升了12.24个百分点，对解决多肉植物图像分类识别问题有较好的效果。     

基于微调卷积神经网络迁移学习模式下被害棉叶图像的识别

【目的】研究一种基于卷积神经网络的危害棉叶症状识别技术,提高棉花病虫害的识别准确率。【方法】基于caffe深度学习框架,在CaffeNet网络结构基础上增加一层全连接层(记为CaffeNet+1),并结合迁移学习方法对网络进行训练。采集健康、红叶茎枯、红蜘蛛、枯萎、黄萎、双斑萤叶甲、蚜虫、褐斑棉叶图像各975张作为样本集。随机选取验本集中80%的图像样本作为训练集,剩余20%作为测试集。【结果】迁移学习方式下学习率取0.005时的CaffeNet+1模型最优,在测试集上其识别准确率可达98.9%。【结论】在与全新学习模式下的CaffeNet模型相比,该方法可加速网络模型收敛,且具有更高的识别准确率,该技术方法在准确识别田间病虫害棉叶后表现症状的图像写出来具体方面具有重要的应用价值。     

基于ResNet模型的玉米叶片病害检测与识别

针对当前玉米病害发生量大、病情复杂、难以防治,严重影响玉米产量和质量的问题,提出了一种基于卷积神经网络和迁移学习的玉米叶片病害检测与识别方法。首先收集了3 827张玉米健康叶片图像和3种不同的玉米病害叶片图像样本,为了使模型拥有更好的泛化能力,使用生成对抗网络对样本进行处理,得到分辨率更高的样本,再对样本进行平移旋转,使样本数量达到5 153张。然后构建ResNet模型,分别对ResNet34、ResNet50及对其添加CBAM注意力机制和FPN特征金字塔网络,并通过迁移学习方法将预训练权重迁移到训练模型中。试验结果表明,ResNet50结合CBAM注意力机制模型的准确率达到了97.5%,相比ResNet50模型准确率提升了4.2百分点,相比ResNet34模型准确率提升了4.9百分点。本研究表明,提出的ResNet50结合CBAM注意力机制模型能够较精准地检测识别玉米枯萎叶、锈病叶、灰斑病叶和健康叶。并可将模型安装在无人机等移动设备上,实现对玉米叶片病害智能化防治,而且后期还会扩充更多的植物病害数据,实现对多类植物病害的检测,为智慧农业添砖加瓦,促进农业防治现代化。     

基于迁移模型集成的马铃薯叶片病害识别方法

针对目前马铃薯叶片病害识别工作量大、准确率低且主观性强等热点问题，提出1种通过ResNet34模型结合不同迁移方式进行集成学习以快速识别马铃薯叶片病害图像的方法。首先，利用多种迁移方式(全部参数迁移、特征提取、微调及全新训练4种训练方法),通过调整超参数，使模型快速收敛达到全局最优点。其次，使用混淆矩阵对多种迁移方式的训练模型结果进行对比分析，微调模型识别准确率达到95.45%。最后，利用集成学习将3种训练较优的模型进行集成并与微调模型进行对比。通过试验建立了1个马铃薯叶片病害图像数据集，结果表明，相比现有热门神经网络模型，该数据集无论是识别准确率还是识别效率均有显著提升，通过对比发现，试验的总体准确率提升了3.68百分点，达到99.13%,迁移学习能够更快速地收敛，减少训练时间，并且集成学习能够大幅提升平均识别准确率。本研究提出的针对马铃薯叶片病害的识别方法成本低、精确率高，能更好地应用于日常病害识别中，为植物叶片病害的智能诊断提供借鉴和参考。     

面向边缘计算的轻量级植物病害识别模型

  目的  传统深度学习模型因参数和计算量过大不适用于边缘部署，在网络边缘的植物病害自动识别是实现长时间大范围低成本作物监测的迫切需求。  方法  联合使用多种模型压缩方法，得到可部署于算力有限的嵌入式系统的轻量级深度卷积神经网络，在边缘节点实现植物病害智能识别。模型压缩分2个阶段:第1阶段利用基于L₁范数的通道剪枝方法，压缩MobileNet模型；第2阶段将模拟学习与量化相结合，在模型量化的同时恢复识别精度，得到高精度轻量级的端模型。  结果  在PlantVillage数据集58类植物病害的实验结果表明:通道剪枝将MobileNet压缩了3.6~14.3倍，量化又将模型的参数精度由32 bit降低至8 bit。整体压缩率达到了14.4~57.2倍，识别准确率仅降低0.24%~1.65%。与通道剪枝后无模拟学习训练、通道剪枝结合量化后无模拟学习训练这2种压缩方法相比，具有更高的模型压缩率和识别准确率。  结论  联合使用多种模型压缩方法可以少量的精度损失深度压缩人工智能模型，可为农林业提供面向边缘计算的植物病害识别模型。图3表2参23     

基于迁移学习的棉花识别

提高智能采棉机效率的一个重要途径是实现单个、重叠和遮挡棉花的识别,避免误采摘和漏采摘。针对不同形态棉花的识别,常规的特征提取方法难以达到令人满意的结果,因而采用基于迁移学习的棉花识别方法和基于迁移模型的特征提取与极限学习机(extreme learning machine,ELM)相结合的方法进行棉花识别研究。首先更改AlexNet、GoogleNet、ResNet-50模型分类层和设置相关参数,用训练好的迁移模型对棉花验证集识别,然后利用训练好的迁移模型进行棉花数据集特征提取,再用训练集的特征训练ELM模型,统计不同隐含层神经元个数的ELM模型对棉花的识别准确率。AlexNet、GoogleNet、ResNet-50迁移模型识别率依次为92.03%、93.19%、93.68%;使用特征提取再与ELM结合的方法,准确率比对应迁移模型分别提高了1.97、1.34、1.55百分点。结果表明,迁移模型对小样本棉花识别也有较高准确率,基于特征提取与ELM相结合的方法可进一步提高准确率。     

基于深度迁移学习的酿酒葡萄种植信息提取

为利用遥感手段快速、精准提取宁夏贺兰山东麓酿酒葡萄种植信息,提出了一种基于深度迁移学习的酿酒葡萄种植信息提取方法。该方法以全卷积神经网络(Fully convolutional networks,FCN)为基础,利用高分二号卫星遥感资料,以地面采集样本数据进行网络模型训练,利用迁移学习方法将训练好的网络模型迁移到FCN网络模型中,对其进行初始化,避免过拟合问题的发生,其网络训练验证集准确率高达88.16%,较传统的基于深度学习方法准确率提高7.17个百分点。结果表明,基于深度迁移学习的贺兰山东麓酿酒葡萄种植信息提取检测准确率可达91.93%,检测召回率达到91.15%。     

一种植物病害图像识别卷积网络架构

针对人工提取植物病害图像特征存在效率低、识别率低、成本高等问题,提出一种基于DenseNet网络的现代卷积神经网络架构FI-DenseNet,旨在对多种类的植物病害图像达到高精准的识别准确率.引入Focal损失函数对DenseNet网络进行改进,使得训练模型的注意力集中于难分类的样本.FI-DenseNet网络可以增强特征传递、进行深层训练或有效改善过拟合问题.采用的数据集有87 867张植物病害图像,图像包含同种植物的多种病害,并涉及38种植物病害.对图像进行预处理、数据增强后,将DenseNet169网络、ResNet50网络和MobileNet网络作为参照实验.实验结果表明,FI-DenseNet网络的收敛速度更快且识别准确率最高,测试集识别准确率为98.97％,FI-DenseNet网络的鲁棒性和泛化能力均优于对照网络,可为植物病害智能诊断提供参考.     

牛结节性皮肤病病毒基因组学研究进展

【目的】通过调节训练集内实验室场景图片与田间场景图片的分布,提高深度学习模型的准确度, 以减少植物病害识别深度学习模型对田间场景数据的依赖。【方法】通过调节训练集内实验室场景图片和田间 场景图片的分布,使用 ResNeSt-50、VGG-16、ResNet-50 等 3 种神经网络结构分别对训练得到的深度学习模型 进行测试和比较,从而优化植物病害识别模型。【结果】在由一定数量的植物病害图像组成的训练集内,调节 其中不同场景图片的分布会对模型的准确率产生影响。当训练集内的田间场景图片分布达 30% 时,模型准确率 提升 18% 以上。在 100% 实验室场景图片的训练集内添加 30% 田间场景图片,可提升模型准确率 17% 以上;在 100% 田间场景图片的训练集内添加实验室场景图片,模型准确率随图片数量增加而提升,提升幅度为 2%~4%。 【结论】该方法适用于农业复杂环境下高准确度病害识别模型的快速建立,可减少深度学习模型对田间场景数 据的依赖,缩短模型建立初期的田间数据采集周期,降低田间数据采集成本,促进人工智能技术在无人农场及 智慧农业中更有效地运用。     

融合迁移学习和知识蒸馏的轻量级马铃薯叶片病害识别模型的构建方法

轻量级深度学习模型常被部署于移动端或物联网端,以实现算力资源受限条件下马铃薯病害的识别。但轻量级模型网络层数较少,模型特征提取能力有限,无法实现相似表型特征的精确提取。为解决上述问题,提出一种轻量级残差网络模型的构建方法,该方法融合迁移学习和知识蒸馏策略训练模型,在教师模型上使用迁移学习策略缩短教师模型的训练时间,并将ResNet18模型进行模型剪枝,使用降采样的方法提高模型识别准确率,最终在保证轻量化的前提下,实现对马铃薯叶片病害类别的精准识别。在马铃薯叶片数据集上进行试验,结果表明,本研究方法构建的轻量级模型的识别准确率相较于Resnet18提高1.55百分点,模型大小缩小49.18%;相较于目前农作物病害识别领域,常用的轻量级模型MobileNetV3在模型大小相近的情况下,识别准确率提高2.91百分点。该模型能够满足大部分实际应用下的场景,可为部署在物联网和移动端设备上的模型提供参考。     

基于深度迁移学习模型的花卉种类识别

为了解决传统花卉识别方法中特征提取主观性强、模型泛化能力差、错分率高的问题,提出一种基于Inception_v3的深度迁移学习模型的花卉图像识别方法。本研究对5种常见花卉图像进行识别分类,首先对原始图像进行预处理,通过对每张图像进行水平翻转、旋转操作,扩增数据集;其次,采用预训练完毕的Inception_v3模型,对其在ImageNet上训练好的网络参数进行迁移学习,对各个参数进行微调,并保留原模型的特征提取能力,并将原模型的全连接层替换为符合本研究要求的5分类softmax分类输出层,从而构建基于深度迁移学习的识别模型。对5种花卉共计11 000张图像进行训练和验证,平均识别正确率达到93.73%,与传统的花卉识别方法相比,识别率得到提高,模型鲁棒性更强,具有一定的使用价值。     

基于深度残差网络的玉米病害识别

针对人工诊断玉米病害成本高、效率低、时延长等问题,提出一种基于深度残差网络的玉米病害识别网络TFL-ResNet.TFL-ResNet网络基于ResNet50网络,首先引入Focal Loss损失函数使模型专注于难分类的病害样本,其次将ResNet50网络在PlantVillage数据集训练好的参数迁移到改进网络上以完成构建.采用的玉米病害数据集涉及健康植株、大斑病、灰斑病、锈病4种标签,并使用旋转、翻转、平移等操作对数据集进行数据增强与扩充.对数据集进行训练和测试,与VGG16等对照模型相比,TFL-ResNet网络收敛速度更快、分类效果更好,平均识别准确率高达98.96％.通过观察精准率、召回率、混淆矩阵等评价指标得出TFL-ResNet网络具有较好的鲁棒性和泛化能力,可用于玉米病害智能诊断.     

基于梅尔谱图和改进ResNet34模型的鸭蛋裂纹识别算法

针对鸭蛋裂纹人工检测受主观性影响造成精度波动大等问题,利用ResNet34网络模型,提出1种基于梅尔谱图的鸭蛋裂纹识别算法。首先利用敲蛋装置收集敲蛋声音数据,再将音频转化成梅尔谱图,构建梅尔谱图数据集,然后搭建ResNet34模型,引入迁移学习机制训练模型,再通过Adam优化算法更新梯度,增加注意力机制模块并将卷积结构替换为深度可分离卷积以对网络模型进行改进,并调整参数进行优化,最后利用模型对鸭蛋裂纹进行识别。结果显示：改进的ResNet34DP＿CA网络模型检测的平均准确率为92.4%,对比原始ResNet34网络模型,平均准确率提高5.5个百分点,参数量减少32%;对比其他网络模型VGG16、MobileNetv2和EfficientNet,平均准确率分别提高10.9、13.7、16.3个百分点,识别时间为21.5 ms。结果表明,所提出的基于梅尔谱图和改进ResNet34模型的鸭蛋裂纹识别算法,能够有效地对鸭蛋裂纹进行检测识别。     

基于图像处理和深度迁移学习的芒果果实病状识别

目的 基于计算机层析成像(Computed tomography, CT)设备所得芒果CT序列图像,实现芒果内部品质的无损检测和病状识别分类。方法 利用分段函数法、中值滤波结合双边滤波,实现芒果图像增强;采用局部自适应阈值法,实现二值化处理;采用种子填充法进行区域填充;最后通过差影法准确提取芒果果实内部组织的坏损区域。基于深度迁移学习模型,对未处理和已处理的芒果图像数据开展训练和测试,通过AlexNet和GoogLeNet深度学习网络开展迁移学习,调整超参数完成训练过程的网络微调,在不同模型中对比未处理和已处理的芒果测试集在模型上的分类结果。结果 基于未处理数据集,GoogLeNet模型在学习率为0.0002下训练,Accuracy和Macro-average指标分别为98.79%和98.41%。基于已处理数据集,GoogLeNet模型在学习率为0.0002下训练,Accuracy和Macro-average指标分别为100%和100%。深度迁移学习模型在已处理数据集下的模型分类指标较未处理的数据集下有较大的提升。基于同一数据集且超参数一致时,GoogLeNet网络的分类效果明显优于AlexNet网络。结论 设定学习率为0.0002、迭代轮数为3、最小批值为64,基于GoogLeNet网络开展深度迁移学习训练,将所得模型作为最终的分类模型。     

小样本条件下基于数据扩充和ResNeSt的雪豹识别

  目的  红外触发相机采集的雪豹监测图像质量参差不齐,且数量有限,为了提升小样本下雪豹的识别准确率,本研究提出一种雪豹监测图像自动识别方法。  方法  该方法基于具备注意力机制的ResNeSt50模型,使用祁连山国家公园的雪豹监测图像作为原始数据集,红外触发相机拍摄的非雪豹陆生野生动物图像作为扩充负样本,网络雪豹图像作为扩充正样本,生成3种数据集并依次进行对比实验,选择合适的扩充方式引导模型逐步关注到雪豹个体关键特征,使用梯度类激活热力图可视化进一步验证数据扩充后的有效性。  结果  使用原始数据集+扩充负样本+扩充正样本训练的模型识别效果最好,热力图可视化显示模型正确关注到雪豹个体花纹与斑点特征,对比基于Vgg16和ResNet50的识别模型,ResNeSt50的识别效果最好,测试集识别准确率达到97.70%,精确率97.26%,召回率97.59%。  结论  采用本研究提出的原始数据集+扩充负样本+扩充正样本数据扩充方法训练的模型,可以区分背景与前景,且对雪豹本身特征具有较强的判别能力,泛化能力最好。      

基于改进轻量化网络MobileNeXt的苹果叶片病害识别方法

针对真实环境下苹果叶片病害识别背景复杂、识别准确率不高的问题，提出了一种改进轻量化网络MobileNeXt的苹果叶片病害识别方法。首先收集了4类常见苹果叶片病害图像样本，每类由简单背景图像与复杂背景图像混合，通过多种数据增强方式对图像进行处理，以增加样本多样性，提高模型的泛化能力。接着基于轻量化网络MobileNeXt中的sandglass结构，引入协调注意力机制CA分配权重，以区分目标与背景，同时结合Inception模块与Ghost模块，设计了2种SCI(Sandglass-CA-Inception)结构，在参数增加量尽可能小的前提下，扩充网络深度与宽度，增强模型对于背景复杂病害图像的特征学习能力。试验结果表明，改进后的模型相比于MobileNeXt, Top-1准确率提升了1.23百分点，平均精确率提升了1.18百分点，参数量只增加了0.62 M,为真实场景下的苹果叶片病害识别提供了一种有效的解决方案。