融合迁移学习和知识蒸馏的轻量级马铃薯叶片病害识别模型的构建方法

轻量级深度学习模型常被部署于移动端或物联网端,以实现算力资源受限条件下马铃薯病害的识别。但轻量级模型网络层数较少,模型特征提取能力有限,无法实现相似表型特征的精确提取。为解决上述问题,提出一种轻量级残差网络模型的构建方法,该方法融合迁移学习和知识蒸馏策略训练模型,在教师模型上使用迁移学习策略缩短教师模型的训练时间,并将ResNet18模型进行模型剪枝,使用降采样的方法提高模型识别准确率,最终在保证轻量化的前提下,实现对马铃薯叶片病害类别的精准识别。在马铃薯叶片数据集上进行试验,结果表明,本研究方法构建的轻量级模型的识别准确率相较于Resnet18提高1.55百分点,模型大小缩小49.18%;相较于目前农作物病害识别领域,常用的轻量级模型MobileNetV3在模型大小相近的情况下,识别准确率提高2.91百分点。该模型能够满足大部分实际应用下的场景,可为部署在物联网和移动端设备上的模型提供参考。     

面向边缘计算的轻量级植物病害识别模型

  目的  传统深度学习模型因参数和计算量过大不适用于边缘部署，在网络边缘的植物病害自动识别是实现长时间大范围低成本作物监测的迫切需求。  方法  联合使用多种模型压缩方法，得到可部署于算力有限的嵌入式系统的轻量级深度卷积神经网络，在边缘节点实现植物病害智能识别。模型压缩分2个阶段:第1阶段利用基于L₁范数的通道剪枝方法，压缩MobileNet模型；第2阶段将模拟学习与量化相结合，在模型量化的同时恢复识别精度，得到高精度轻量级的端模型。  结果  在PlantVillage数据集58类植物病害的实验结果表明:通道剪枝将MobileNet压缩了3.6~14.3倍，量化又将模型的参数精度由32 bit降低至8 bit。整体压缩率达到了14.4~57.2倍，识别准确率仅降低0.24%~1.65%。与通道剪枝后无模拟学习训练、通道剪枝结合量化后无模拟学习训练这2种压缩方法相比，具有更高的模型压缩率和识别准确率。  结论  联合使用多种模型压缩方法可以少量的精度损失深度压缩人工智能模型，可为农林业提供面向边缘计算的植物病害识别模型。图3表2参23     

深度模型融合数据合成机制的长尾目标识别

为解决昆虫数据集数据分布不均衡导致识别模型在数据量少的尾部类别的识别性能差的问题，提出1种融合数据合成的卷积识别网络模型（synthetic samples combined model,SSCM），该模型包含图像分割与重组模块、主干网络模块和数据纠正分支模块等3个模块。通过图像分割与重组模块对训练的图片进行分割并重组，得到新的训练数据并加入训练集；再使用ResNet-50作为网络主干提取图片的特征，同时数据纠正分支模块采用均方误差与交叉熵计算合成图像与原图像之间的误差，以减少合成图像对尾部数据的不利影响。构建包含300个蝴蝶类别共26 045张图片的数据集验证模型性能，结果显示，SSCM模型在该数据集上的准确率较DRC、BBN、RIDE等主流长尾目标识别模型分别高3、2.14、2.71个百分点。采用公开昆虫数据集IP102进一步验证SSCM算法的有效性，结果显示，SSCM模型准确率比DRC、BBN、RIDE等模型分别高18.94、3.02、3.36个百分点。     

基于one-shot学习的小样本植物病害识别

针对植物病害小样本问题提出一种基于one-shot学习的植物病害识别方法。以公开数据集PlantVillage中8类样本数量较少的植物病害图像作为识别对象,使用焦点损失函数(focal loss, FL)训练基于关系网络的植物病害分类器。训练过程中,调整FL超参数使模型聚焦于困难样本,从而提高植物病害识别精确率。结果表明:该方法在5-way、1-shot任务中识别精确率达到89.90%,相比原始关系网络模型精确率提高了4.69个百分点。同时,与匹配网络和迁移学习相比,改进后的方法在实验数据集上识别精确率分别提高了25.02个百分点和41.90个百分点。     

牛结节性皮肤病病毒基因组学研究进展

【目的】通过调节训练集内实验室场景图片与田间场景图片的分布,提高深度学习模型的准确度, 以减少植物病害识别深度学习模型对田间场景数据的依赖。【方法】通过调节训练集内实验室场景图片和田间 场景图片的分布,使用 ResNeSt-50、VGG-16、ResNet-50 等 3 种神经网络结构分别对训练得到的深度学习模型 进行测试和比较,从而优化植物病害识别模型。【结果】在由一定数量的植物病害图像组成的训练集内,调节 其中不同场景图片的分布会对模型的准确率产生影响。当训练集内的田间场景图片分布达 30% 时,模型准确率 提升 18% 以上。在 100% 实验室场景图片的训练集内添加 30% 田间场景图片,可提升模型准确率 17% 以上;在 100% 田间场景图片的训练集内添加实验室场景图片,模型准确率随图片数量增加而提升,提升幅度为 2%~4%。 【结论】该方法适用于农业复杂环境下高准确度病害识别模型的快速建立,可减少深度学习模型对田间场景数 据的依赖,缩短模型建立初期的田间数据采集周期,降低田间数据采集成本,促进人工智能技术在无人农场及 智慧农业中更有效地运用。     

基于二次迁移模型的小样本茶树病害识别

为提高小样本茶树病害识别的准确率,提出一种基于2次迁移模型的卷积神经网络茶树病害图像识别方法.首先将ResNet模型在ImageNet数据集上进行预训练,然后将预训练模型对植物病害数据集进行参数迁移训练,最后将迁移学习训练后的模型对扩充后的小样本茶树病害数据集进行2次参数迁移训练.结果表明,扩充后的数据集识别准确率较原数据集提高2.32％,再进行2次迁移学习后识别准确率又提高6.38％.通过调整训练超参数,对茶红锈藻病、炭疽病、茶网饼病、圆赤星病、藻斑病等5种茶树病害图像的识别准确率高达96.64％.在对5种茶树病害进行验证时,验证样本识别率与常规深度学习相比由93％提高至98％.2次迁移学习能够有效提高在小样本茶树病害识别下模型的识别能力,对实用化茶树病害识别具有重要的参考意义.     

一种植物病害图像识别卷积网络架构

针对人工提取植物病害图像特征存在效率低、识别率低、成本高等问题,提出一种基于DenseNet网络的现代卷积神经网络架构FI-DenseNet,旨在对多种类的植物病害图像达到高精准的识别准确率.引入Focal损失函数对DenseNet网络进行改进,使得训练模型的注意力集中于难分类的样本.FI-DenseNet网络可以增强特征传递、进行深层训练或有效改善过拟合问题.采用的数据集有87 867张植物病害图像,图像包含同种植物的多种病害,并涉及38种植物病害.对图像进行预处理、数据增强后,将DenseNet169网络、ResNet50网络和MobileNet网络作为参照实验.实验结果表明,FI-DenseNet网络的收敛速度更快且识别准确率最高,测试集识别准确率为98.97％,FI-DenseNet网络的鲁棒性和泛化能力均优于对照网络,可为植物病害智能诊断提供参考.     

基于实例置信度推断的半监督小样本植物病害图像识别

植物病害影响农业生产的产量和质量。针对现有小样本植物病害识别方法大多数都是基于监督式学习模型以及少数半监督学习方法未判别伪标注样本的可信度的问题,提出一种基于实例置信度推断的半监督学习小样本植物病害图像识别方法。首先构建ResNet-12网络提取有标注样本和无标注样本的特征;其次利用极少数有标签的植物病害样本训练SVM分类器,用分类器推断无标注样本的类别并赋予伪标签;然后采用实例置信度推断(ICI)算法获取伪标注样本的置信度,迭代选择可信的伪标签样本加入训练拓展支持集;最后应用训练后的网络模型对植物病害图像进行识别。该方法能够反映无标注病害样本的真实分布,迭代选择最可信的伪标注样本进行模型训练,从而提高模型的识别性能。试验采用Plant Village公开数据集进行10-way-5-shot试验。结果显示：在unlabel=50的情况下识别准确率为89.34%,病害的各项评价指标均随着无标注样本数量的增加而增加。结果表明本研究提出的方法从无标注样本中获取到的信息是鲁棒的,且识别准确率优于传统迁移学习,能有效提升小样本条件下植物病害图像的识别效果。     

基于轻量化深度学习Mobilenet-SSD网络模型的海珍品检测方法

为精确掌握水下海珍品养殖分布情况,摆脱传统上依赖人工潜水了解海珍品情况的方式,提出了一种基于轻量化深度学习的Mobilenet-SSD网络模型并用于海珍品检测,该方法对在渔船下方的水下摄像头所采集的海珍品图像实时进行目标快速检测。结果表明:采用本研究中建立的Mobilenet-SSD模型,在海胆、海参、扇贝等3种海珍品上建立数据集进行训练,可实现水下海珍品的精确识别,海胆、海参、扇贝的识别准确率分别为81.43%、86.02%、89.44%,总体平均准确率为85.79%;将Mobilenet-SSD网络模型分别与Tiny-YOLO和VGG-SSD网络模型进行比较,在相同设备上,Mobilenet-SSD网络模型相较Tiny-YOLO网络模型能更好地利用目标特征,同时较VGG-SSD网络模型节约80%的用时,实现了准确性与实时性的兼顾。研究表明,本研究中构建的Mobilenet-SSD网络模型,可用于水产养殖环境中水下海珍品的准确识别。     

基于迁移学习的番茄叶片病害图像分类

针对卷积神经网络对番茄病害识别需训练参数较多,训练非常耗时的问题,将迁移学习应用于AlexNet卷积神经网络,对病害叶片和健康叶片共10种类别的番茄叶片进行分类研究。使用14 529张番茄叶片病害图像,随机选择70%作为训练集,30%作为验证集,对AlexNet卷积神经网络模型结构进行迁移,利用在Imagenet图像数据集上训练成熟的AlexNet模型和其参数对番茄叶片病害识别。在训练过程中,固定低层网络参数不变,微调高层网络参数,将番茄病害图像输入到网络中训练网络高层参数,用训练好的模型对10种类别的番茄叶片分类,并进行了20组试验。结果表明:该算法在训练迭代474次时使网络模型很好的收敛,网络对验证集的测试平均准确率达到95.62%,与从零开始训练的AlexNet卷积神经网络相比,本研究算法缩短了训练时间,平均准确率提高了5.6%。采用迁移学习所建立的病害分类模型能够对10种类别的番茄叶片病害快速准确地分类。     

基于深度学习的植物图像识别方法研究

传统植物图像识别研究主要集中在植物叶片图像。研究将深度神经网络学习运用于植物识别领域,突破局部叶片图像的限制,对常规植物图片进行识别。该方法运用google Net的深度卷积神经网络结构,通过图像旋转、镜像、随机裁剪等数据预处理方法扩充训练集,再利用SGD(随机梯度下降法)进行模型算法优化,生成对50种常规植物图像的识别模型。结果表明,该模型在测试集上能够达到平均90%的准确率。     

面向小麦生育进程监测的卷积神经网络精简化研究

目前,利用机器视觉进行小麦生育进程监测主要是通过人工来进行特征提取,存在客观性差、效率低等问题,为了解决该问题,把深度学习引入到小麦生育进程监测研究中。卷积神经网络作为深度学习中常用的算法被广泛应用于图像分类任务中,使用深层的特征提取网络能够自动识别和提取图像特征,但常规深度卷积网络带来的大量参数和计算开销使这些算法难以应用到对存储空间和参数量有一定限制的嵌入式设备中。为此提出将知识蒸馏方法用于目标检测网络的特征提取网络,以提升浅层特征提取网络的性能,在降低模型的计算量和模型大小的同时尽可能地保证识别结果的准确性。通过使用ResNet50、VGG-16这2个不同教师网络分别指导学生模型MobileNet进行训练,试验结果表明,当ResNet50作为教师模型、MobileNet作为学生模型时识别效果最好,学生模型MobileNet的平均识别准确率达到了97.3%,模型大小压缩为仅19.7 MB,相比于ResNet50缩小了88.9%,通过知识蒸馏的方法,使得到的模型能够在提高准确率的情况下还能减少网络模型的参数量和模型运行时间的消耗,大幅降低部署模型的成本,可以为田间小麦智慧化生产提供技...     

基于梅尔谱图和改进ResNet34模型的鸭蛋裂纹识别算法

针对鸭蛋裂纹人工检测受主观性影响造成精度波动大等问题,利用ResNet34网络模型,提出1种基于梅尔谱图的鸭蛋裂纹识别算法。首先利用敲蛋装置收集敲蛋声音数据,再将音频转化成梅尔谱图,构建梅尔谱图数据集,然后搭建ResNet34模型,引入迁移学习机制训练模型,再通过Adam优化算法更新梯度,增加注意力机制模块并将卷积结构替换为深度可分离卷积以对网络模型进行改进,并调整参数进行优化,最后利用模型对鸭蛋裂纹进行识别。结果显示：改进的ResNet34DP＿CA网络模型检测的平均准确率为92.4%,对比原始ResNet34网络模型,平均准确率提高5.5个百分点,参数量减少32%;对比其他网络模型VGG16、MobileNetv2和EfficientNet,平均准确率分别提高10.9、13.7、16.3个百分点,识别时间为21.5 ms。结果表明,所提出的基于梅尔谱图和改进ResNet34模型的鸭蛋裂纹识别算法,能够有效地对鸭蛋裂纹进行检测识别。     

基于改进ShuffleNet V2网络的核桃破壳物料壳仁分类识别方法

核桃破壳后壳仁物料的高效无损分类检测是云南深纹核桃加工的关键技术缺口。本研究首先使用单独的下采样模块、网络浅层不使用深度卷积及网络深层使用H-Swish激活函数替代ReLu激活函数等优化策略,将ShuffleNet V2-0.5网络模型改进为C-ShuffleNet网络模型,实现轻量化的核桃破壳物料壳仁分类检测;然后,用核桃破壳物料壳仁数据集对改进前后的模型进行训练,进而对改进后的模型进行评估与检验;最后,将改进后的模型C-ShuffleNet与AlexNet、ResNet、EfficientNet、MobileNet等经典分类网络模型进行综合性能比较。结果表明,改进后的C-ShuffleNet模型大小比改进前的ShuffleNet V2-0.5压缩了8.9%,测试集准确率达到98.34%,比改进前提高了1.28个百分点,模型推理速度两者相差不大;与AlexNet、ResNet、EfficientNet、MobileNet等模型相比,C-ShuffleNet模型不但能保证较高的识别准确率,同时所占内存空间较小,识别时间更短,更加适合在嵌入式平台上开发应用。本研究结果为深纹核桃破壳物料壳...     

基于迁移模型集成的马铃薯叶片病害识别方法

针对目前马铃薯叶片病害识别工作量大、准确率低且主观性强等热点问题，提出1种通过ResNet34模型结合不同迁移方式进行集成学习以快速识别马铃薯叶片病害图像的方法。首先，利用多种迁移方式(全部参数迁移、特征提取、微调及全新训练4种训练方法),通过调整超参数，使模型快速收敛达到全局最优点。其次，使用混淆矩阵对多种迁移方式的训练模型结果进行对比分析，微调模型识别准确率达到95.45%。最后，利用集成学习将3种训练较优的模型进行集成并与微调模型进行对比。通过试验建立了1个马铃薯叶片病害图像数据集，结果表明，相比现有热门神经网络模型，该数据集无论是识别准确率还是识别效率均有显著提升，通过对比发现，试验的总体准确率提升了3.68百分点，达到99.13%,迁移学习能够更快速地收敛，减少训练时间，并且集成学习能够大幅提升平均识别准确率。本研究提出的针对马铃薯叶片病害的识别方法成本低、精确率高，能更好地应用于日常病害识别中，为植物叶片病害的智能诊断提供借鉴和参考。     

基于对比学习的多肉植物分类识别方法研究

针对多肉植物种类多，类内差异大、类间差异小，数据难收集，导致传统分类算法不能有效解决多肉植物图像分类的问题，提出一种基于对比学习的多肉植物图像分类网络CL＿ConvNeXt。该网络以ConvNeXt为基础结构引入对比学习思想，在网络中间层添加非线性投影层（Projection head）作为辅助分类器来帮助模型对浅层网络进行特征提取；在一个批处理中通过数据增强来构造正样本，将剩余样本看作负样本；将交叉熵损失函数和对比损失函数进行加权计算，重新设计新的损失函数计算方法，实现单阶段模型训练。训练时采用迁移学习将预训练权重迁移到模型中来提高模型训练时的收敛速度，通过优化各种策略和参数来进一步提升模型的识别准确率。结果表明，在自制的190类多肉植物数据集中，在使用相同训练策略和环境配置的情况下，最终模型CL＿ConvNeXt对多肉植物图像分类识别准确率达到了91.79%，较原ConvNeXt模型结构的识别准确率提升了12.24个百分点，对解决多肉植物图像分类识别问题有较好的效果。     

基于深度迁移学习的酿酒葡萄种植信息提取

为利用遥感手段快速、精准提取宁夏贺兰山东麓酿酒葡萄种植信息,提出了一种基于深度迁移学习的酿酒葡萄种植信息提取方法。该方法以全卷积神经网络(Fully convolutional networks,FCN)为基础,利用高分二号卫星遥感资料,以地面采集样本数据进行网络模型训练,利用迁移学习方法将训练好的网络模型迁移到FCN网络模型中,对其进行初始化,避免过拟合问题的发生,其网络训练验证集准确率高达88.16%,较传统的基于深度学习方法准确率提高7.17个百分点。结果表明,基于深度迁移学习的贺兰山东麓酿酒葡萄种植信息提取检测准确率可达91.93%,检测召回率达到91.15%。     

面向钻蛀振动实时侦听的深度学习模型压缩

  目的   基于深度学习的钻蛀振动识别模型结合边缘计算可实现林业蛀干害虫钻蛀振动长期监测和实时预警,但要求大幅压缩智能识别模型的参数量和运算量。本研究采用深度学习模型压缩算法,在不损失精度的前提下,对已有的钻蛀振动识别模型进行压缩,减小模型的体积并提升模型在嵌入式平台的识别速度。   方法   首先采集双条杉天牛钻蛀振动和背景噪声两类信号训练人工设计的5层卷积神经网络BoringNet,得到钻蛀振动识别模型;然后分别使用不同裁剪率的滤波器裁剪、模型量化、多目标知识蒸馏对钻蛀振动识别模型进行压缩;最后设计上述压缩算法的组合策略,联合使用3种算法对蛀振动识别模型进行压缩,探究多种组合的模型压缩效果。   结果   3种模型压缩算法组合,裁剪率为60%时模型达到最优,此时模型计算量和参数量分别从原模型的18.06 ×106次和0.54 ×106个降低为3.01 ×106次和0.09 × 106个,模型体积从2 200 kB压缩至134.9 kB,树莓派3B+上的识别时间由原模型的9.04 ms降低至1.65 ms,而模型精度仍能达到99.29%,提升了0.5%。   结论   本研究的深度学习模型压缩方法,可以针对钻蛀振动侦听场景大幅压缩模型参数量和运算量,在保证准确率的前提下实现嵌入式平台的实时识别,促进钻蛀振动识别模型从工作站试验到野外实地部署的转变,为钻蛀振动识别的边缘计算奠定基础。      

基于迁移学习的竹片缺陷识别

使用竹片图像实现竹片缺陷自动识别，目前深度学习可以有效地解决该类问题，但是必须使用大量样本数据做训练才能获得较高的识别准确率。当图像数量有限时，利用基于迁移学习的方法，把经过预训练的卷积神经网络模型进行迁移，即共享卷积层和池化层的权重参数，调整新网络模型的超参数，并建立一个包含4种共计6 360张竹片缺陷图像的数据库，把图片分成4种训练集测试集形式，即80%训练、20%测试；60%训练、40%测试；40%训练、60%测试；20%训练、80%测试，分别利用支持向量机SVM分类方法、深度学习方法和迁移学习方法进行训练和测试，并将这3种方法作对比。最后，通过构建竹片缺陷识别的混淆矩阵对迁移学习进行具体分析与说明。结果表明，按照80%训练、20%测试的识别准确率最高，通过迁移学习得到的竹片缺陷最高识别精度分别达到98.97%，比普通深度学习提高了11.55% ，比SVM分类方法提高了13.04%。说明迁移学习比普通深度学习和传统支持向量机SVM分类方法更适合用于小样本数据集的分类识别，并且效果优于普通深度学习和 SVM 分类方法。     

基于ResNet模型的玉米叶片病害检测与识别

针对当前玉米病害发生量大、病情复杂、难以防治,严重影响玉米产量和质量的问题,提出了一种基于卷积神经网络和迁移学习的玉米叶片病害检测与识别方法。首先收集了3 827张玉米健康叶片图像和3种不同的玉米病害叶片图像样本,为了使模型拥有更好的泛化能力,使用生成对抗网络对样本进行处理,得到分辨率更高的样本,再对样本进行平移旋转,使样本数量达到5 153张。然后构建ResNet模型,分别对ResNet34、ResNet50及对其添加CBAM注意力机制和FPN特征金字塔网络,并通过迁移学习方法将预训练权重迁移到训练模型中。试验结果表明,ResNet50结合CBAM注意力机制模型的准确率达到了97.5%,相比ResNet50模型准确率提升了4.2百分点,相比ResNet34模型准确率提升了4.9百分点。本研究表明,提出的ResNet50结合CBAM注意力机制模型能够较精准地检测识别玉米枯萎叶、锈病叶、灰斑病叶和健康叶。并可将模型安装在无人机等移动设备上,实现对玉米叶片病害智能化防治,而且后期还会扩充更多的植物病害数据,实现对多类植物病害的检测,为智慧农业添砖加瓦,促进农业防治现代化。