-
公开(公告)号:CN116894461A
公开(公告)日:2023-10-17
申请号:CN202310935188.8
申请日:2023-07-27
Applicant: 西北农林科技大学
IPC: G06N3/0464 , G06N3/08
Abstract: 本发明提出了一种面向深度学习的去中心化并行梯度下降训练方法和系统,该方法属于深度学习并行化领域,提出了基于历史权重的预训练、管道通信和基于缓冲权重的并行训练相结合的方法,实现了加速分布式系统训练深度神经网络的过程。该方法旨在为分布式深度学习任务提供更高效的训练方式,实现对深度神经网络模型的快速训练。建立基于历史权重的预训练方法,保证了模型收敛的稳定性,使得网络模型在训练过程中更加稳健地收敛于全局最优解。管道通信机制,分解了通信任务,增加了通信的并行粒度,提高了工作节点之间的信息交换效率。利用基于缓冲权重的并行训练方法,实现通信和计算操作的解耦,最大化硬件设备算力资源的利用率。
-
公开(公告)号:CN114638959A
公开(公告)日:2022-06-17
申请号:CN202210278313.8
申请日:2022-03-21
Applicant: 西北农林科技大学
Abstract: 本发明提出了一种基于卷积神经网络的苹果叶部病害诊断方法,该方法针对含有不同大小的病变区域的苹果叶病检测问题,提出了多尺度特征提取、V‑空间定位分支和多尺度注意力机制相结合的苹果叶部病害检测方法,实现对不同尺度病斑的准确检测。该方法旨在对不同大小的病斑提取更可靠的特征表示,提高最终检测性能。建立多尺度特征提取,融合不同层次的特征,进一步提高苹果叶片病害,特别是小病斑的检测性能。然后提出了V‑空间定位分支,在增强病斑定位的纹理特征信息方面发挥了重要作用。同时,利用注意力机制,自动学习不同尺度的特征通道对区分不同大小的病斑的重要性。
-
公开(公告)号:CN118446275A
公开(公告)日:2024-08-06
申请号:CN202410590676.4
申请日:2024-05-13
Applicant: 西北农林科技大学
IPC: G06N3/084 , G06N3/0464
Abstract: 本发明公开了一种基于延迟感知的软同步分布式深度学习参数更新方法和系统,它包含软同步更新策略和基于延迟的梯度加权平均算法;首先通过使计算节点在本地多次更新,进行梯度累加,大幅度的减少了工作节点与参数服务器节点之间的通信次数,进而减少了通信开销,同时也有效地利用了工作节点的内存空间。其次,每次在收到部分计算节点的梯度信息,为其生成权重并进行梯度加权平均,之后进行一次全局的模型更新,使得模型的训练朝着某一方向进行收敛,与异步更新相比,收敛方向更加稳定,可以有效缓解由于放宽同步屏障带来的梯度过时问题。
-
公开(公告)号:CN118445048A
公开(公告)日:2024-08-06
申请号:CN202410590677.9
申请日:2024-05-13
Applicant: 西北农林科技大学
Abstract: 本发明公开了一种面向移动端设备统一内存的深度学习模型异构协同推理方法,属于神经网络技术领域。该方法首先将任务划分给CPU和GPU:令CPU执行数据相关的前处理和后处理过程,并负责协调算法的调度任务;GPU则负责执行具体的推理计算。处理过程中引入多线程和多CUDA流,构建了流水式的异构调度算法。通过重叠数据处理和模型计算时间,有效地提高了GPU的利用率。
-
公开(公告)号:CN114638959B
公开(公告)日:2025-03-07
申请号:CN202210278313.8
申请日:2022-03-21
Applicant: 西北农林科技大学 , 陕西省农村科技开发中心
IPC: G06V10/25 , G06V10/44 , G06V10/774 , G06V10/80 , G06V10/82 , G06N3/0464 , G06N3/08
Abstract: 本发明提出了一种基于卷积神经网络的苹果叶部病害诊断方法,该方法针对含有不同大小的病变区域的苹果叶病检测问题,提出了多尺度特征提取、V‑空间定位分支和多尺度注意力机制相结合的苹果叶部病害检测方法,实现对不同尺度病斑的准确检测。该方法旨在对不同大小的病斑提取更可靠的特征表示,提高最终检测性能。建立多尺度特征提取,融合不同层次的特征,进一步提高苹果叶片病害,特别是小病斑的检测性能。然后提出了V‑空间定位分支,在增强病斑定位的纹理特征信息方面发挥了重要作用。同时,利用注意力机制,自动学习不同尺度的特征通道对区分不同大小的病斑的重要性。
-
公开(公告)号:CN116664480A
公开(公告)日:2023-08-29
申请号:CN202310353202.3
申请日:2023-04-04
Applicant: 西北农林科技大学 , 陕西省农村科技开发中心
IPC: G06T7/00 , G06V10/764 , G06V10/82 , G06V10/40 , G06V10/25 , G06V10/77 , G06V10/80 , G06V10/766 , G06N3/0464 , G06N3/08
Abstract: 本发明公开了一种基于深度学习的层级叶片病害检测方法和系统,用于自然环境下苹果叶片病害检测。首先,前置区域提议网络在整个图像生成提议框,并筛选出叶片提议框,后置区域提议网络根据叶片提议框生成病斑提议框。其次,设计了底层特征聚合模块,以更好地利用前置区域提议网络生成的桥接特征。然后,在后置区域提议网络中引入多级ROIAlign块和GCNet,使聚合的特征缩放到相同的大小,更专注于病斑。最后,提出了一种位置锚框生成器,使预设锚框更容易根据病叶的位置捕获目标病斑。复杂自然环境下,该层级苹果叶片病害检测方法可以提高检测任务的召回率和检测精度。
-
公开(公告)号:CN115293342A
公开(公告)日:2022-11-04
申请号:CN202210264342.9
申请日:2022-03-17
Applicant: 西北农林科技大学
Abstract: 本发明提出了一种基于混合并行的深度卷积神经网络并行训练方法,用于快速训练具有大数据集的大模型。该方法包含组内并行和组间并行。对于组内并行性,首先使用自动模型划分方法将模型分割为多个分区,并将多个分区分别放置在不同的GPU上。然后,将划分后的小批量数据一个接一个地连续发送到不同的GPU上,并且以流水线并行方式训练多个分区。组间并行在每个分组上复制模型副本,独立的计算梯度,然后在组间分区上将这些梯度的汇总更新,以达到最大化计算与通信重叠,从而减少梯度同步时间。实验结果表明,与传统数据并行和最先进的并行训练torchgpipe方法相比,本发明提出的方法加速性能得到了明显提升。
-
-
-
-
-
-