公开(公告)号：CN114595000B

公开(公告)日：2023-05-02

申请号：CN202210128433.X

申请日：2022-02-11

Applicant: 内蒙古工业大学

Inventor： 许志伟 ,  武茹涛 ,  王永生 ,  刘利民

IPC: G06F9/445 ,  G06F8/60 ,  G06F11/07 ,  G06F11/14 ,  G06N3/0475 ,  G06N3/098 ,  G06N5/04

Abstract: 一种面向边缘智能的高弹性多节点协同模型卸载方法。在部署阶段，多边缘节点进行信息感知，构建多边缘节点深度神经网络(Deep Neural Network，DNN)协同执行图，实现神经网络分布式部署；在执行阶段，根据部署阶段生成的执行图运行DNN模型，同时使用故障检测机制检测故障，若检测到发生分区故障，则使用基于延迟改进的策略合理的选择DNN分区的最优部署节点进行卸载备份。并使用随机调度策略来随机选择执行路径。本发明通过提高分布式神经网络的故障弹性，有效规避了边缘节点发生故障对分布式推理的影响。同时，本发明不需要额外的模型重新设计和再训练，保证了执行效率和准确率。

公开(公告)号：CN114595000A

公开(公告)日：2022-06-07

申请号：CN202210128433.X

申请日：2022-02-11

Applicant: 内蒙古工业大学

Inventor： 许志伟 ,  武茹涛 ,  王永生 ,  刘利民

IPC: G06F9/445 ,  G06F8/60 ,  G06F11/07 ,  G06F11/14 ,  G06N3/04 ,  G06N3/08 ,  G06N5/04

Abstract: 一种面向边缘智能的高弹性多节点协同模型卸载方法。在部署阶段，多边缘节点进行信息感知，构建多边缘节点深度神经网络(Deep Neural Network，DNN)协同执行图，实现神经网络分布式部署；在执行阶段，根据部署阶段生成的执行图运行DNN模型，同时使用故障检测机制检测故障，若检测到发生分区故障，则使用基于延迟改进的策略合理的选择DNN分区的最优部署节点进行卸载备份。并使用随机调度策略来随机选择执行路径。本发明通过提高分布式神经网络的故障弹性，有效规避了边缘节点发生故障对分布式推理的影响。同时，本发明不需要额外的模型重新设计和再训练，保证了执行效率和准确率。