面向边缘智能的DNN边端协同推理方法

    公开(公告)号:CN117808049A

    公开(公告)日:2024-04-02

    申请号:CN202311850217.7

    申请日:2023-12-29

    Inventor: 胡敏 黄廣 黄宏程

    Abstract: 本发明涉及一种面向边缘智能的DNN边端协同推理方法,属于边缘计算领域,包括:离线配置阶段:边缘服务器端根据设备计算量、内存大小、网络条件和自身计算量,对DNN模型进行选取分割部署,并将分割的前部分部署到设备上;动态划分阶段:设备根据自身动态的计算量,动态的选择退出点,并把中间结果传输边缘服务器处,边缘服务器找到卸载点处,将中间结果作为输入,进行剩余模型推理工作,最后返回推理结果给设备进行响应;最后每隔一段时间边缘服务器进行模型更新,将新模型分割并进行模型部署。

Patent Agency Ranking