-
公开(公告)号:CN116341624A
公开(公告)日:2023-06-27
申请号:CN202310346947.7
申请日:2023-03-31
Applicant: 华中科技大学
IPC: G06N3/0464 , G06N5/04 , G06N3/08
Abstract: 本发明涉及一种边端协同深度学习计算加速系统及方法,所述系统包括至少一个终端设备(1)和至少一个边缘服务器(2),所述终端设备(1)被配置为:在进入至少一个所述边缘服务器(2)的服务范围的情况下,基于自身第一配置信息和所述边缘服务器(2)的第二配置信息确定深度学习模型的层间分区和/或层内分区的策略;所述边缘服务器(2)被配置为:响应于推理请求信息,执行所述深度学习模型的层间分区和/或层内分区的策略以进行协同推理。本发明采用基于工作负载的随机森林方法预测DNN模型执行时间,预测结果更加准确。