有向无环图拓扑下针对流式任务的深度神经网络卸载方法

    公开(公告)号:CN116302197A

    公开(公告)日:2023-06-23

    申请号:CN202310282031.X

    申请日:2023-03-21

    Abstract: 本发明涉及一种有向无环图拓扑下针对流式任务的深度神经网络卸载方法,基于拓扑排序的转换方法,无损地把有向无环图深度神经网络转化成链式深度神经网络CDNN;基于贪婪和二分法的思想对CDNN进行多拆分。即,函数的输入是带有一组计算单元的CDNN,输出是卸载策略,每一次递归在考虑计算和传输延时最少的情况下选择最优的分割点和卸载策略将一组计算单元分为两部分,同时把CDNN分为两部分,分别卸载到两个计算单元组中,继续递归。当所有递归完成时,得到卸载策略。针对流任务适用于大规模DDNN卸载问题的多拆分方法,该方案可以平衡DNN卸载处理流任务的计算和传输延迟,以最大限度地减少总延迟。

    适用于CPU-GPU异构集群的计算卸载和资源分配方法

    公开(公告)号:CN115442851A

    公开(公告)日:2022-12-06

    申请号:CN202211051646.3

    申请日:2022-08-31

    Abstract: 本发明涉及一种适用于CPU‑GPU异构集群的计算卸载和资源分配方法,考虑了CPU‑GPU异构网络中的联合计算卸载和资源分配,以实现更低的系统开销和更高的GPU利用率。将每个任务分解为串行段和并行段,它们可以分别被卸载到CPU和GPU。基于GPU的资源共享技术,将GPU的计算能力离散化,使计算资源分配被表述为整数规划。然后将任务调度建模为一个混合整数非线性规划问题,以最小化由延迟和能耗组成的总开销。我们将混合整数非线性规划问题分解以便计算卸载和资源分配可以被交替优化,这引出了联合模拟退火和凸优化的算法。进行了数值模拟来评估所提出的解决方案的性能,与传统方法相比,它在系统开销、受益UE的数量和加速比方面都是最佳的。

    一种基于任务卸载的高效数据感知分层联邦学习方法

    公开(公告)号:CN114828095A

    公开(公告)日:2022-07-29

    申请号:CN202210293352.5

    申请日:2022-03-24

    Abstract: 本发明的技术方案是提供了一种基于任务卸载的高效数据感知分层联邦学习方法。本发明首次考虑了成本函数中的数据分布,可以在降低系统成本的同时提高边缘数据集的质量。此外,本发明设计了一种基于减少动作空间的多智体深度确定性策略梯度模型的TO和RA方法。大量的实验证明,本发明提出的算法可以有效提高聚合模型的准确性的同时,有效降低卸载成本,提高轻量级数据感知HFEL算法的训练精度,降低系统成本。

Patent Agency Ranking