一种边缘智能服务器神经网络推断任务调度方法

    公开(公告)号:CN114706678B

    公开(公告)日:2025-03-28

    申请号:CN202210284033.8

    申请日:2022-03-22

    Applicant: 中南大学

    Abstract: 本发明公开了一种边缘智能服务器神经网络推断任务调度方法,步骤包括:利用GPU虚拟化技术将GPU虚拟成多个虚拟GPU;按照预设的分配策略,为虚拟GPU分配预设的资源,用排队服务系统按照预设的执行批次,为每个推断任务的类别对应的虚拟GPU分配推断任务;收集每一类推断任务的平均服务延迟和计算资源量,判断是否需要调整分配策略,是则用强化学习算法计算新的分配策略;按照新的分配策略,为虚拟GPU分配对应的资源,用排队服务系统按照对应的执行批次,为每个任务的类别对应的虚拟GPU分配神经网络推断任务。本发明以较低的计算复杂度,满足动态场景的实时性要求,并且有效的解决了在较大规模的边缘计算场景中的负载均衡问题。

    一种移动边缘计算的动态数据卸载方法及系统

    公开(公告)号:CN112929915B

    公开(公告)日:2022-08-02

    申请号:CN202110195102.3

    申请日:2021-02-20

    Applicant: 中南大学

    Abstract: 本发明公开了一种移动边缘计算的动态数据卸载方法及系统,方法包括:通过构建基于用户效益函数最大化和服务器收益函数最大化的双层优化问题模型,由所述双层优化问题模型求解确定终端用户的数据卸载量、服务器的定价和终端用户进行数据卸载的目标服务器,终端用户将数据卸载至目标服务器。具有充分照顾到终端用户和服务器双方的权益,有效解决边缘计算资源交易中一方处于垄断地位,满足边缘计算资源需求多样性等优点。

    一种多跳认知无线网络的能量与信道分配方法及装置

    公开(公告)号:CN111417138B

    公开(公告)日:2021-10-12

    申请号:CN202010182279.5

    申请日:2020-03-16

    Applicant: 中南大学

    Abstract: 本发明公开了一种多跳认知无线网络的能量与信道分配方法及装置,方法包括:S1.获取物联网节点的能量队列、数据队列和预设的虚拟队列;所述虚拟队列用于控制所述物联网节点的数据延迟;S2.根据所述能量队列、数据队列和虚拟队列构建李雅普诺夫函数的偏移减效函数;S3.以最小化所述偏移减效函数的线性上界作为优化目标,对所述偏移减效函数的线性上界进行优化,得到物联网节点从环境中获取的能量、采集的数据、丢弃的数据量和链路信道分配;S4.将所述从环境中获取的能量、采集的数据、丢弃的数据量和链路信道分配分发给物联网节点。具有有效降低物联网节点的最大有限延时,可更好的优化网络效益等优点。

    一种深度学习推理服务的动态批处理任务调度方法及系统

    公开(公告)号:CN112860402B

    公开(公告)日:2023-12-05

    申请号:CN202110192645.X

    申请日:2021-02-20

    Applicant: 中南大学

    Abstract: 本发明公开了一种深度学习推理服务的动态批处理任务调度方法及系统,方法包括:以二维马尔可夫过程描述每个批次离开时刻的队列等待任务数和离开批次的大小,确定所述二维马尔可夫过程的稳态概率,根据所述稳态概率确定深度学习推理服务系统中的平均服务延迟;构建优化模型来优化批处理任务大小的上限与所述平均服务延迟和内存使用量,求解优化模型确定批处理任务的批次大小上限。本发明具有符合动态环境,具有较好的平均服务延迟和内存占用量等优点。(56)对比文件Lin, Lei, Qian Wang, and Adel W.Sadek.."Border crossing delay predictionusing transient multi-server queueingmodels" 《.Transportation Research Part A:Policy and Practice64 (2014)》.2014,全文.王斐“.基于系统调度与随机算法的云服务优化技术研究”《.中国博士学位论文全文数据库基础科学辑》.2020,全文.Panda, Gopinath, Abhijit Datta Banik,and Dibyajyoti Guha.."Stationary analysisand optimal control under multipleworking vacation policy in a GI/M (a, b)/1 queue"《.Journal of Systems Science andComplexity 31 (2018)》.2018,全文.赵海军;崔梦天;李明东;何先波“.基于CTMC和状态空间模型的宽带无线接入网的QoS性能研究”《.电子学报》.2018,全文.何华;林闯;赵增华;庞善臣“.使用确定随机Petri网对Hadoop公平调度的建模和性能分析”.《计算机应用》.2015,全文.

    一种移动边缘计算的动态数据卸载方法及系统

    公开(公告)号:CN112929915A

    公开(公告)日:2021-06-08

    申请号:CN202110195102.3

    申请日:2021-02-20

    Applicant: 中南大学

    Abstract: 本发明公开了一种移动边缘计算的动态数据卸载方法及系统,方法包括:通过构建基于用户效益函数最大化和服务器收益函数最大化的双层优化问题模型,由所述双层优化问题模型求解确定终端用户的数据卸载量、服务器的定价和终端用户进行数据卸载的目标服务器,终端用户将数据卸载至目标服务器。具有充分照顾到终端用户和服务器双方的权益,有效解决边缘计算资源交易中一方处于垄断地位,满足边缘计算资源需求多样性等优点。

    一种多跳认知无线网络的能量与信道分配方法及装置

    公开(公告)号:CN111417138A

    公开(公告)日:2020-07-14

    申请号:CN202010182279.5

    申请日:2020-03-16

    Applicant: 中南大学

    Abstract: 本发明公开了一种多跳认知无线网络的能量与信道分配方法及装置,方法包括:S1.获取物联网节点的能量队列、数据队列和预设的虚拟队列;所述虚拟队列用于控制所述物联网节点的数据延迟;S2.根据所述能量队列、数据队列和虚拟队列构建李雅普诺夫函数的偏移减效函数;S3.以最小化所述偏移减效函数的线性上界作为优化目标,对所述偏移减效函数的线性上界进行优化,得到物联网节点从环境中获取的能量、采集的数据、丢弃的数据量和链路信道分配;S4.将所述从环境中获取的能量、采集的数据、丢弃的数据量和链路信道分配分发给物联网节点。具有有效降低物联网节点的最大有限延时,可更好的优化网络效益等优点。

    一种视频处理方法及系统
    10.
    发明公开

    公开(公告)号:CN111131835A

    公开(公告)日:2020-05-08

    申请号:CN201911410027.7

    申请日:2019-12-31

    Applicant: 中南大学

    Abstract: 本发明公开了一种视频处理方法及系统,方法包括:S1.将待处理视频中的帧进行分组,得到帧编组,并将所述帧编组内的帧划分为基础帧和变化帧;S2.以延时最小作为优化目标,确定所述帧编组内的所述基础帧和所述变化帧的处理主体,并将其分配给所确定的所述处理主体;所述处理主体包括本地端和服务端;S3.通过所述处理主体对所述基础帧和所述变化帧进行识别,得到识别结果。具有可有效降低识别的延时,同时保证识别准确率的优点。

Patent Agency Ranking