-
公开(公告)号:CN116360790A
公开(公告)日:2023-06-30
申请号:CN202310274453.2
申请日:2023-03-15
Applicant: 之江实验室
Abstract: 本申请涉及一种基于虚拟机的代码编译方法、装置及执行方法、装置,其中,该基于虚拟机的代码编译方法包括:通过获取字节码中的代码块,判断代码块是否属于热点函数,若是,通过启发式编译对代码块进行编译获得第一代码;通过机器学习对代码块进行编译获得第二代码;对第一代码和第二代码进行性能评估,获得第三代码;将第三代码编译为本地代码;并将本地代码存储在预设寄存器中。通过本申请,解决了相关技术中存在传统的JIT编译方案通过解释执行的方式运行速度慢的问题,减少常用编译的代码块的反复执行的次数,省去了大量的调用和重新解释的过程,并且存放在寄存器中更可以提高执行速度,节省时间。
-
公开(公告)号:CN116204324A
公开(公告)日:2023-06-02
申请号:CN202310345473.4
申请日:2023-03-29
Applicant: 之江实验室
Abstract: 本说明书公开了一种任务执行的方法、装置、存储介质及电子设备。所述任务执行的方法包括:确定目标模型中的每个网络层对应的计算任务各计算设备对应的设备信息,针对每个网络层,根据执行该网络层对应计算任务时涉及的计算次数以及各计算设备的设备信息,确定通过各计算设备执行该网络层对应计算任务时所需的计算时长,根据计算时长、上一个网络层对应的计算设备与其他各计算设备之间的数据传输时长、该网络层的数据所需的内存空间以及各计算设备的剩余内存中的至少一种,确定该网络层对应的目标设备,在接收到各网络层对应计算任务的执行请求后通过各网络层对应的目标设备执行计算任务。
-
公开(公告)号:CN116069512A
公开(公告)日:2023-05-05
申请号:CN202310286991.3
申请日:2023-03-23
Applicant: 之江实验室
Abstract: 本发明提公开了一种基于强化学习的Serverless高效资源分配方法及系统,该方法是通过对尾延迟、决策频率以及资源效率关系的观察,在最小化无服务器系统的资源配置消耗的同时,保障设置的性能延迟目标。该方法充分利用高频率管理带来的资源高效管理优点,通过观察每个请求的状态,利用强化学习模型对处理请求的实例资源配置做出决策。针对函数工作流多阶段运行的特性并对决策模型的轻量化设计,使得高频率控制层隐藏了时间开销并降低了资源开销。本发明与最新的工作流任务调度系统作比较,提升了CPU利用率,并提供了99%的请求时延SLO(Service Level Objective,服务水平目标)保证,降低了端到端延迟方差。
-
公开(公告)号:CN113835868B
公开(公告)日:2022-04-15
申请号:CN202111412833.5
申请日:2021-11-25
Applicant: 之江实验室
Abstract: 本发明提供一种基于反馈和公平队列的服务质量感知的缓存调度方法,采用服务质量衡量策略将不同类似的应用的服务质量指标化,使用开始时间公平列队设置不同的开始服务时间来控制不同应用请求的服务顺序,利用基于反馈的缓存分区管理模块将所有逻辑分区划分为两种类型:提供分区和接收分区,并且调整两种类型逻辑分区之间的缓存分配,通过缓存块分配管理模块平衡整体性能和保证服务质量,以及缓存淘汰策略监控模块监控每个逻辑分区的当前缓存淘汰策略效率,并根据应用的负载特征变化进行动态调整,使用缓存压缩监控模块捕获局部性较差的应用,即存在缓存命中率长尾现象的应用。本发明能够兼顾缓存整体效率和应用之间的服务质量保证。
-
公开(公告)号:CN119276638B
公开(公告)日:2025-04-08
申请号:CN202411795141.7
申请日:2024-12-09
Applicant: 之江实验室
IPC: H04L9/40 , H04L45/76 , H04L47/2441 , H04L45/42 , H04L45/44
Abstract: 本发明公开了一种链路泛洪攻击下诱饵主机的识别方法与装置,该该方法包括:在SDN控制器中获取全局路由信息后,选择关键交换机并按其分布将网络划分成多个监测区域;对每个监测区域离线训练用于流量分类的改进的RF模型,再在SDN控制器中将所有训练好的RF模型转换成符合P4交换机规范的转发规则,并安装到关键交换机上;在交换机内运行转发规则以线速进行流量分类,并将分类结果汇报给SDN控制器;根据分类结果识别出诱饵主机的地址。本发明显著减少了控制器与数据平面间和数据平面内的通信开销,提高了LFA下诱饵主机的识别正确率和时间效率,为LFA的安全防御提供了高效、资源节约的解决方案,提高了SDN应对LFA的效率。
-
公开(公告)号:CN119336510A
公开(公告)日:2025-01-21
申请号:CN202411863320.X
申请日:2024-12-17
Applicant: 之江实验室
Abstract: 本说明书公开了一种计算内核动态调度系统及方法,计算内核动态调度系统包括:请求管理模块、调度管理模块、监控管理模块、运行管理模块,请求管理模块用于将属于不同目标任务的各待运行计算内核存放到不同的队列中进行管理,调度管理模块用于针对队列中的每个计算内核,根据监控管理模块采集的每个计算内核的执行特征数据,确定每个计算内核对于迟延的允许程度,以确定每个计算内核的后置系数,进而可以按照每个计算内核的后置系数,将各计算内核调度到相应的目标计算内核中运行,从而可以提升通过指定芯片运行各目标任务时的效率。
-
公开(公告)号:CN118642661B
公开(公告)日:2024-11-08
申请号:CN202411092481.3
申请日:2024-08-09
Applicant: 之江实验室
Abstract: 本发明公开了一种分布式深度学习缓存数据存储的方法和装置,其方法包括:使用细粒度的缓存数据布局方法,充分利用下一周期的随机访问序列指导数据在缓存节点的布局,然后以异步方式动态地将每个样本数据精确迁移到目标缓存节点,并将每个训练进程的数据摄取请求动态调度到目标缓存节点,使得任一时间段内各缓存节点收到的数据摄取请求数目都是相当的,从而保证每个缓存节点上的存储、网络等资源都能充分利用,当模型训练任务提升数据载入的并发度时,缓存数据摄取的并发度也相应提升,显著加快模型训练任务摄取数据的速度。
-
公开(公告)号:CN118396140B
公开(公告)日:2024-09-13
申请号:CN202410849948.8
申请日:2024-06-27
Applicant: 之江实验室
IPC: G06N20/20
Abstract: 本说明书公开了一种分布式模型训练系统及方法,第二计算节点基于适应度函数确定各树型结构模型的当前适应度,选择目标树型结构模型,第一计算节点选择参考树型结构模型,根据参考树型结构模型和目标树型结构模型,生成进化操作执行任务,将其分配给各第二计算节点,使其执行各进化操作执行任务,得到更新后的树型结构模型,第一计算节点从各更新后的树型结构模型中确定各选中的树型结构模型,并以此构建当前待训练模型,迭代多次直到满足第一预设条件,得到训练完成的目标模型。可见,上述方案实现了基于大型计算集群的分布式训练的适配,解决了大型树型模型占用计算资源高的问题,提升了大型树型模型的训练效率。
-
公开(公告)号:CN117909371B
公开(公告)日:2024-06-28
申请号:CN202410308246.9
申请日:2024-03-18
Applicant: 之江实验室
IPC: G06F16/2455 , G06F16/23 , G06F18/214 , G06N20/00
Abstract: 本说明书公开了一种模型训练方法、装置、存储介质及电子设备。在此方法中,每轮训练时,确定对目标模型执行该轮训练任务时所要使用的训练样本的数据标识,并判断要使用的训练样本的数据标识是否存储在预设的数据列表中,若是,则从预设的缓存中查询该数据标识对应的训练样本,通过获取到的训练样本对目标模型进行训练,否则,根据该数据标识向预设的数据库发送数据获取请求,并通过获取到的训练样本对目标模型进行训练,根据该轮训练时使用的训练样本的使用次数,对预设的数据列表中存储的数据标识进行更新,以根据更新后的数据列表,对预设的缓存中的训练样本进行更新,并通过预设的缓存中更新后的训练样本,对目标模型进行下一轮训练。
-
公开(公告)号:CN117032937B
公开(公告)日:2024-01-09
申请号:CN202311271781.3
申请日:2023-09-28
Applicant: 之江实验室
Abstract: 本申请涉及一种基于GPU的任务调度方法、电子装置和存储介质,其中,该任务调度方法包括:统计预设运行时间内调度器的GPU执行新任务时计算资源使用率超过计算资源平均使用率的时间占比和显存占用率超过显存平均占用率的时间占比;获取性能拐点显存占用率;据此划分新任务的类型并根据该类型和各执行器的GPU的运行任务数据,将新任务调度至匹配的执行器;执行前基于GPU运行状态、显存占用情况、新任务及正运行的任务的性能拐点显存占用率,分配GPU资源。通过本申请,解决了不具备优先级信息时GPU资源利用率低的问题,实现了在不具备任务优先级信息的情况下提高GPU资源利用率。(56)对比文件汤小春;符莹;樊雪枫.数据中心上异构资源的细粒度分配算法研究.西北工业大学学报.2020,(第03期),全文.
-
-
-
-
-
-
-
-
-