-
公开(公告)号:CN119356626A
公开(公告)日:2025-01-24
申请号:CN202411959130.8
申请日:2024-12-30
Applicant: 中国空气动力研究与发展中心计算空气动力研究所
IPC: G06F3/06
Abstract: 本申请公开了一种作业静态感知条带优化方法、装置、存储设备及介质,涉及计算机优化技术领域,先对离线数据分析,筛选出涉及写操作的作业,统计每条作业在各个OST上的写I/O数据量并进行降序排列,求和得到每条作业的写I/O数据总量,对作业添加属性,标记为待条带化作业,按照应用进行条带化设置,对应用的作业数目进行判断,若应用的作业数目不小于第四阈值则进行子目录条带化设置。针对超级计算机优化作业OST中瞬时负载极不平衡的问题,通过将条带技术应用于存储系统中,通过对作业I/O模式的探索分析,确定可条带优化的作业,此外提出了静态感知文件条带化,能够快速有效的判定可条带化的作业,以适应不同用户的作业分布情况。
-
公开(公告)号:CN114169651B
公开(公告)日:2022-04-19
申请号:CN202210132077.9
申请日:2022-02-14
Applicant: 中国空气动力研究与发展中心计算空气动力研究所
Abstract: 本发明公开了一种基于应用相似性的超级计算机作业失败主动预测方法,属于超级计算机领域,包括步骤:S1,从作业日志中提取特征数据,并加入作业路径数据后一起作预处理,然后作为机器学习算法模型的输入特征;S2,在机器学习算法模型对输入特征数据进行处理后,实现主动预测作业失败状态。本发明挖掘出了能够准确描述作业应用属性的特征,具有很好的预测提升效果;采用机器学习算法寻找作业失败预测方法,提升预测模型的鲁棒性,尤其适应非线性数据;对作业应用属性的聚类方法,显著降低聚类计算开销,降低误差;实现预测效率高,能够实际应用于大型超级计算机。
-
公开(公告)号:CN114169651A
公开(公告)日:2022-03-11
申请号:CN202210132077.9
申请日:2022-02-14
Applicant: 中国空气动力研究与发展中心计算空气动力研究所
Abstract: 本发明公开了一种基于应用相似性的超级计算机作业失败主动预测方法,属于超级计算机领域,包括步骤:S1,从作业日志中提取特征数据,并加入作业路径数据后一起作预处理,然后作为机器学习算法模型的输入特征;S2,在机器学习算法模型对输入特征数据进行处理后,实现主动预测作业失败状态。本发明挖掘出了能够准确描述作业应用属性的特征,具有很好的预测提升效果;采用机器学习算法寻找作业失败预测方法,提升预测模型的鲁棒性,尤其适应非线性数据;对作业应用属性的聚类方法,显著降低聚类计算开销,降低误差;实现预测效率高,能够实际应用于大型超级计算机。
-
公开(公告)号:CN119917298A
公开(公告)日:2025-05-02
申请号:CN202510421331.0
申请日:2025-04-07
Applicant: 中国空气动力研究与发展中心计算空气动力研究所
Abstract: 本发明属于超级计算机技术领域,公开了一种基于Burst Buffer资源预留的作业调度优化方法,引入了Burst Buffer资源的预留机制,具体包括如下:作业提交与资源需求预留,Burst Buffer资源的预留机制具体包括系统根据每个作业对计算资源和Burst Buffer的需求,提前为其分配相应的Burst Buffer资源;作业调度的时间窗口机制,调度过程采用时间窗口模式;作业执行顺序采用传统方式,并通过比较优化指标作业进一步选择执行的顺序;作业回填;优化目标选择任一或综合的优化目标效果最好的作业执行顺序。本发明在调度过程中提高了作业调度效率和Burst Buffer资源的利用率。
-
公开(公告)号:CN117908804B
公开(公告)日:2024-05-28
申请号:CN202410310701.9
申请日:2024-03-19
Applicant: 中国空气动力研究与发展中心计算空气动力研究所
IPC: G06F3/06 , G06F16/901 , G06F18/213 , G06F18/23
Abstract: 本发明公开了基于作业感知的文件条带化方法、装置、设备及介质,通过对存储系统的I/O分布以及作业I/O模式探索得出确定适合超级计算机的作业可条带优化的标准,根据作业是否满足可条带优化条件采用静、动态文件条带。本发明根据用户的角度来采用静、动态文件条带,可以较好地使用用户新提交的作业,以及容错恢复措施。
-
公开(公告)号:CN117908804A
公开(公告)日:2024-04-19
申请号:CN202410310701.9
申请日:2024-03-19
Applicant: 中国空气动力研究与发展中心计算空气动力研究所
IPC: G06F3/06 , G06F16/901 , G06F18/213 , G06F18/23
Abstract: 本发明公开了基于作业感知的文件条带化方法、装置、设备及介质,通过对存储系统的I/O分布以及作业I/O模式探索得出确定适合超级计算机的作业可条带优化的标准,根据作业是否满足可条带优化条件采用静、动态文件条带。本发明根据用户的角度来采用静、动态文件条带,可以较好地使用用户新提交的作业,以及容错恢复措施。
-
-
-
-
-