-
公开(公告)号:CN112565326B
公开(公告)日:2023-10-17
申请号:CN201910918615.5
申请日:2019-09-26
Applicant: 无锡江南计算技术研究所
IPC: H04L67/1097
Abstract: 本发明公开了一种面向分布式文件系统的RDMA通信地址交换方法,包括分布式文件系统的RDMA数据发送阶段和RDMA数据接收阶段,包括以下步骤:与远端建立连接时预交换若干个RDMA地址;根据文件操作的类型,将文件操作数据封装到本地的RDMA注册地址,生成RDMA消息;所述文件操作的类型包括打开操作open、关闭操作close、查找操作lookup、书写操作write和读取操作read;根据目前的远端RDMA地址使用情况为本次文件操作分配远端的RDMA地址;若RDMA空闲地址小于目前RDMA地址的一半,在生成的文件操作RDMA消息附带发送RDMA地址紧张报警信息让远端申请8个RDMA地址。本发明不会引发内存浪费、降低通信效率、消耗额外系统资源,减少了多余RDMA地址交换操作,提升了RDMA通信的整体效率。
-
公开(公告)号:CN114217733A
公开(公告)日:2022-03-22
申请号:CN202110479680.X
申请日:2021-04-30
Applicant: 无锡江南计算技术研究所
IPC: G06F3/06
Abstract: 本发明公开一种面向IO转发系统的IO处理框架,包括以下作业粒度的IO调度单元,用于在IO转发节点上,根据作业的job ID将所有的IO请求进行分类;文件粒度的IO调度单元,用于将来自同一作业的IO请求按照文件进行分配,并以文件为单位进行调度;IO操作级别的IO调度单元,用于在IO请求调度过程中分析来自同一个文件的多个IO请求之间的依赖关系,并根据这些依赖关系,实现合并写IO请求和优化预读;还包括一动态资源调度单元,用于根据各个IO调度单元对IO请求的执行情况。本发明解决了高性能计算转发架构下的IO转发服务器的IO调度问题。
-
公开(公告)号:CN112559230A
公开(公告)日:2021-03-26
申请号:CN201910852581.4
申请日:2019-09-10
Applicant: 无锡江南计算技术研究所
Abstract: 本发明公开一种面向超大规模存储系统性能异常降级问题的自动鉴别方法,基于以下配置:故障总控模块,用于提供存储系统状态的整体视图,并通过查询故障数据库获取文件系统的故障信息,并发送到存储系统的总信息库;故障探测模块,用于判断当前存储系统是否有故障,如果没有故障,则返回状态正常,如果有故障,将当前存储设备的故障信息上报给驻留模块;设置于存储设备上的驻留模块,用于定时调用故障探测模块,对存储系统进行探测,并将接收自故障探测模块的故障信息规划后录入故障数据库,还用于将故障信息发送至故障总控模块。本发明实现了面向超大规模存储系统中性能降级设备的及时发现的报警,从而使大规模IO应用课题的存储性能得到保证。
-
公开(公告)号:CN112540954A
公开(公告)日:2021-03-23
申请号:CN201910897716.9
申请日:2019-09-23
Applicant: 无锡江南计算技术研究所
IPC: G06F16/11 , G06F16/13 , G06F16/172 , G06F16/185
Abstract: 本发明公开了一种以目录单位的多级存储构建与在线迁移方法,包括以下步骤:作业对存储进行读写IO操作请求;Transparent模块接收来自数据库的存储文件状态信息,此存储文件状态信息包括文件的位置、文件的读写状态、文件的迁移状态、文件的访问时间;以及发布待加速的目录;根据文件状态判断IO操作请求的文件数据对象是否在加速目录表中,去全局文件系统中读写文件数据对象;如果是,判断文件数据对象是否在透明缓存中,去透明缓存中读写文件数据对象;如果不是,去全局文件系统中读写文件数据对象,执行下一步;如果是读写存储于透明缓存的文件数据对象,读写后,进一步执行以下步骤。本发明满足高IO的性能要求,支持数据的在线迁移,以便于为用户提供更好的存储体验。
-
公开(公告)号:CN112433983B
公开(公告)日:2022-07-12
申请号:CN201910789086.3
申请日:2019-08-26
Applicant: 无锡江南计算技术研究所
Abstract: 本发明公开了一种支持多作业并行IO性能隔离的文件系统管理方法,包括以下配置:文件资源池的定义:包括:服务数量列表、每个服务器上存储空间配额、静态信息以及每个服务器上该资源池可以使用最大存储性能;文件资源池的分配:并行文件系统提供文件资源池的分配接口,文件资源池请求中包含申请的资源池最大性能、资源池的IO使用方式、包含的数据服务器数量、分配的最大空间;文件资源池的释放:并行文件系统提供文件资源池的释放接口,用户或管理员通过该释放接口完成文件资源池内资源的释放;资源池内负载统计:文件资源池内的数据服务器的负载的评定是通过监控文件的生命周期实现。本发明文件系统管理方法缓解并行I/O过程中进程之间的性能不均衡,提高并行IO性能。
-
公开(公告)号:CN114244857A
公开(公告)日:2022-03-25
申请号:CN202110387038.9
申请日:2021-04-12
Applicant: 无锡江南计算技术研究所
IPC: H04L67/1097 , G06F15/173
Abstract: 本发明公开一种分布式存储系统的内存池管理方法,包括以下步骤:S1、分布式存储系统初始化开始,打开网卡设备;S2、分配内存,注册分布式存储系统内存池,记录内存池的首地址和内存大小;S3、将分布式存储系统内存池的首地址作为输入参数,注册网卡内存池,并将网卡内存池按分布式存储系统数据块大小组织并记录偏移,返回网卡句柄号;S4、分布式存储系统初始化结束。本发明可以在读写数据场景下分别消除分布式存储内存池到网卡内存池和网卡内存池到分布式存储内存池的内存拷贝,进一步降低上下文切换等开销,提升分布式存储系统的数据传输性能。
-
公开(公告)号:CN112445768A
公开(公告)日:2021-03-05
申请号:CN201910794731.0
申请日:2019-08-27
Applicant: 无锡江南计算技术研究所
IPC: G06F16/172 , G06F16/182
Abstract: 本发明公开一种面向超大规模系统的多文件系统元数据统一缓存管理方法,基于以下模块:若干个分布式文件系统,分别配置于分布式文件系统环境中IO节点上的驻留收集模块,用于监测文件系统元数据信息的变化,并将获取的元数据信息传输至后台数据库;后台数据库,用于接收和存储来自驻留收集模块的元数据信息;配置于管理节点上的总控处理模块,用于查询后台数据库,获取元数据的信息,并通过元数据信息的变更来检索和查找、定位的文件数据;本发明可以针对不同分布式文件系统来实现元数据的收集与管理,更方便的通过元数据的信息来有效地监控文件系统的运行状况。
-
公开(公告)号:CN112445660A
公开(公告)日:2021-03-05
申请号:CN201910801001.9
申请日:2019-08-28
Applicant: 无锡江南计算技术研究所
IPC: G06F11/22
Abstract: 本发明公开一种针对共享存储阵列性能均衡性问题的测试方法,基于以下模块:控制模块,用于配置均衡性测试端、均衡性测试分区、均衡性测试目录,还用于生成并发送均衡性测试场景命令、均衡性测试命令,还用于收集与汇总均衡性测试结果;测试模块,用于接收管理端的命令并执行,如生成均衡性测试场景,进行指定线程数、指定文件大小、指定块大小、指定顺序写/读、指定随机写/读的均衡性测试,记录并返回均衡性测试结果至控制模块。本发明既可准确测试判断存储设备在面向多个服务器时是否存在性能均衡性问题,也可以判断单一服务器上多个不同的LUN之间是否存在性能均衡性问题。
-
公开(公告)号:CN114217734B
公开(公告)日:2023-10-27
申请号:CN202110480186.5
申请日:2021-04-30
Applicant: 无锡江南计算技术研究所
IPC: G06F3/06
Abstract: 本发明公开一种分布式存储系统数据管理方法,包括及时任务模式、定时任务模式和策略模式,所述策略模式下的数据管理方法包括以下步骤:S31、发起数据管理请求;S32、接收到数据管理请求;S33、将数据管理请求分发到组成存储系统的每一个服务器上;S34、每台服务器将数据管理请求记录到待执行队列中;S35、服务器上设置定时的状态收集信息库,根据状态信息库提供的状态信息,执行具体操作;S36、如果在最大时限内没有满足条件的时刻,那么在最大时限到达后,根据数据管理请求执行操作;S37、等待所有服务器执行完成。本发明可以降低在线业务与数据管理之间的冲突,保证在线业务的时效性,同时保证数据管理的可靠性。
-
公开(公告)号:CN112565326A
公开(公告)日:2021-03-26
申请号:CN201910918615.5
申请日:2019-09-26
Applicant: 无锡江南计算技术研究所
IPC: H04L29/08
Abstract: 本发明公开了一种面向分布式文件系统的RDMA通信地址交换方法,包括分布式文件系统的RDMA数据发送阶段和RDMA数据接收阶段,包括以下步骤:与远端建立连接时预交换若干个RDMA地址;根据文件操作的类型,将文件操作数据封装到本地的RDMA注册地址,生成RDMA消息;所述文件操作的类型包括打开操作open、关闭操作close、查找操作lookup、书写操作write和读取操作read;根据目前的远端RDMA地址使用情况为本次文件操作分配远端的RDMA地址;若RDMA空闲地址小于目前RDMA地址的一半,在生成的文件操作RDMA消息附带发送RDMA地址紧张报警信息让远端申请8个RDMA地址。本发明不会引发内存浪费、降低通信效率、消耗额外系统资源,减少了多余RDMA地址交换操作,提升了RDMA通信的整体效率。
-
-
-
-
-
-
-
-
-