-
公开(公告)号:CN110069431A
公开(公告)日:2019-07-30
申请号:CN201810070442.1
申请日:2018-01-24
Applicant: 上海交通大学
Abstract: 本发明提供了一种基于RDMA和HTM的弹性Key-Value键值对数据存储方法,设计遵循服务器端—客户端架构模式,包括:在服务器端,结合哈希图给出改进型的G-Cuckoo哈希数据管理模式,避免在数据插入过程中查找空闲位置而导致的哈希表之间kick-out无限循环问题;分析在客户端与服务器端之间传统网络传递消息需要来回round响应而引起的键值对存储性能瓶颈问题,使用Infiniband远程直接内存访问RDMA技术,设计RDMA网络通信引擎,接收数据访问请求和送回数据请求结果;利用硬件事务内存HTM技术,实现两段锁协议锁操作,保障数据操作原子特性;使用键值对数据自验证检验码保障数据一致性。本发明实现可极大提升键值对数据基本操作速度。
-
公开(公告)号:CN105677486B
公开(公告)日:2019-03-22
申请号:CN201610012000.2
申请日:2016-01-08
Applicant: 上海交通大学 , 无锡江南计算技术研究所
IPC: G06F9/50
Abstract: 本发明提供的一种数据并行处理方法,包括如下步骤:步骤1,主管理节点接收数据并获取数据的关联关系;步骤2,主管理节点计算工作计算节点的可调配的GPU和GPU工作负载;步骤3,主管理节点划分数据并将已划分的数据分发到各个工作计算节点;步骤4,工作计算节点对接收到的数据进行并行处理并将处理的结果传输回主管理节点;步骤5,主管理节点将结果合并输出。本发明的有益效果如下:采用了主/从架构模式用于高性能大规模数据并行处理,根据DNA特征建模,将应用程序转化成的具体作业进行作业阶段划分,并根据划分结果,进行节点粒度级别的作业部署,采用线程并行优化机制,充分利用多计算核提高单节点内数据流并行任务的执行效率。
-
公开(公告)号:CN105677486A
公开(公告)日:2016-06-15
申请号:CN201610012000.2
申请日:2016-01-08
Applicant: 上海交通大学 , 无锡江南计算技术研究所
IPC: G06F9/50
CPC classification number: G06F9/5066
Abstract: 本发明提供的一种数据并行处理方法,包括如下步骤:步骤1,主管理节点接收数据并获取数据的关联关系;步骤2,主管理节点计算工作计算节点的可调配的GPU和GPU工作负载;步骤3,主管理节点划分数据并将已划分的数据分发到各个工作计算节点;步骤4,工作计算节点对接收到的数据进行并行处理并将处理的结果传输回主管理节点;步骤5,主管理节点将结果合并输出。本发明的有益效果如下:采用了主/从架构模式用于高性能大规模数据并行处理,根据DNA特征建模,将应用程序转化成的具体作业进行作业阶段划分,并根据划分结果,进行节点粒度级别的作业部署,采用线程并行优化机制,充分利用多计算核提高单节点内数据流并行任务的执行效率。
-
公开(公告)号:CN110069431B
公开(公告)日:2020-11-24
申请号:CN201810070442.1
申请日:2018-01-24
Applicant: 上海交通大学
Abstract: 本发明提供了一种基于RDMA和HTM的弹性Key‑Value键值对数据存储方法,设计遵循服务器端—客户端架构模式,包括:在服务器端,结合哈希图给出改进型的G‑Cuckoo哈希数据管理模式,避免在数据插入过程中查找空闲位置而导致的哈希表之间kick‑out无限循环问题;分析在客户端与服务器端之间传统网络传递消息需要来回round响应而引起的键值对存储性能瓶颈问题,使用Infiniband远程直接内存访问RDMA技术,设计RDMA网络通信引擎,接收数据访问请求和送回数据请求结果;利用硬件事务内存HTM技术,实现两段锁协议锁操作,保障数据操作原子特性;使用键值对数据自验证检验码保障数据一致性。本发明实现可极大提升键值对数据基本操作速度。
-
公开(公告)号:CN105938458B
公开(公告)日:2019-02-22
申请号:CN201610228385.6
申请日:2016-04-13
Applicant: 上海交通大学
IPC: G06F12/06
Abstract: 本发明提供了一种软件定义的异构混合内存管理方法,该方法基于平坦的混合内存体系架构,通过软件定义的方法实现平坦和层级两种内存管理模式。包括:对动态随机存储器和存储级内存分别进行逻辑功能角色划分,设计功能适配器、动态随机存储器充当高速缓存等功能模块,并根据用户的配置参数实现角色与各功能模块的适配,按需构建平坦或层级的内存管理模式。本发明可以在不改变硬件架构的情况下,为应用程序提供不同的访存模式,满足多样化的访存需求。
-
公开(公告)号:CN105446899B
公开(公告)日:2018-08-31
申请号:CN201510759531.3
申请日:2015-11-09
Applicant: 上海交通大学
IPC: G06F12/0871
Abstract: 本发明提供了一种基于存储级内存的内存数据快速持久化的方法。该方法基于平坦的混合内存架构,通过用户层和内核层的协同设计实现。包括:将一定容量的SCM以及存储于此SCM上的数据抽象为一块持久区域;在用户层设计应用程序编程接口(API),响应应用程序对持久区域的访存;扩展内核的Buddy system,实现异构混合内存管理;在设计持久区域管理器,实现包括持久区域的持久映射、持久区域元数据管理等功能。本发明可以避免在传统存储架构下,数据持久化所需的数据线性化过程,同时可实现持久数据的直接访问和原地更新,简化了传统架构下软件栈的层级调用,可有效缓解I/O瓶颈,提高持久数据的访存性能。
-
公开(公告)号:CN105938458A
公开(公告)日:2016-09-14
申请号:CN201610228385.6
申请日:2016-04-13
Applicant: 上海交通大学
IPC: G06F12/06
CPC classification number: G06F12/0646
Abstract: 本发明提供了一种软件定义的异构混合内存管理方法,该方法基于平坦的混合内存体系架构,通过软件定义的方法实现平坦和层级两种内存管理模式。包括:对动态随机存储器和存储级内存分别进行逻辑功能角色划分,设计功能适配器、动态随机存储器充当高速缓存等功能模块,并根据用户的配置参数实现角色与各功能模块的适配,按需构建平坦或层级的内存管理模式。本发明可以在不改变硬件架构的情况下,为应用程序提供不同的访存模式,满足多样化的访存需求。
-
公开(公告)号:CN105446899A
公开(公告)日:2016-03-30
申请号:CN201510759531.3
申请日:2015-11-09
Applicant: 上海交通大学
IPC: G06F12/0871
CPC classification number: G06F12/0873
Abstract: 本发明提供了一种基于存储级内存的内存数据快速持久化的方法。该方法基于平坦的混合内存架构,通过用户层和内核层的协同设计实现。包括:将一定容量的SCM以及存储于此SCM上的数据抽象为一块持久区域;在用户层设计应用程序编程接口(API),响应应用程序对持久区域的访存;扩展内核的Buddy system,实现异构混合内存管理;在设计持久区域管理器,实现包括持久区域的持久映射、持久区域元数据管理等功能。本发明可以避免在传统存储架构下,数据持久化所需的数据线性化过程,同时可实现持久数据的直接访问和原地更新,简化了传统架构下软件栈的层级调用,可有效缓解I/O瓶颈,提高持久数据的访存性能。
-
-
-
-
-
-
-