一种分布式系统数据写入方法及装置

    公开(公告)号:CN112988034B

    公开(公告)日:2024-04-12

    申请号:CN201911214053.2

    申请日:2019-12-02

    Inventor: 魏明昌 饶蓉

    Abstract: 本申请实施例公开了一种分布式系统数据写入方法及装置,用于降低数据写入操作的负担以及校验的网络开销,以提高分布式系统的整体性能。该方法包括:在接收到包括第一数据写请求和第二数据写请求的至少两个数据写入请求后,首先根据第一数据写请求携带的第一待写数据和第一归属分区以及第二数据写请求携带的第二待写数据和第二归属分区,确定出一个临时分区;然后再将第一待写数据和第二待写数据写入临时分区,并对写入临时分区后的第一待写数据对应的临时分区和第一归属分区以及第二待写数据对应的临时分区和第二归属分区进行标记,进而可以根据这些临时标记,将第一待写数据写回第一归属分区,将第二待写数据写回第二归属分区。

    一种日志处理方法、装置及系统
    2.
    发明公开

    公开(公告)号:CN115145886A

    公开(公告)日:2022-10-04

    申请号:CN202110277866.7

    申请日:2021-03-15

    Inventor: 魏明昌

    Abstract: 一种日志处理方法,包括:OSD节点的RNIC接收第一客户端发送的第一获取指令和第二客户端发送的第二获取指令,根据第一获取指令和第二获取指令对应从第一日志内存中获取第一偏移和第二偏移,以实现第一客户端将第一日志写到第一偏移和实现第二客户端将第二日志写到第二偏移;OSD节点的RNIC在同时接收到第一客户端发送的第一加锁指令和第二客户端发送的第二加锁指令时,先根据第一加锁指令设置第一索引表的写权限锁仅被第一客户端获取,以实现第一客户端将第一偏移写到第一索引表中,然后根据第二加锁指令设置写权限锁仅被第二客户端获取,以实现第二客户端将第二偏移写到第一索引表中。该方法可以实现多个客户端并发写日志。

    处理消息的方法、装置及存储介质

    公开(公告)号:CN118484129A

    公开(公告)日:2024-08-13

    申请号:CN202310636269.8

    申请日:2023-05-31

    Inventor: 梅林军 魏明昌

    Abstract: 本申请公开了一种处理消息的方法、装置及存储介质,属于存储领域。所述方法应用于分布式消息处理系统,所述分布式消息处理系统包括分布式事务存储设备,所述方法包括:接收消息生产者发送的待存储的目标消息,所述目标消息包括至少一个键key值value对,每个键值对包括对应的键和值;申请分布式事务;通过所述分布式事务,将目标消息主题对应的所述目标消息,以及所述至少一个键值对存储在所述分布式事务存储设备中,其中,所述目标消息属于所述目标消息主题,所述分布式事务用于在所述分布式事务存储设备中对存储所述目标消息和所述至少一个键值对的过程进行隔离。本申请能够降低运维复杂度。

    一种数据存储方法、装置及相关设备

    公开(公告)号:CN117687564A

    公开(公告)日:2024-03-12

    申请号:CN202211078657.0

    申请日:2022-09-05

    Inventor: 吴延赞 魏明昌

    Abstract: 本申请提供了一种数据存储方法,包括:获取多个数据片,所述多个数据片属于第一数据流中的第一数据块;响应于第一存储参数指示所述第一数据块满足存储条件,将所述多个数据片并行存储到分布式存储系统,所述第一存储参数根据所述第一数据流中位于所述第一数据块之前的数据块的存储情况确定,所述分布式存储系统包括多个存储节点;根据所述多个数据片被存储的情况更新所述第一存储参数。如此,并行存储接收到的数据流,可以提高分布式存储系统的吞吐率,实现数据的高效率存储。本申请还提供了对应的装置、计算设备集群、计算机可读存储介质以及计算机程序产品。

    数据处理方法、相关设备及计算机存储介质

    公开(公告)号:CN110837479B

    公开(公告)日:2023-09-01

    申请号:CN201810940730.8

    申请日:2018-08-17

    Inventor: 饶蓉 魏明昌

    Abstract: 本发明实施例公开了数据处理方法,包括:对象存储设备接收数据读或写IO请求,所述数据读或写IO请求包括数据完整性域DIF,所述DIF用于承载待操作数据的属性信息。具体可为待读取数据的属性信息或待写入数据的属性信息。进一步地,对象存储设备根据所述待操作数据的属性信息,对所述待操作数据进行处理。采用本发明实施例,能够提升磁盘的性能、避免存储资源的浪费。

    计算方法、装置、设备及存储介质

    公开(公告)号:CN115687252A

    公开(公告)日:2023-02-03

    申请号:CN202111266495.9

    申请日:2021-10-28

    Inventor: 张大年 魏明昌

    Abstract: 本申请实施例公开了一种计算方法、装置、设备及存储介质,所述方法包括:接收并存储至少一个计算节点发送的分片文件以及对应的索引文件,其中,所述分片文件是所述至少一个计算节点执行映射map任务生成的,所述索引文件包括至少一个归约reduce任务的输入数据在所述分片文件中的位置信息;接收目标计算节点发送的输入数据获取请求,所述输入数据获取请求用于获取reduce任务的输入数据;根据所述输入数据获取请求和索引文件,将所述reduce任务对应的输入数据发送至所述目标计算节点。采用本申请,可以降低计算节点和存储设备之间读写数据占用的网络带宽进而可以提升计算效率。

    分布式存储系统及计算机程序产品

    公开(公告)号:CN112714910B

    公开(公告)日:2022-12-27

    申请号:CN201880003830.6

    申请日:2018-12-22

    Inventor: 魏明昌 饶蓉 宋驰

    Abstract: 本方案公开了一种分布式存储系统,数据存储节点Nx收到提供该存储地址的硬盘返回的写入成功响应,数据存储节点Nx向客户端返回写成功响应,客户端收到数据存储节点Nx返回的写成功响应,客户端向主机返回写完成响应,从而减少了分布式存储系统中的写时延,提高了写性能。

    数据索引构建方法、装置及存储介质

    公开(公告)号:CN119201932A

    公开(公告)日:2024-12-27

    申请号:CN202311412617.X

    申请日:2023-10-27

    Abstract: 本申请公开了一种数据索引构建方法、装置及存储介质,属于存储领域。所述方法应用于客户端,所述客户端用于管理设置在基础设施上的多个存储节点,所述多个存储节点中的至少一个存储节点存储有用户的数据,所述基础设施上还运行有所述用户的云业务。所述方法包括:获取所述用户输入的索引算子,所述索引算子包括多级索引的字段参数;发送所述索引算子至所述至少一个存储节点中的第一存储节点上,所述第一存储节点为所述至少一个存储节点中的任一存储节点;配置所述第一存储节点,以使得所述第一存储节点根据所述索引算子生成多级索引。本申请能够提高存储数据的效率。

    一种为数据建立索引的方法以及装置

    公开(公告)号:CN112639761B

    公开(公告)日:2024-04-26

    申请号:CN201980005446.4

    申请日:2019-07-24

    Abstract: 一种为数据建立索引的方法,对原始数据表内的原始数据进行分段拟合获得M段原始数据以及第一层映射关系,进一步对每段原始数据的首键进行分段拟合,获得N段首键以及第二层映射关系。在后续数据查询的过程中,待查询的键从高到低依次输入多层映射关系,直至定位待查询的键在原始数据表中的位置。通过该方法建立的数据索引,充分考虑到了原始数据自身的特性,降低了数据索引的复杂度,提升了数据查询的效率。

Patent Agency Ranking