-
公开(公告)号:CN118259838A
公开(公告)日:2024-06-28
申请号:CN202410480262.6
申请日:2024-04-19
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出一种多租户共享分布式存储系统性能资源的分配方法及系统,该方法包含依据底层存储设备不同的使用量与对应的租户负载访问模式,对该底层存储设备进行离线性能建模,构建关于底层存储设备VIOPS与尾延迟的离线性能模型;利用所述离线性能模型,在线调控该底层存储设备可提供的VIOPS,得到一VIOPS目标值;将所述VIOPS目标值至少一部分分配给该至少一LC租户,将其余部分分配给该至少一BE租户。该方法能够显著提升多租户共享场景下,底层存储设备的资源利用率。
-
公开(公告)号:CN117312322A
公开(公告)日:2023-12-29
申请号:CN202311322341.6
申请日:2023-10-12
Applicant: 中国科学院计算技术研究所 , 北京火山引擎科技有限公司
Abstract: 本公开实施例提供一种信息处理方法、装置、设备及存储介质,该方法包括:根据键分区中的LSMT信息,从存储单元包括的多个存储分区中选取无效信息率最高的目标存储分区,其中无效信息率用于表示存储分区中无效的键值信息在总键值信息中的比例;检测目标存储分区中的每个键值信息对应的有效性信息,并根据每个键值信息对应的有效性信息,从目标存储分区中存储的多个键值信息中筛选出有效的键值信息,其中有效性信息包括有效或无效;将有效的键值信息转存到除目标存储分区外的第一存储分区,并擦除目标存储分区中存储的多个键值信息。本申请可以降低写入增大,提高数据的处理效率。
-
公开(公告)号:CN109002467B
公开(公告)日:2021-04-27
申请号:CN201810588554.6
申请日:2018-06-08
Applicant: 中国科学院计算技术研究所
IPC: G06F16/2455
Abstract: 本发明涉及一种向量化执行的数据库排序方法,包括:将输入数据向量化为多个输入数据行组;在计算节点的内存中开辟大小为最适粒度的缓冲区;将该输入数据行组依次追加至该缓冲区的末尾空位;仅当该缓冲区满或所有该输入数据行组均已追加至该缓冲区时,将存入该缓冲区的输入数据行组调入该计算节点的处理器缓存进行排序以得到缓存输出数据行组,将该缓存输出数据行组输出至该内存并清空该缓冲区;当该内存满或所有该缓存输出数据行组均已输出至该内存时,将该内存中的该缓存输出行组排序以生成输出数据行组,将该输出数据行组保存至该计算结点的磁盘并释放内存;合并所有该输出数据行组以得到顺序排列的全序输出数据行组。
-
公开(公告)号:CN108920533B
公开(公告)日:2021-03-09
申请号:CN201810587466.4
申请日:2018-06-08
Applicant: 中国科学院计算技术研究所
IPC: G06F16/2453
Abstract: 本发明涉及一种向量化的整体同步并行计算方法,包括:初始化步骤,设定并行计算计划,并根据初始数据的初始特征将该初始数据向量化为多个输入数据行组;并行计算步骤,通过多个计算节点对本轮的输入数据行组进行并行计算,以获取多个中间数据行组;向量化步骤,提取该中间数据行组的特征,根据该特征将所有该中间数据行组重排序并向量化为本轮的多个输出数据行组;循环步骤,以该输出数据行组为下轮的输入数据行组以进行下轮并行计算,直到完成该并行计算计划。
-
公开(公告)号:CN110134657A
公开(公告)日:2019-08-16
申请号:CN201910276630.4
申请日:2019-04-08
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出一种基于非易失主存的文件系统元数据操作加速方法,包括:获取文件操作指令,根据非易失主存文件系统的根目录,判断该非易失主存文件系统中是否包含该文件操作指令的操作文件,若是,则绕过该非易失主存文件系统的VFS层,直接在该非易失主存文件系统中根据元数据找到待操作的目标文件,对该目标文件执行该文件操作指令,否则根据传统文件系统方式,由VFS层执行该文件操作指令。本发明绕过VFS直接在物理文件系统中操作元数据,在物理文件系统中支持完整的元数据操作语义方法使得元数据操作直接在物理文件系统中执行,提升元数据操作的性能和扩展性并减少文件系统对DRAM空间的占用。
-
公开(公告)号:CN105094691B
公开(公告)日:2019-05-21
申请号:CN201410216351.6
申请日:2014-05-21
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
IPC: G06F3/06 , G06F12/0868 , G06F12/0871 , G06F12/121
Abstract: 本发明实施例提供了一种数据操作的方法、设备和系统,涉及计算机领域,以解决现有技术中CPU对块设备进行数据操作的效率低的问题。该方法包括:接收CPU发送的操作指令;当该操作指令为读指令时,读取该块设备中的第一数据块,并将该第一数据块中的待读取数据返回至CPU;当该操作指令为写指令时,将该写指令指示的待写入数据写入到缓存中,并将包括该待写入数据的第二数据块写入该块设备。该方法用于对块设备中的数据进行操作。
-
公开(公告)号:CN105138481B
公开(公告)日:2018-03-27
申请号:CN201410240335.0
申请日:2014-05-30
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
IPC: G06F13/28
CPC classification number: G06F12/08
Abstract: 本发明实施例提供一种存储数据的处理方法、装置和系统,该方法包括:处理设备获取待存储数据的虚拟地址;所述待存储数据位于存储控制设备的非持久化存储介质中;所述处理设备将所述虚拟地址发送至所述存储控制设备,以使所述存储控制设备将所述待存储数据存储至所述存储控制设备的持久化存储介质中;通过存储数据的处理方法和装置,可根据待存储数据的虚拟地址,直接控制存储控制设备将所述待存储数据存储至所述存储控制设备的持久化存储介质中,以实现待存储数据的持久化,使得数据持久化广泛应用于各种场景下,不会由于不能获知待存储数据的物理地址而不能实现待存储数据的持久化,从而提升了存储系统持久化存储数据的性能。
-
公开(公告)号:CN104142958B
公开(公告)日:2018-03-13
申请号:CN201310172455.7
申请日:2013-05-10
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
IPC: G06F17/30
Abstract: 本发明实施例公开了一种键值对系统中数据的存储方法和相关装置,可提高对Value数据的存储操作效率。该方法包括:判断键值对中Value数据的数据量是否超过数据阈值;若Value数据的数据量没有超过数据阈值,对Value数据进行切片,得到M个分片内容;根据M个分片内容对N个分片内容生成分片信息,分片信息包括:对Value数据分片的个数、N个分片内容中每个分片内容的偏移地址、N个分片内容中每个分片内容的序列号ID、(M-N)个分片内容;将Key数据和分片信息存储在基于日志结构的合并树LSM‑Tree中,将N个分片内容存储在键值对数据库中,Key数据与分片信息相对应。
-
公开(公告)号:CN107765992A
公开(公告)日:2018-03-06
申请号:CN201610702578.0
申请日:2016-08-22
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
Abstract: 本发明公开了一种处理数据的方法和装置,涉及数据处理技术领域,用以减少向NVM中写入数据的次数,从而减少系统的消耗,延长NVM的使用寿命。该方法应用于支持KV存储系统的服务器中,服务器包括NVM;该方法包括:接收更新操作,该更新操作包括第一Key和与第一Key对应的目标Value;将第一Key和目标Value写入NVM的空闲存储空间;将NVM中存储的第一Key对应的源索引项更新为目标索引项,源索引项包括源Value所在的Key-Value对在NVM中的位置信息,目标索引项包括目标Value所在的Key-Value对在NVM中的位置信息。
-
公开(公告)号:CN107463509A
公开(公告)日:2017-12-12
申请号:CN201610396787.7
申请日:2016-06-05
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
IPC: G06F12/0802 , G06F12/123
Abstract: 本发明实施例提供了应用于计算机系统中的缓存管理方法、缓存管理器和计算机系统,包括缓存控制器选择缓存中待替换的第一数据块,其中,第一数据块为最近最少使用LRU链表的第一位置记录的数据块,LRU链表用于记录所述缓存中被访问的数据块的信息;缓存控制器确定第一数据块的最大历史重用距离大于预设阈值,其中,第一数据块的最大历史重用距离是根据第一数据块至少两次被访问时在LRU链表中的位置获得;缓存控制器禁止从缓存中淘汰所述第一数据块。本发明实施例通过有选择的禁止从缓存中淘汰数据块,能够有效的避免数据中心中的具有缓存价值的数据块频繁的换入和换出缓存,进而减少对缓存不必要的写入。
-
-
-
-
-
-
-
-
-