-
公开(公告)号:CN112835534A
公开(公告)日:2021-05-25
申请号:CN202110220806.1
申请日:2021-02-26
Applicant: 上海交通大学
IPC: G06F3/06
Abstract: 本申请公开了一种基于存储阵列数据访问的垃圾回收优化方法及装置,该方法包括:根据请求来源和预设的数据冷热分类算法对接收的数据访问请求进行分类判别,得到对应的分类信息;根据分类信息调用缓存队列算法对数据访问请求进行缓存判断,以加入至对应分类的目标缓存队列中;若目标缓存队列中的待访问数据达到预设标准阈值,则根据地址映射表将待访问数据以条带为单位写入至对应的目标节点中;若所述存储阵列中没有可写入的存储空间或者工作队列中的空白节点小于预设数量,则采用延时删除无效数据的垃圾回收机制进行数据回收。通过实施本申请,能够解决现有技术中存在的存储阵列写放大问题及引起严重的IO问题等。
-
公开(公告)号:CN112799882A
公开(公告)日:2021-05-14
申请号:CN202110184225.7
申请日:2021-02-08
Applicant: 上海交通大学
IPC: G06F11/14 , G06F16/182
Abstract: 本申请公开了一种基于图算法的文件感知恢复方法及装置,该方法包括:获取分布式文件系统中的元数据信息,根据所述元数据信息生成对应的网络流图,采用预设的图算法对所述网络流图进行文件感知恢复分析,得到每一轮次所需恢复的目标文件信息,根据所述目标文件信息进行对应的文件恢复从而恢复得到对应的目标文件。通过实施本申请,能解决现有技术中存在的文件恢复效率较低、无法基于文件级的整体文件恢复等问题。
-
公开(公告)号:CN107957848B
公开(公告)日:2020-01-10
申请号:CN201610898862.X
申请日:2016-10-14
Applicant: 上海交通大学 , 腾讯科技(深圳)有限公司
IPC: G06F3/06
Abstract: 本发明公开了一种重删处理方法及存储设备,属于存储技术领域。方法应用于存储设备中,所述存储设备包括多个存储器,每个存储器包括至少一个物理块,所述方法包括:获取至少一个存储器的参数信息,所述存储器的参数信息至少包括所述存储器中至少一个物理块的权值和所述存储器的空间占用率中的至少一项,所述物理块的权值用于指示所述物理块的下一个写入时间点;根据所述至少一个存储器的参数信息,计算所述至少一个存储器的重删权值;从所述至少一个存储器中选取重删权值最大的存储器,对选取的存储器中的物理块进行重删处理。本发明选取存储器的过程不需要对样本物理块进行重删处理,简化了选取过程,节省了选取时间,提高了重删处理的效率。
-
公开(公告)号:CN106294032A
公开(公告)日:2017-01-04
申请号:CN201610637551.8
申请日:2016-08-05
Applicant: 上海交通大学
IPC: G06F11/20
CPC classification number: G06F11/2017
Abstract: 本发明公开了一种磁盘阵列单盘恢复的缓存方法及系统,该方法包括:根据数据块是否已经被应用读取到缓存中,为数据块定义不同的优先级;为每一个出错的数据块枚举出所有可行的恢复方法,针对所有可行的恢复方法,结合恢复方法之间的关系,通过迪杰斯特拉遍历算法进行遍历,选取出I/O最小的、符合要求的恢复方法;针对所选择的恢复方法,选取其中负载相对均衡的方法作为最终采用的磁盘阵列单盘恢复的纠删码恢复方法;根据纠删码恢复方法的读取次数为数据块定义优先级,采用在缓存中优先替换优先级低的数据块的缓存替换方法,通过本发明,解决了现有技术中I/O较大,速度较慢,缓存命中率低,影响使用效率的问题。
-
公开(公告)号:CN104932835A
公开(公告)日:2015-09-23
申请号:CN201510289976.X
申请日:2015-05-31
Applicant: 上海交通大学
Abstract: 本发明提供了一种基于纠删码的分布式存储系统的扩容和缩容方法,本发明通过扩容或缩容前识别磁盘阵列,检查磁盘阵列中每个磁盘的空闲空间并获得相关参数m和n,计算磁盘阵列中保留、重映射以及重构的OUS/NUS数量,并发地处理保留、重新映射和重构的OUS/NUS,修改所有的校验块,能够支持磁盘阵列的双向扩展,并将扩展过程中所产生的开销降至最低,加速校验阵列的可扩展过程。
-
公开(公告)号:CN119990239A
公开(公告)日:2025-05-13
申请号:CN202510015581.4
申请日:2025-01-06
Applicant: 上海交通大学 , 衡阳雁城区块链研究院
IPC: G06N3/0895 , G06N3/084 , G06N3/042 , G06F18/20 , G06F18/213 , G06F18/27
Abstract: 本发明涉及一种基于掩码策略与对比学习相结合的图自监督学习方法,包括以下步骤:获取原始图数据;对原始图数据进行数据增强处理,得到增强图;结合掩码策略对原始图的不同部分进行遮罩,得到遮罩图,并获取遮罩图的邻接矩阵;将原始图、增强图和遮罩图输入特征编码器,分别得到增强图特征、原图特征和掩码特征;将邻接矩阵和掩码特征输入回归器,得到重建特征;基于原图特征和增强图特征计算对比损失,基于原图特征和重建特征计算对齐损失;基于对比损失和对齐损失训练特征编码器和回归器,实现图自监督学习。与现有技术相比,本发明具有能够对输入图数据的不同粒度特征进行建模,得到更有效的特征表示等优点。
-
公开(公告)号:CN118689806A
公开(公告)日:2024-09-24
申请号:CN202410744096.6
申请日:2024-06-11
Applicant: 上海交通大学
Abstract: 本发明公开了一种持久内存设备控制器,包括,控制器核心模块、异构内存模块、事务处理模块和内存单元管理模块。控制器核心模块,用于对系统时钟同步和内存访问时序控制、持久内存系统启动顺序控制、持久内存系统控制器芯片、和/或环境传感器的控制;异构内存模块,用于实现持久内存管理系统和所连接内存介质数据和控制消息的通信;事务处理模块,用于将持久内存系统中的操作转为事务进行操作,并将持久内存系统事务翻译为CXL事务或PCIe事务;内存单元管理模块,用于管理全局内存地址空间和各内存介质地址空间的映射关系,同时为持久内存介质提供磨损均衡算法运行支持。
-
公开(公告)号:CN118689645A
公开(公告)日:2024-09-24
申请号:CN202410744106.6
申请日:2024-06-11
Applicant: 上海交通大学
IPC: G06F9/50 , G06F12/1036
Abstract: 本发明公开了一种持久内存池化管理系统,所述系统包含,轻量级管理模块、基于池化的分配与调度模块、多级别安全保障模块、持久内存故障预测模块。轻量级管理模块,用以实现轻量级漏洞恢复机制,崩溃一致性与安全持久化关系;基于池化的分配与调度模块,用以实现CXL内存操作系统抽象机制以及兼容性,CXL内存页缓存机制以及SWAP机制;多级别安全保障模块,用以实现持久内存TME和MKTME机制,以持久内存为中心的多级别保障;持久内存故障预测模块,用以实现持久内存典型应用访存系列特征图,故障相关进程以及缓存分析。
-
公开(公告)号:CN116015552A
公开(公告)日:2023-04-25
申请号:CN202211700534.6
申请日:2022-12-28
Applicant: 上海交通大学
Abstract: 本发明提供了一种针对跨域数据中心的纠删码方法、系统及可读存储介质,方法包括以下步骤:S1、使用二层编码的编码方式,将k个数据块分成p个局部校验分组,并使用MSR编码在每个局部校验分组中生成l个局部校验块,然后使用RS编码生成g个全局校验块,将所有的全局校验块组成一个全局校验分组,和局部校验分组一起共生成p+1个分组;S2、对p+1个分组在N个数据中心内的放置策略进行建模,求解访问延时和恢复传输延时的优化问题,得到分组放置概率矩阵P;S3、根据分组放置概率矩阵P把p+1个块分组放置在N个数据中心内。本发明通过使用MSR和RS的双层编码,并进行放置策略优化,有效解决了数据恢复过程中跨数据中心传输流量大和用户访问延时高的问题。
-
公开(公告)号:CN115878370A
公开(公告)日:2023-03-31
申请号:CN202211710219.1
申请日:2022-12-29
Applicant: 上海交通大学
IPC: G06F11/10 , G06N3/0464 , G06N3/08
Abstract: 本发明提供了一种分布式深度学习的数据恢复方法、系统及可读存储介质,方法包括以下步骤:S1、收集神经网络模型进行训练的参数信息,并利用纠删码获得待恢复数据分布的全局信息;S2、利用人工智能来计算各类别训练数据恢复的优先级,对待恢复的数据所处的条带进行排序;S3、将计算得到的数据恢复优先级和待恢复数据分布的全局信息进行组合,构造并行的恢复方案。本发明通过人工智能为要恢复的数据建立加权优先级,并结合纠删码获得的数据块分布的全局信息来构建并行恢复方案,将纠删码获取数据全局信息的能力与人工智能恢复部分丢失数据的能力结合起来,在可接受的训练精度下大幅降低了资源消耗,加速了云存储系统中分布式深度学习的数据重建。
-
-
-
-
-
-
-
-
-