-
公开(公告)号:CN118349171A
公开(公告)日:2024-07-16
申请号:CN202410427750.0
申请日:2024-04-10
Applicant: 上海交通大学
IPC: G06F3/06
Abstract: 本发明涉及存储技术领域,尤其涉及一种条带合并方法、系统及可读存储介质,方法包括:将合并前条带的编码矩阵的每一行看作一个分块,构造具有分块对称特征的合并后条带的编码矩阵;基于所述合并后条带的编码矩阵,利用陪集分解理论来构造柯西矩阵生成集中的X和Y,得到柯西编码矩阵;利用所述柯西编码矩阵对条带进行合并,计算得到所述合并后条带的校验块。通过将合并前条带的编码矩阵的每一行看作一个分块,那么合并后条带的编码矩阵则是以合并前条带的编码矩阵的分块构成的一个分块对称矩阵,在这种特征下,条带合并时计算新校验块的过程就可以复用合并前条带的旧校验块,进而减少计算开销。然后再基于所述合并后条带的编码矩阵,使用陪集分解理论来构造柯西矩阵生成集中的X和Y,使得到的柯西编码矩阵在满足柯西矩阵性质的同时具有分块对称的特征,以便于实现窄条带纠删码的友好合并。
-
公开(公告)号:CN116166192A
公开(公告)日:2023-05-26
申请号:CN202310013094.5
申请日:2023-01-05
Applicant: 上海交通大学
Abstract: 本发明公开了一种基于纠删码的自适应编码存储方法、装置、可读存储介质,首先将系统中各个节点按照过往表现情况分类为诚实节点、风险节点以及恶意节点,利用RS(n‑f‑k,f+k)码对区块进行编码,将区块头、校验值与各个片段分别组装起来,存储到所述诚实节点和所述风险节点中。使用拜占庭容错协议将所有的所述片段分发到所述诚实节点和所述风险节点上去,并在所述诚实节点和所述风险节点之间达成共识。利用本申请的方案可以有效获取系统中的恶意节点数量,且相比于全副本的存储方式,本申请的方案降低了97.5%的存储开销。相比于基于静态纠删码的存储方式,本申请的方案降低了23.8%的存储开销的同时,降低了25.4%的写入时间延迟并提高了45.6%的写入吞吐量。
-
公开(公告)号:CN116009782A
公开(公告)日:2023-04-25
申请号:CN202211710238.4
申请日:2022-12-29
Applicant: 上海交通大学
IPC: G06F3/06 , G06F16/901
Abstract: 本发明提供了一种基于图的跨机柜更新方法、系统及可读存储介质,方法包括以下步骤:S1、构建关系图辅助数据放置,其中,在关系图中,点表示数据块,边表示数据块之间的关联,点权表示数据块的访问热度,边权表示两个数据块之间的关联程度;S2、在关系图中找到一组数据块,使这组数据块内部的边权之和达到最大并组织为条带;S3、将条带中相关性最强的一组数据块放在同一个机柜中,并保证各个机柜点权之间的差异最小;S4、构建并行树,在并行树中,节点代表机柜,边代表机柜之间的网络链路。本发明通过用关系图辅助数据放置,能够减少I/O操作次数和跨机柜传输量。并且,通过构造并行树选择最近的网络传输路径,减少了网络传输延时。
-
公开(公告)号:CN115952536A
公开(公告)日:2023-04-11
申请号:CN202211601288.9
申请日:2022-12-13
Applicant: 上海交通大学
IPC: G06F21/62 , G06V10/764 , G06V10/774
Abstract: 本发明涉及基于不可学习噪声生成器的数据保护方法、设备、介质,所述方法包括如下步骤:获取目标数据集以及随机的生成器种子,针对所述生成器种子,采用预设的辅助分类模型进行优化,获取优选的生成器种子,完成噪声生成器进行初始化;根据所述优选的生成器种子,生成基于标签分类的不可学习噪声,针对所述目标数据集中的每个样本,加入所述不可学习噪声,获取不可学习数据集。与现有技术相比,本发明通过加噪前使用辅助分类模型进行训练,在使用生成器加噪过程中让具有相同标签的图像的噪声具有相似的特征,解决或部分解决现有的基于标签的噪声容易导致原始数据泄露的问题。
-
公开(公告)号:CN115858234A
公开(公告)日:2023-03-28
申请号:CN202211725910.7
申请日:2022-12-29
Applicant: 上海交通大学
IPC: G06F11/10 , H04L67/1097 , H04L67/568
Abstract: 本发明提供了一种数据恢复方法、系统及可读存储介质,方法包括以下步骤:S1、基于系统中数据条带的分布情况构建数据流图,在数据流图中,节点分别表示数据条带和解码节点,数据条带与解码节点连接的边代表恢复路径的选择;S2、对数据流图进行检测并识别拥塞的解码节点,将拥塞的解码节点及其在数据流图中相连的边删掉;S3、根据发生故障的数据条带的恢复路径的数量,选用不同的恢复方式。本发明通过利用大规模数据流图的剪枝和增枝,选择合适的数据恢复方案,增枝成功的执行纠删码恢复,增枝失败的执行插帧恢复,可以有效提高恢复性能。
-
公开(公告)号:CN115205985A
公开(公告)日:2022-10-18
申请号:CN202210844068.2
申请日:2022-07-18
Applicant: 上海交通大学
IPC: G06V40/40 , G06V10/764 , G06V10/774 , G06V10/82 , G06N3/04 , G06N3/08
Abstract: 本发明提供一种因果干预的人脸防伪方法、设备及介质,包括:构建面向人脸防伪任务的结构因果模型,基于该结构因果模型,建模与数据集分布相关的域特征,作为影响人脸防伪泛化性的干扰因子;使用狄利克雷数据增强扩充数据集分布,更准确地建模作为干扰因子的域特征;训练神经网络对输入人脸图像的真假进行二分类判别,并采用后门调整模型对人脸真假分类的神经网络进行因果干预,消除干扰因子的影响;在训练人脸真假分类的神经网络中,同时使用对比损失函数约束特征空间。本发明基于结构因果模型,采用后门调整模型消除影响人脸防伪泛化性的干扰因子,能显著提高在真实世界的不同环境下人脸防伪的准确率,保证了人脸防伪方法的泛化性和稳定性。
-
公开(公告)号:CN112783689B
公开(公告)日:2022-09-02
申请号:CN202110184332.X
申请日:2021-02-08
Applicant: 上海交通大学
IPC: G06F11/10
Abstract: 本申请公开了一种基于LRC编码的部分条带写优化方法及装置,该方法包括:获取读写请求和云存储阵列的位图;根据所述位图对所述读写请求进行预处理,以识别获得所述读写请求中的部分条带写请求;响应所述部分条带写请求,根据基于读代价的动态部分条带写算法DRPS,从所述云存储阵列中读取对应的目标块;对所述目标块进行计算得到新校验块,并将所述新校验块写入所述云存储阵列中。通过实施本申请,能解决现有技术中存在的额外的传输开销和总线负载、导致系统的传输效率、服务质量以传输可靠性降低等问题。
-
公开(公告)号:CN112860476A
公开(公告)日:2021-05-28
申请号:CN202110195837.6
申请日:2021-02-19
Applicant: 上海交通大学
IPC: G06F11/10
Abstract: 本申请公开了一种基于视频分层存储的近似纠删码编码方法及装置,该方法包括:将视频数据切分为重要数据和次要数据;从预存的数据分布结构中选择目标数据结构;根据所述目标数据结构将所述重要数据和次要数据生成对应的数据块;采用近似纠删码对生成的所述数据块进行编码计算,得到对应的校验块;将所述数据块和所述校验块写入对应的磁盘节点中。通过实施本申请,能够解决现有技术中存在的存储开销较高,且无法保证数据存储的高可靠性等问题。
-
公开(公告)号:CN112817540A
公开(公告)日:2021-05-18
申请号:CN202110203507.7
申请日:2021-02-23
Applicant: 上海交通大学
IPC: G06F3/06
Abstract: 本申请公开了一种基于磁盘阵列扩展的数据块重分布方法及装置,该方法包括:获取原始磁盘阵列中各磁盘之间的当前IO访问量;调用神经网络预测模型对所述原始磁盘阵列中每个磁盘的当前IO访问量进行预测,得到每个磁盘对应的预测IO访问量;根据所述预测IO访问量,确定所述原始磁盘阵列中的热访问磁盘;从所述热访问磁盘中选取当前IO访问量超过所述热访问磁盘对应的平均访问量的数据块,作为热访问数据块;按照预设的迁移规则,将所述热访问数据块迁移重写入扩展磁盘阵列的新增磁盘中。通过实施本申请,能够解决现有技术中存在的无法实现IO访问的整体平衡等问题。
-
公开(公告)号:CN104932836B
公开(公告)日:2018-06-26
申请号:CN201510298870.6
申请日:2015-05-31
Applicant: 上海交通大学
Abstract: 本发明提供了一种提高单写性能的三盘容错编码和解码方法,本发明编码方法使用原始数据和校验公式生成三种冗余校验元素,分别为行校验、斜校验和反向斜校验元素,使得编码后的磁盘上存在着四种类型的元素:数据元素,行校验元素,斜校验元素,反向斜校验元素,本发明的解码方法是指当磁盘阵列中出现任意三块磁盘同时失效时,可以通过恢复算法和冗余校验元素,将失效磁盘上的数据进行解码恢复,解码方法基于前者的编码结构来实施,本发明能够在保证数据可靠性的基础上,克服现有编码在单写性能上的不足,是一种新型MDS三盘容错编码和解码方法,可以恢复存储系统中任意三块失效磁盘上的数据,在保证数据可靠性的同时,显著提升存储系统的单写性能。
-
-
-
-
-
-
-
-
-