-
公开(公告)号:CN116775588A
公开(公告)日:2023-09-19
申请号:CN202310793835.6
申请日:2023-06-30
Applicant: 厦门大学 , 杭州海康威视数字技术股份有限公司
IPC: G06F16/174 , G06F16/14
Abstract: 本发明公开了一种基于子文件的数据重删方法、装置及可读介质,获取输入文件,判断输入文件为Office文件或Pdf文件;响应于确定输入文件为Office文件,循环解析Office文件中的局部文件数据,对局部文件数据计算指纹信息,并存入recipe,直至检测到中央目录记录;响应于确定输入文件为Pdf文件,对Pdf文件解析得到stream数据,对stream数据计算指纹信息,并存入recipe;将Office文件中的局部文件数据以及Pdf文件中的stream数据定义为数据块,查询数据块对应的指纹信息是否存在于持久化存储介质的元数据保存结构体数组中,得到查询结果,根据查询结果进行重删,可有效提高重删效率。
-
公开(公告)号:CN118567562A
公开(公告)日:2024-08-30
申请号:CN202410699704.6
申请日:2024-05-31
Applicant: 杭州海康威视数字技术股份有限公司 , 厦门大学
IPC: G06F3/06
Abstract: 本发明公开了一种基于学习索引的数据重删方法和系统,包括:若数据块请求为写请求,则将数据块写入内存缓存并计算指纹值,将指纹值和逻辑页地址写入LPA‑FP索引表;若内存缓存中的所有数据块的数量达到阈值,则为内存缓存中的所有数据块分配对应的物理页地址,并生成若干个FP‑PPA映射,根据若干个FP‑PPA映射通过分段线性回归计算得到FP‑PPA表达式,将FP‑PPA表达式写入内存缓存和闪存,并将内存缓存中的所有数据块写入闪存,将数据块及其相邻数据块的指纹值保存在带外数据区域;若数据块请求为读请求,则根据逻辑页地址在LPA‑FP索引表中查找指纹值,根据指纹值和FP‑PPA表达式计算出物理页地址并在闪存中查询所要读取的数据块,以减少内存缓存的空间并加快物理页地址的查找速度。
-
公开(公告)号:CN116820343A
公开(公告)日:2023-09-29
申请号:CN202310801832.2
申请日:2023-06-30
Applicant: 杭州海康威视数字技术股份有限公司 , 厦门大学
IPC: G06F3/06 , G06F16/2453 , G06F16/22 , G06F16/215
Abstract: 本发明公开了一种基于变长指纹的数据重删方法、装置及可读介质,对输入文件进行分块,根据数据块的长度采用不同的哈希算法计算数据块对应的指纹;响应于在LRU缓存中查询不到该指纹,则根据该指纹所对应的哈希算法在不同的持久化存储介质中查询;响应于在持久化存储介质中查询到该指纹,将该指纹和元数据存入LRU缓存中,并利用局部性原理将包含该指纹的输入文件中同属于同一持久化存储介质的指纹全部存入LRU缓存中;响应于在持久化存储介质中查询不到该指纹,则构建该指纹的元数据并存储在对应的持久化存储介质,并将该指纹对应的数据块存储在开放容器中,在持久化存储介质中采用对应格式的指纹存储文件对元数据进行分类存储,加快查找。
-
公开(公告)号:CN118612437A
公开(公告)日:2024-09-06
申请号:CN202410685525.7
申请日:2024-05-30
Applicant: 厦门大学 , 杭州海康威视数字技术股份有限公司
IPC: H04N19/122 , H04N19/126 , H04N19/132 , H04N19/14 , H04N19/70
Abstract: 本发明公开了一种JPG图片有损压缩方法和装置,包括:获取待压缩的JPG图片并读取待压缩的JPG图片的RGB数据;将待压缩的JPG图片输入目标检测模型,得到目标检测结果,根据目标检测结果对待压缩的JPG图片中的每个像素赋予对应的权重,得到权重矩阵;对RGB数据进行处理,得到DCT变换后的数据;采用权重矩阵对DCT变换后的数据进行加权量化,得到量化后的数据;将量化后的数据进行标准编码,得到压缩后的JPG图片。本发明能够结合待压缩的JPG图片的内容,在不改变JPG图片存储格式,保持JPG图片中关键的目标区域清晰的基础上,尽可能压缩图片的大小。
-
公开(公告)号:CN119576494A
公开(公告)日:2025-03-07
申请号:CN202411646981.7
申请日:2024-11-18
Applicant: 厦门大学
Abstract: 本发明公开了一种DPU任务调度方法和DPU任务调度系统,该方法用于将任务调度至CPU侧或DPU侧,其包括:根据待处理的任务信息,生成任务包;根据任务包的计算量、截止时间以及DPU侧是否存在针对该任务包的专用硬件,计算任务包的优先级;根据任务包的优先级,将任务包存储至调度队列中与其优先级对应的位置,并按顺序向CPU侧或DPU侧输送任务包;根据CPU侧或DPU侧对接收的任务包的执行结果,更新调度队列。通过该调度方法和调度系统,可通过对任务进行有效调度以提高系统整体性能。
-
公开(公告)号:CN112181710B
公开(公告)日:2022-03-29
申请号:CN202010953993.X
申请日:2020-09-11
Applicant: 厦门大学
Abstract: 本发明公开了一种基于比特翻转的固态盘数据存储方法和装置,其中方法包括:初始化步骤:接收写入请求,在内存中初始化用于储存数值的变量;数据比特计数与翻转步骤:对传入的每个基本单位内的比特状态进行统计分析,确定是否进行比特翻转操作,设置相应的翻转标记位,并进行相应的操作,得到处理后的数据;数据封装步骤:将处理后的数据按照原有的数据顺序,进行封装,并将相应的翻转标记位按顺序封装成页面标记位;数据写入步骤:将经过封装后的数据和页面标记位,分别写入存储介质的数据区域和备用区域。本发明提出的方法针对固态盘内存储单元的不同状态泄露电子的概率不同,通过比特翻转的操作降低固态盘内易失电子的状态数量,以提高固态盘的读写性能、使用寿命和可靠性。
-
公开(公告)号:CN112181710A
公开(公告)日:2021-01-05
申请号:CN202010953993.X
申请日:2020-09-11
Applicant: 厦门大学
Abstract: 本发明公开了一种基于比特翻转的固态盘数据存储方法和装置,其中方法包括:初始化步骤:接收写入请求,在内存中初始化用于储存数值的变量;数据比特计数与翻转步骤:对传入的每个基本单位内的比特状态进行统计分析,确定是否进行比特翻转操作,设置相应的翻转标记位,并进行相应的操作,得到处理后的数据;数据封装步骤:将处理后的数据按照原有的数据顺序,进行封装,并将相应的翻转标记位按顺序封装成页面标记位;数据写入步骤:将经过封装后的数据和页面标记位,分别写入存储介质的数据区域和备用区域。本发明提出的方法针对固态盘内存储单元的不同状态泄露电子的概率不同,通过比特翻转的操作降低固态盘内易失电子的状态数量,以提高固态盘的读写性能、使用寿命和可靠性。
-
公开(公告)号:CN107391774A
公开(公告)日:2017-11-24
申请号:CN201710834662.2
申请日:2017-09-15
Applicant: 厦门大学
Abstract: 基于重复数据删除的日志文件系统的垃圾回收方法,涉及计算机数据存储方法。由初始化、并行的数据处理、垃圾回收和结束步骤。根据重复数据删除技术得到的数据块的引用值,将数据分为强数据和弱数据,然后在日志文件系统进行垃圾回收时将强数据块和弱数据块分别迁移到不同的数据段中,从而实现强弱数据的分开存储。对于强数据段,段内数据块的失效率低,进行垃圾回收的次数就少,对于弱数据段,段内数据块的失效率高,进行垃圾回收时需要迁移的有效数据块就少。因此,这种基于重复数据删除的日志文件系统的垃圾回收方法可以有效地减少日志文件系统中垃圾回收时迁移数据块的次数,进而可以提高闪存存储系统的性能和可靠性。
-
公开(公告)号:CN103530237B
公开(公告)日:2016-02-17
申请号:CN201310528584.5
申请日:2013-10-31
Applicant: 厦门大学
Abstract: 一种固态盘阵列的垃圾回收方法,涉及计算机数据存储方法。在固态盘阵列上设置重定向数据映射表和四个功能模块:主控、垃圾回收控制、请求重定向和数据回收,包括初始化步骤、垃圾回收阶段、数据回收阶段和结束步骤等。当某一个正在处理垃圾回收操作的固态盘接收到用户读写请求时,本发明将读请求重定向到固态盘阵列中其他成员固态盘上并通过重构读机制获取读数据;将写请求重定向到热备盘也就是将数据写入到热备盘中,同时更新相应的校验信息;垃圾回收操作完成后,将被重定向到热备盘的写数据回收到固态盘阵列上正确的位置。减轻垃圾回收操作对固态盘阵列系统性能波动的影响,提高固态盘阵列的性能。
-
公开(公告)号:CN103530237A
公开(公告)日:2014-01-22
申请号:CN201310528584.5
申请日:2013-10-31
Applicant: 厦门大学
Abstract: 一种固态盘阵列的垃圾回收方法,涉及计算机数据存储方法。在固态盘阵列上设置重定向数据映射表和四个功能模块:主控、垃圾回收控制、请求重定向和数据回收,包括初始化步骤、垃圾回收阶段、数据回收阶段和结束步骤等。当某一个正在处理垃圾回收操作的固态盘接收到用户读写请求时,本发明将读请求重定向到固态盘阵列中其他成员固态盘上并通过重构读机制获取读数据;将写请求重定向到热备盘也就是将数据写入到热备盘中,同时更新相应的校验信息;垃圾回收操作完成后,将被重定向到热备盘的写数据回收到固态盘阵列上正确的位置。减轻垃圾回收操作对固态盘阵列系统性能波动的影响,提高固态盘阵列的性能。
-
-
-
-
-
-
-
-
-