数据库的资源调度方法、系统、装置与存储介质

    公开(公告)号:CN119149229A

    公开(公告)日:2024-12-17

    申请号:CN202411182357.6

    申请日:2024-08-26

    Abstract: 本申请涉及计算机技术领域,尤其涉及一种数据库的资源调度方法、系统、装置与存储介质,方法包括:数据库集群中存在新创建的初始容器组时,分别确定各节点的节点剩余资源;基于初始容器组关联的至少一个历史容器组的资源占用信息,获得初始容器组的预测需求资源;在节点剩余资源满足预设需求资源的各节点中选取候选节点,对每个候选节点,预测将初始容器组调度至该候选节点后,该候选节点上最新的节点剩余资源的资源倾斜情况;将资源倾斜情况满足预设的资源分布条件的一个候选节点作为目标节点,将初始容器组调度至目标节点。由于本申请会预测容器组放置后节点上剩余资源的倾斜情况,以避免节点上各类资源出现严重倾斜,提高节点的资源利用率。

    数据处理方法、装置、计算机设备及存储介质

    公开(公告)号:CN119088293A

    公开(公告)日:2024-12-06

    申请号:CN202411080241.1

    申请日:2024-08-07

    Abstract: 本公开提供了一种数据处理方法、装置、计算机设备及存储介质。方法通过获取目标数据对象的数据元信息和在第一时间段内的第一访问请求信息;将数据元信息和第一访问请求信息输入第一神经网络模型进行数据热度预测,得到目标数据对象在第二时间段内的数据热度信息;将数据元信息以及第一访问请求信息输入第二神经网络模型进行数据有效时长预测,得到目标数据对象对应的数据有效时长;基于数据元信息、数据热度信息以及数据有效时长生成目标数据对象在目标数据存储集群中的数据迁移计划;根据数据迁移计划对目标数据对象在目标数据存储集群中进行数据迁移。该方法可以提升数据迁移的准确性。

    一种缓存系统、缓存处理方法、装置、设备及介质

    公开(公告)号:CN111737168B

    公开(公告)日:2024-09-20

    申请号:CN202010585684.1

    申请日:2020-06-24

    Abstract: 本申请实施例公开了一种缓存系统、缓存处理方法、装置、设备及介质,其中方法包括:依照当前时刻检测到的I/O请求,确定当前时刻各存储节点的缓存命中率曲线,在满足缓存处理条件时,基于最新时刻各存储节点的缓存命中率曲线确定目标缓存配置方案,并依照目标缓存配置方案指示的各存储节点的待配缓存空间大小,调整各存储节点对应缓存实例的缓存空间大小。本申请实施例,可依照I/O请求实时分析出各存储节点的缓存命中率曲线,并基于各存储节点的缓存命中率曲线搜索出最佳缓存配置方案,动态调整各缓存实例的缓存空间,有利于实现缓存空间的按需分配,有效提高缓存利用率。

    一种语义驱动的时间序列预测模型及其训练方法

    公开(公告)号:CN118586400A

    公开(公告)日:2024-09-03

    申请号:CN202410726329.X

    申请日:2024-06-06

    Abstract: 本发明公开了一种语义驱动的时间序列预测模型,包括语义信息编码层、嵌入层编码模块、第一变量选择网络、k个第二变量选择网络、τ个第三变量选择网络、静态协编码器模块、LSTM编码模块、LSTM解码模块、k+τ个门控残差网络、多头注意力层、以及输出层(其为全连接层),语义信息编码层的输入是使用词袋技术和TF‑IDF技术对文本特征进行处理后得到的维度为bs×1×c的文本特征矩阵,其对该文本特征矩阵进行维度变换处理,输出维度为bs×1×h的语义特征矩阵。其中bs为离线训练过程中预先设置的批量数据大小。本发明能够解决现有时间序列预测模型由于缺乏语义信息处理能力和缺乏输入多样性考虑导致的准确性低和泛化性不佳的技术问题,以及缺乏特征可解释性能力的问题。

    一种异构粒度存储系统中的缺失率曲线构建方法和系统

    公开(公告)号:CN115130032B

    公开(公告)日:2024-07-09

    申请号:CN202210789994.4

    申请日:2022-07-05

    Abstract: 本发明公开了一种异构粒度存储系统中的缺失率曲线构建方法,包括:接收访问请求序列,并设置计数器i=1,判断i是否等于访问请求序列中的访问请求总数,如果不等于则将访问请求序列中的第i条访问请求载入缓存过滤器中,并判断该第i条访问请求对应的访问对象是否在缓存过滤器中命中,如果没有则根据第i条访问请求对应的访问对象的大小获取该访问对象的采样率,根据得到的第i条访问请求对应的访问对象的采样率对该访问对象进行采样,并计算该访问对象的重用距离,设置计数器i=i+1。本发明能够解决现有异构粒度存储系统中由于内容流行度差异以及对象大小差异,从而导致的字节缺失率曲线与对象缺失率曲线构建不准确的技术问题。

    一种DFS中基于负载感知的目录级迁移方法和系统

    公开(公告)号:CN118278500A

    公开(公告)日:2024-07-02

    申请号:CN202410524935.3

    申请日:2024-04-29

    Abstract: 本发明公开了一种在DFS中通过基于负载感知的目录级迁移的方法,首先通过机器学习模型分析负载信息以提前发现热点目录,随后,综合预测出的目录热度和系统节点状态情况,提出迁移代价分析模型衡量迁移数据的必要性和紧急度,进而确定何时触发迁移或容忍不均的情况,然后,为了更好的利用局部性,设计了同级目录协同迁移机制,最后,采用多目标优化的方法来恰当的选择所要迁入的存储节点。本发明能解决现有文件级数据迁移方法由于在迁移过程中引入过多的指针,导致增加额外开销的技术问题,在迁移过程中文件的热度消失很快,导致频繁的文件级迁移操作过程中出现很多无效迁移的技术问题,以及由于不能够充分发现热点数据,导致迁移效率低的技术问题。

    一种基于对象大小感知的自适应缓存插入方法及系统

    公开(公告)号:CN117806991A

    公开(公告)日:2024-04-02

    申请号:CN202311783796.8

    申请日:2023-12-21

    Abstract: 本发明公开了一种基于对象大小感知的自适应缓存插入方法及系统,属于缓存替换技术领域。首先提出了一种影子缓存的机制,能够利于追溯和感知从真实缓存中淘汰对象的历史状态,辅助整个插入策略的精准高效实施;在此基础上,提出了一种新的自适应对象插入策略,通过基于淘汰对象感知访问对象的大小倾向性的算法和记录对象出入情况的影子缓存,动态的调整新入对象的插入位置,在给潜在的零重复使用对象至少一次机会的同时减少零重用对象的驻留几率,提高对象命中率。同时本发明可以动态根据自适应的大小阈值,以几乎忽略不计的开销来适应内容分发网络中动态变化的工作负载,提升缓存性能,特别是在缓存资源有限的场景中减少用户访问延迟和回源带宽。

    一种基于机器学习降低内容分发网络租户尾延时的方法和系统

    公开(公告)号:CN116962204A

    公开(公告)日:2023-10-27

    申请号:CN202310916502.8

    申请日:2023-07-24

    Abstract: 本发明公开了一种基于机器学习降低内容分发网络租户尾延时的方法,包括以下步骤:接收来自请求端的多个租户负载请求所组成的租户负载请求序列{R1,R2,…,Rk},先后对所有租户负载请求进行向量化处理和归一化处理,以获取所有租户负载请求对应的多个特征向量,将所有租户负载请求对应的多个特征向量输入到预先训练好的机器学习模型中,以获取所有租户负载请求对应的多个预测结果,根据所有租户负载请求对应的多个预测结果获取每个租户负载请求对应的租户缓存分区的尾延时敏感度。本发明能够解决CDN云厂商现有缓存空间静态分配方法在租户访问模式发生改变后造成租户缓存分区缓存资源低配或超配的技术问题。

    一种基于Transformer的云数据库异常检测方法与系统

    公开(公告)号:CN116796273A

    公开(公告)日:2023-09-22

    申请号:CN202310754770.4

    申请日:2023-06-25

    Abstract: 本发明公开了一种基于Transformer的云数据库异常检测方法,包括以下步骤:获取云数据库的关键性能指标KPI数据,对采集的云数据库的KPI数据进行降维处理,以获取降维处理后的云数据库的KPI数据;对降维处理后的云数据库的KPI数据进行预处理,以获取云数据库KPI样本数据;将获取的云数据库的KPI数据输入预先训练好的云数据库异常检测模型TransAD中,以获取异常检测结果。本发明能够解决现有云数据库异常检测方法忽视由于了云数据库集群的特点,仅考虑了数据库自身不同KPI之间的相关性,而没有考虑数据库之间的相关性,因此无法从集群整体层面来度量数据库的异常状态,因此会导致检测精确率低的技术问题。

    神经网络模型的训练方法、装置和电子设备

    公开(公告)号:CN110245721B

    公开(公告)日:2023-09-05

    申请号:CN201910555746.1

    申请日:2019-06-25

    Abstract: 本公开提供了一种神经网络模型的训练方法和装置、电子设备和计算机可读存储介质。神经网络模型的训练方法包括:利用第一训练样本集执行初始训练,获得初始神经网络模型;利用初始神经网络模型对第二训练样本集执行预测,获得第二训练样本集中每个训练样本的预测结果;基于预测结果,从第二训练样本集确定多个优选样本;接收对于多个优选样本的标注结果,将标注后的多个优选样本加入第一训练样本集,获得扩展的第一训练样本集;利用扩展的第一训练样本集执行更新训练,以获得更新的神经网络模型;在满足训练结束条件的情况下,结束训练;以及在不满足训练结束条件的情况下,重复执行预测步骤、优选样本确定步骤、样本扩展步骤以及更新训练步骤。

Patent Agency Ranking