一种基于两段式缓存的神经网络推理加速方法

    公开(公告)号:CN111427895B

    公开(公告)日:2022-10-25

    申请号:CN202010251314.4

    申请日:2020-04-01

    Abstract: 本发明公开了一种基于两段式缓存的神经网络推理加速方法,统计各个输入张量在数据集中出现的次数,根据出现的次数采用降序对各个输入张量进行排序,最后输出排序完成的输入张量排序数据集,构造静态缓存的数据结构,确定静态缓存的存入和读取方法;确定动态缓存中存储的基础单元,确定动态缓存的缓存替换方法;在神经网络被部署之前构建完成静态缓存,在神经网络部署时动态缓存为空,在神经网络运行中根据缓存替换方法存入、换出输入输出对,完成基于两段式缓存的神经网络推理加速。本发明充分考虑了神经网络推理过程中输入数据的特征,针对性地设计了两段式缓存算法和数据结构,避免了不必要的计算,降低了推理耗时,减少了服务成本。

    一种基于分区参照技术的FPGA配置文件压缩解压方法

    公开(公告)号:CN111427857B

    公开(公告)日:2022-10-25

    申请号:CN202010251320.X

    申请日:2020-04-01

    Abstract: 本发明公开了一种基于分区参照技术的FPGA配置文件压缩解压方法,定义FPGA配置文件fi=(h,d,r),i=1,2,3,…,n,头部信息h包含工程名称、编译时间和目标芯片型号信息;配置数据信息d包含目标芯片内各类资源的二进制编码;尾部冗余信息r包含若干空指令操作,对FPGA配置文件进行分区;采用不同的压缩策略对头部信息h、配置数据信息d和尾部冗余信息r进行压缩解压操作。本发明将FPGA配置文件按照功能进行分区,针对不同分区设计相应压缩解压策略,并且在大规模神经网络协同处理时需一次性传输多FPGA配置文件的应用场景,分析配置文件间重复信息,采用参照压缩的方法进一步提高压缩率。

    一种去中心化的物联网微服务订阅和推送方法

    公开(公告)号:CN112822280B

    公开(公告)日:2022-05-20

    申请号:CN202110058572.5

    申请日:2021-01-16

    Abstract: 本发明公开了一种去中心化的物联网微服务订阅和推送方法,通过建立多个IP公开的提供索引服务的初始索引服务节点;通过建立能够提供索引服务的节点,并向任意初始索引服务节点SSi注册,初始索引服务节点形成索引服务圈I;通过任意需要服务的节点Cj向索引服务圈中任一节点Ii提出搜索请求,任一节点Ii根据自己的关联算法提供映射关系记录索引目录给需要服务的节点Cj,需要服务的节点Cj根据自己的算法从中选择服务点节Sk,并向服务点节Sk注册,申请订阅服务;采用任意节点作为服务节点,能够以几何级数的增速实现消息推送,任何节点都可以提供大规模微服务,不需要中心节点。

    一种基于神经网络模型的FPGA配置文件算术压缩与解压方法

    公开(公告)号:CN111431540B

    公开(公告)日:2021-10-08

    申请号:CN202010251333.7

    申请日:2020-04-01

    Abstract: 本发明公开了一种基于神经网络模型的FPGA配置文件算术压缩与解压方法,定义FPGA配置文件的内容序列,将任意符号在其前k项数据确定下的条件概率分布作为算术编码过程中对应符号的概率;采用神经网络模型估计FPGA配置文件中各项符号的概率;采用算术编码,使用建立的神经网络对预测的FPGA配置文件各符号概率进行算术编码压缩;对FPGA配置文件进行解压缩。本发明使用神经网络模型进行配置文件序列数据的概率估计,并使用该估计结果对FPGA配置文件进行压缩及解压的方法,解决了FPGA配置过程耗时过长问题。

    一种基于Ceph集群的Cache Tier缓存优化方法

    公开(公告)号:CN111488125B

    公开(公告)日:2021-09-07

    申请号:CN202010281312.X

    申请日:2020-04-10

    Abstract: 本发明公开了一种基于Ceph集群的Cache Tier缓存优化方法,获取Cache Tier现有的cache pool模式,将请求大小小于128k的请求作为小请求,将请求大小大于等于128k的请求作为大请求;执行写操作,将小请求写入cache pool中,将大请求通过缓存执行代理写操作写入base pool中;执行读操作,如果缓存命中,遍历对象分片信息,先去cache pool中读取,缓存读取结束后,去base pool中读取数据;最后将cache pool和base pool中读取的数据进行拼接、填充返回给客户端。本发明基于对不同大小的请求的处理方式来修改cache pool的读写模式,通过优化Cache Tier来提高Ceph集群的读写效率。

    一种基于SVM的LSTM超参数优化方法、系统、介质及设备

    公开(公告)号:CN113240094A

    公开(公告)日:2021-08-10

    申请号:CN202110634057.7

    申请日:2021-06-07

    Abstract: 本发明公开了一种基于SVM的LSTM超参数优化方法、系统、介质及设备,随机选取N组超参数组合输入到LSTM温度预测模型进行训练;根据已有结果选取前3组模型RMSE最小的参数组合进行扰动,训练得到超参数组合结果集;使用超参数组合结果集训练SVM代理模型,预测所有超参空间;选取最好的前N/n组超参数组合带入LSTM温度预测模型中得真实RMSE结果;根据得到的真实RMSE结果更新超参数组合结果集,通过更新N=N/n实现梯度下降,当N

    一种面向粗粒度MPI+OpenMP混合并行的结构网格区域划分方法

    公开(公告)号:CN110543663B

    公开(公告)日:2021-07-13

    申请号:CN201910662152.0

    申请日:2019-07-22

    Abstract: 一种面向粗粒度MPI+OpenMP混合并行的结构网格区域划分方法,包括以下步骤:步骤1,构建目标网格所有的区域划分方式集合;步骤2,为每个区域划分方式Mx,My,Mz,threads四元组建立通信拓扑;步骤3,根据MPI通信面的大小对区域划分方式四元组进行过滤分类;步骤4,对S1的几何参数Mx,My,Mz执行面向cache‑aware的区域划分策略;步骤5,度量相同区域划分方式的不同进程、线程组合的性能差异;步骤6,计算出开销最小的区域划分方式四元组Mx,My,Mz,threads,将其作为输出的区域划分方式。本发明适用于粗粒度MPI+OpenMP混合并行方式。与其他的快速划分方式相比较,如通信量最小,往往能够找到更优的区域划分方式;与性能模拟器相比较,则具有高效的划分选择速度。

    一种数据中心能耗联合优化方法、系统、介质及设备

    公开(公告)号:CN112966431A

    公开(公告)日:2021-06-15

    申请号:CN202110156330.X

    申请日:2021-02-04

    Abstract: 本发明公开了一种数据中心能耗联合优化方法、系统、介质及设备,构建数据中心多智能体环境;根据scheduling_agent的状态空间、动作空间和奖励函数构建任务调度强化学习模型;根据cooling_agent的状态空间、动作空间和奖励函数构建温度调控强化学习模型;基于任务调度强化学习模型和温度调控强化学习模型构建异构多智能体强化学习的联合控制模型,向联合控制模型中导入构建的数据中心多智能体环境;使用联合控制模型,以数据中心整体能耗最小化为目标集中训练scheduling_agent与cooling_agent,使用联合控制模型训练得到的scheduling_agent与cooling_agent,根据各自的观测信息执行以降低自身能耗为目标的动作策略,同时保证动态数据中心环境的平衡,实现整体能耗最小化。本发明在降低计算能耗与制冷能耗之间取得平衡,同时降低数据中心的整体能耗。

    一种小样本硬盘故障数据生成方法、存储介质及计算设备

    公开(公告)号:CN112434733A

    公开(公告)日:2021-03-02

    申请号:CN202011290978.8

    申请日:2020-11-17

    Abstract: 本发明公开了一种小样本硬盘故障数据生成方法、存储介质及计算设备,基于长短期记忆网络作为生成对抗网络的生成网络,对硬盘SMART数据进行学习,对长短期记忆网络的梯度进行调整并生成用于对抗训练的虚拟硬盘故障数据;对生成的虚拟硬盘故障数据进行甄别,将真实的硬盘故障数据作为训练样本数据集;交替计算生成对抗网络中生成网络G和判别网络D的梯度并调整至收敛,完成小样本硬盘故障数据训练,训练完成后,加载模型中的生成网络G,将初始随机向量传给生成网络G,生成网络G生成虚拟硬盘故障数据。本发明能够有效地生成符合真实硬盘故障数据特点的虚拟硬盘故障数据,扩充硬盘故障数据样本集,提高机器学习算法识别硬盘故障的准确率。

    一种面向NAND闪存的缓冲区管理方法

    公开(公告)号:CN110888600B

    公开(公告)日:2021-02-12

    申请号:CN201911107839.4

    申请日:2019-11-13

    Abstract: 本发明公开了一种面向NAND闪存的缓冲区管理方法,把数据库缓冲区分成冷干净链表、冷脏链表和混合链表,冷干净链表、冷脏链表和混合链表按整体访问顺序进行编号;在整体逻辑上,把缓冲区看成一个按访问顺序组织的单链表,并提出时间窗口概念,覆盖最近一段时间内访问的数据页;当发生缓冲替换时,按冷干净链表、冷脏链表和混合链表的优先顺序,检查链表尾部指向的数据页是否在时间窗口内;如果在,则查找下一个链表;如果不在,则直接替换。本发明获得较大命中率同时,减小闪存写操作次数,从而获得更大的缓存收益,提高存储系统的整体性能。

Patent Agency Ranking