-
公开(公告)号:CN114707653A
公开(公告)日:2022-07-05
申请号:CN202210015668.8
申请日:2022-01-07
Applicant: 北京达佳互联信息技术有限公司
IPC: G06N5/04
Abstract: 本公开关于一种数据处理方法、装置及电子设备,该方法应用于现场可编程逻辑门阵列中的模型分配单元,包括:获取目标推理模型对应的模型规模;根据模型规模,在现场可编程逻辑门阵列中确定多个目标模型单元,多个目标模型单元依次连接;将目标推理模型部署至多个目标模型单元;将目标推理模型对应的推理请求发送至多个目标模型单元。本公开的实施例能够在目标推理模型的模型规模过大的情况下,利用多个模型单元对目标推理模型进行加速,从而能够在不重新设计模型单元的情况下对任意规模的推理模型进行加速推理。
-
公开(公告)号:CN114528982A
公开(公告)日:2022-05-24
申请号:CN202111628128.9
申请日:2021-12-28
Applicant: 南京大学 , 北京达佳互联信息技术有限公司
IPC: G06N3/063 , G06N3/04 , G06N3/08 , G06F16/9535 , G06F16/435 , G06F16/45
Abstract: 本公开关于一种业务处理设备、方法、系统、电子设备及存储介质,该设备包括业务处理单元被配置为执行业务处理网络对应的至少一种业务运算;业务处理单元包括第一数量个并行内积单元,并行内积单元包括第二数量个基础内积单元;基础内积单元包括第三数量个乘法器和第一加法器;任一基础内积单元被配置为执行任一业务运算对应的左乘业务矩阵与右乘业务矩阵中任意一列间的相乘运算;左乘业务矩阵被拆分成第四数量个子业务矩阵,任一业务运算对应的第四数量个子业务矩阵按照执行时间顺序依次输入第三数量个乘法器;并行内积单元被配置为并行执行左乘业务矩阵与右乘业务矩阵中第二数量个列间的相乘运算。利用本公开实施例可提升硬件利用率和计算效率。
-
公开(公告)号:CN113900820A
公开(公告)日:2022-01-07
申请号:CN202111255496.3
申请日:2021-10-27
Applicant: 北京达佳互联信息技术有限公司
Abstract: 本公开关于一种分类任务处理方法、装置、电子设备及存储介质,该方法包括基于加速处理器接收目标分类任务的处理请求,处理请求包括目标分类任务对应的待分类信息;基于加速处理器,获取目标分类任务对应的目标分类模型的目标模型结构信息,目标模型结构信息为预先基于目标分类模型的模型文件进行格式转换后,按照目标格式存储的结点信息;目标格式为加速处理器的可读格式,结点信息为目标分类模型对应的决策树中的结点信息;控制加速处理器,执行基于待分类信息和目标模型结构信息进行分类任务处理的操作,得到目标分类任务的分类结果信息。利用本公开实施例可以有效降低分类任务处理的时延,提升分类任务处理的速度和效率。
-
公开(公告)号:CN110955461B
公开(公告)日:2024-01-12
申请号:CN201911159702.3
申请日:2019-11-22
Applicant: 北京达佳互联信息技术有限公司
IPC: G06F9/445
Abstract: 本公开一种计算任务的处理方法、装置、系统、服务器和存储介质所述服务器中设置有多个输入缓存区,所述方法包括:基于客户端发送的数据处理请求,生成多个计算任务;确定各所述计算任务的输入缓存区,并将计算任务对应的任务数据分别输入所述输入缓存区中;在各所述输入缓存区中存在符合启动条件的输入缓存区的情况下,则启动执行符合启动条件的输入缓存区对应的计算任务;将执行完成的计算任务的计算结果返回至对应的客户端。本公开可以减少数据传输带来的消耗,稳定服务端吞吐容量只与从设备的硬件计算性能有关,提高了从设备硬件利用率。
-
公开(公告)号:CN114266306A
公开(公告)日:2022-04-01
申请号:CN202111567466.6
申请日:2021-12-20
Applicant: 北京达佳互联信息技术有限公司
Abstract: 本公开关于一种基于机器学习模型实现数据分类的方法及装置、电子设备,该方法通过现场可编程逻辑门阵列器件实现,包括:获取待输入至机器学习模型的特征参量,其中,机器学习模型用于通过推理对特征参量进行分类,机器学习模型被分割成多级推理单元,多级推理单元存储在现场可编程逻辑门阵列器件的随机存取存储器,每级推理单元包括机器学习模型的节点信息;根据多级推理单元,将特征参量在随机存取存储器上进行多级缓存,其中,特征参量进行缓存的级数与推理单元的个数相同,其中,每级缓存的特征参量相同;依次利用多级推理单元中的各级推理单元从随机存取存储器上获取与推理单元对应的特征参量,并对特征参量进行推理处理。
-
公开(公告)号:CN110955461A
公开(公告)日:2020-04-03
申请号:CN201911159702.3
申请日:2019-11-22
Applicant: 北京达佳互联信息技术有限公司
IPC: G06F9/445
Abstract: 本公开一种计算任务的处理方法、装置、系统、服务器和存储介质所述服务器中设置有多个输入缓存区,所述方法包括:基于客户端发送的数据处理请求,生成多个计算任务;确定各所述计算任务的输入缓存区,并将计算任务对应的任务数据分别输入所述输入缓存区中;在各所述输入缓存区中存在符合启动条件的输入缓存区的情况下,则启动执行符合启动条件的输入缓存区对应的计算任务;将执行完成的计算任务的计算结果返回至对应的客户端。本公开可以减少数据传输带来的消耗,稳定服务端吞吐容量只与从设备的硬件计算性能有关,提高了从设备硬件利用率。
-
公开(公告)号:CN110955390A
公开(公告)日:2020-04-03
申请号:CN201911159697.6
申请日:2019-11-22
Applicant: 北京达佳互联信息技术有限公司
IPC: G06F3/06
Abstract: 本公开关于一种数据处理方法、装置和电子设备,上述方法包括:若检测到数据缓存区存储有服务器主机写入的数据块,则对数据块进行第一异构加速处理;服务器主机用于接收客户端单次发送的待处理数据,将待处理数据分成至少两个数据块,分别将各个数据块写入到数据缓存区;统计数据缓存区中已完成第一异构加速处理的数据块的数量;若数据缓存区中已完成第一异构加速处理的数据块的数量达到待处理数据所分成的数据块的数量,则对各个数据块对应的处理结果进行第二异构加速处理,得到待处理数据的目标处理结果。采用该方法可以解决相关技术中服务器的数据处理效率较低的问题,从而提高了服务器的数据处理效率。
-
-
-
-
-
-