公开(公告)号：CN114528982A

公开(公告)日：2022-05-24

申请号：CN202111628128.9

申请日：2021-12-28

Applicant: 南京大学 ,  北京达佳互联信息技术有限公司

Inventor： 王中风 ,  谢克力 ,  薛睿鑫 ,  刘文剑 ,  许明恺 ,  刘凌志

IPC: G06N3/063 ,  G06N3/04 ,  G06N3/08 ,  G06F16/9535 ,  G06F16/435 ,  G06F16/45

Abstract: 本公开关于一种业务处理设备、方法、系统、电子设备及存储介质，该设备包括业务处理单元被配置为执行业务处理网络对应的至少一种业务运算；业务处理单元包括第一数量个并行内积单元，并行内积单元包括第二数量个基础内积单元；基础内积单元包括第三数量个乘法器和第一加法器；任一基础内积单元被配置为执行任一业务运算对应的左乘业务矩阵与右乘业务矩阵中任意一列间的相乘运算；左乘业务矩阵被拆分成第四数量个子业务矩阵，任一业务运算对应的第四数量个子业务矩阵按照执行时间顺序依次输入第三数量个乘法器；并行内积单元被配置为并行执行左乘业务矩阵与右乘业务矩阵中第二数量个列间的相乘运算。利用本公开实施例可提升硬件利用率和计算效率。

公开(公告)号：CN113159318B

公开(公告)日：2024-07-12

申请号：CN202110444570.X

申请日：2021-04-23

Applicant: 北京达佳互联信息技术有限公司 ,  北京交通大学

Inventor： 刘理 ,  许明恺 ,  杨超 ,  刘凌志 ,  王东 ,  许柯 ,  吕君环

IPC: G06N3/08 ,  G06F18/241 ,  G06F18/214 ,  G06N3/0464

Abstract: 本公开关于一种神经网络的量化方法、装置、电子设备及存储介质，涉及计算机技术领域，该方法包括：获取训练样本图像以及该训练样本图像的类型，并将该训练样本图像输入到第一模型，得到预测分类结果；根据该预测分类结果、该训练样本图像的类型、该初始权重以及该初始量化步长，确定第一梯度；基于该第一梯度、该初始量化步长以及该第一模型对应的学习率更新该初始量化步长；基于更新后的量化步长，调整该第一模型中的权重，以得到量化后的模型。本公开中，电子设备能够合理、有效地确定出量化后的模型，即在保障量化后的模型体积较小的同时，提升该量化后的模型的预测准确性。

公开(公告)号：CN113159188B

公开(公告)日：2024-03-12

申请号：CN202110444362.X

申请日：2021-04-23

Applicant: 北京达佳互联信息技术有限公司 ,  北京交通大学

Inventor： 刘理 ,  许明恺 ,  杨超 ,  刘凌志 ,  王东 ,  冯乾泰 ,  许柯

IPC: G06V10/764 ,  G06V10/82 ,  G06N3/08 ,  G06N3/04 ,  G06V10/774

Abstract: 本公开关于一种模型生成方法、装置、设备及存储介质，涉及计算机技术领域，可以在保证现有神经网络模型性能不变的情况下，有效压缩神经网络模型。该模型生成方法包括：基于神经网络架构搜索算法，从与样本数据对应的搜索空间中获取初始模型；初始模型中的第一节点与第二节点之间通过初始边连接；初始边用于表示第一节点与第二节点之间执行的候选操作；初始边对应一个边权重；基于样本数据，对初始模型执行预设次数的训练操作，以得到第一模型；若第一模型中，与初始模型中的初始边对应的目标边的边权重满足预设条件，则对第一模型中的目标边进行裁剪，以得到目标模型。

公开(公告)号：CN113886035A

公开(公告)日：2022-01-04

申请号：CN202111059444.9

申请日：2021-09-10

Applicant: 北京达佳互联信息技术有限公司

Inventor： 马越 ,  杨超 ,  钟辉 ,  刘凌志 ,  许明恺 ,  曹文慧 ,  李丹青 ,  王思凯 ,  封思彤

IPC: G06F9/48 ,  G06F9/50

Abstract: 本公开关于一种任务处理方法、装置、电子设备及存储介质，所述方法包括：当任务队列中不存在待处理子任务时，从当前批次的多个目标线程中各取出一个子任务放入所述任务队列；检测多个异构处理单元的运行状态；所述目标线程的数量大于所述异构处理单元的数量，所述异构处理单元为与所述子任务相适配的硬件单元；当所述多个异构处理单元中存在目标异构处理单元时，基于所述目标异构处理单元对所述任务队列中的多个子任务进行处理；所述目标异构处理单元的所述运行状态为空闲状态。本公开能够提高异构处理单元的资源使用效率以及系统的吞吐量。

公开(公告)号：CN113159318A

公开(公告)日：2021-07-23

申请号：CN202110444570.X

申请日：2021-04-23

Applicant: 北京达佳互联信息技术有限公司 ,  北京交通大学

Inventor： 刘理 ,  许明恺 ,  杨超 ,  刘凌志 ,  王东 ,  许柯 ,  吕君环

IPC: G06N3/08 ,  G06K9/62 ,  G06N3/04

Abstract: 本公开关于一种神经网络的量化方法、装置、电子设备及存储介质，涉及计算机技术领域，该方法包括：获取训练样本图像以及该训练样本图像的类型，并将该训练样本图像输入到第一模型，得到预测分类结果；根据该预测分类结果、该训练样本图像的类型、该初始权重以及该初始量化步长，确定第一梯度；基于该第一梯度、该初始量化步长以及该第一模型对应的学习率更新该初始量化步长；基于更新后的量化步长，调整该第一模型中的权重，以得到量化后的模型。本公开中，电子设备能够合理、有效地确定出量化后的模型，即在保障量化后的模型体积较小的同时，提升该量化后的模型的预测准确性。

公开(公告)号：CN113159188A

公开(公告)日：2021-07-23

申请号：CN202110444362.X

申请日：2021-04-23

Applicant: 北京达佳互联信息技术有限公司 ,  北京交通大学

Inventor： 刘理 ,  许明恺 ,  杨超 ,  刘凌志 ,  王东 ,  冯乾泰 ,  许柯

IPC: G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本公开关于一种模型生成方法、装置、设备及存储介质，涉及计算机技术领域，可以在保证现有神经网络模型性能不变的情况下，有效压缩神经网络模型。该模型生成方法包括：基于神经网络架构搜索算法，从与样本数据对应的搜索空间中获取初始模型；初始模型中的第一节点与第二节点之间通过初始边连接；初始边用于表示第一节点与第二节点之间执行的候选操作；初始边对应一个边权重；基于样本数据，对初始模型执行预设次数的训练操作，以得到第一模型；若第一模型中，与初始模型中的初始边对应的目标边的边权重满足预设条件，则对第一模型中的目标边进行裁剪，以得到目标模型。