一种神经网络模型自动流水并行加速方法

    公开(公告)号:CN116152628A

    公开(公告)日:2023-05-23

    申请号:CN202310147535.0

    申请日:2023-02-21

    Abstract: 本发明公开了一种神经网络模型自动流水并行加速方法,包括以下过程:将神经网络计算任务划分为输入图像预处理阶段、神经网络计算阶段和后处理阶段;依据多线程管理机制创建预处理线程、神经网络计算线程和后处理线程;将预处理线程与输入图像预处理阶段绑定,将神经网络计算线程与神经网络计算阶段绑定,将后处理线程与后处理阶段绑定;利用流水设计方法进行神经网络计算任务中输入图像预处理阶段、神经网络计算阶段和后处理阶段的并行执行。该方法实现了在无需专业知识前提下快速完成基于异构计算平台的神经网络模型自动流水并行加速设计,在大幅提高神经网络计算系统的吞吐量的同时,有效提升异构计算平台智能处理能力。

    一种光电混合计算系统及其应用方法

    公开(公告)号:CN117112961A

    公开(公告)日:2023-11-24

    申请号:CN202310946374.1

    申请日:2023-07-28

    Abstract: 本发明公开了一种光电混合计算系统及其应用方法,包括,数据输入配置模块,指示输入数据的维度、尺寸、数据来源和数据填充,计算配置模块,指示计算核中数据计算的类型和对应权重参数的存储地址,并进行数据的计算,模型参数配置模块,指示光学相位值、数据偏置、非线性激活、量化和反量化参数,数据输出模块,用于配置计算数据的输出方式和输出地址,通过模型参数配置模块有效区分光电混合计算芯片中的光域和电域功能,计算配置模块同时具有配置参数和计算的能力,对数据输入配置模块的数据再次进行配置和计算,通过数据输出模块进行输出,解决了光子计算和电子计算在指令集中融合困难,提高芯片的可编程性,通用性和易用性。

Patent Agency Ranking