公开(公告)号：CN117149778A

公开(公告)日：2023-12-01

申请号：CN202311414028.5

申请日：2023-10-30

Applicant: 之江实验室

Inventor： 范文杰 ,  李勇 ,  孙红江 ,  陈晨 ,  杨贺淞 ,  曾令仿 ,  陈光 ,  程稳

IPC: G06F16/22 ,  G06F16/2455

Abstract: 本申请涉及稀疏张量运算加速领域，特别是涉及一种稀疏张量运算加速方法、系统、计算机设备和存储介质，所述方法包括：读取两稀疏张量的压缩表示元数据信息，确定各稀疏张量中非零元素被标记为无效计算元素时所对应的另一个稀疏张量的起始非缩并维度索引和终止非缩并维度索引，并以键值对的形式存储在无效计算元素标记范围映射表中；对所述两稀疏张量进行自适应协同分块，得到所述两稀疏张量的预分块信息；基于所述无效计算元素标记范围映射表以及所述两稀疏张量的预分块信息，得到最终分块；将所述最终分块依次搬运至更内层缓存，直至完成计算。本发明减少运行时稀疏张量数据分块划分的重复性操作，进一步节省稀疏张量运算时间。

公开(公告)号：CN116991429A

公开(公告)日：2023-11-03

申请号：CN202311266395.5

申请日：2023-09-28

Applicant: 之江实验室

Inventor： 王鹏程 ,  胡陈枢 ,  孙红江 ,  陈晨 ,  范文杰 ,  杨贺淞 ,  李勇 ,  曾令仿 ,  陈光 ,  程稳

IPC: G06F8/41 ,  G06F18/214

Abstract: 本申请涉及一种计算机程序的编译调优方法、装置和存储介质，其中，该编译调优方法包括：选择样本硬件集合和样本程序集合并为每个样本程序随机生成优化序列，对每种样本程序与优化序列的组合进行编译、特征抽取以及运行，得到训练数据集，基于训练数据集对预设的多任务学习模型进行训练，得到预训练模型，基于预训练模型进行成本函数模型的初始化，得到目标成本函数模型，利用该目标成本函数模型对目标源程序进行调优，得到目标源程序的最优优化序列。通过本申请，解决了相关技术中计算机程序编译调优效率低下的问题，提高了计算机程序的编译调优效率。

公开(公告)号：CN116795324A

公开(公告)日：2023-09-22

申请号：CN202310810589.0

申请日：2023-07-03

Applicant: 之江实验室

Inventor： 范文杰 ,  孙红江 ,  曾令仿 ,  陈光

IPC: G06F7/487 ,  G06F7/485 ,  G06F7/483

Abstract: 本申请涉及一种混合精度浮点乘法装置和混合精度浮点数处理方法。所述装置通过指数偏置模块确定从寄存器中获取的至少两个浮点操作数的偏置，将各浮点操作数的偏置输入至对应的第一加法器以及将其结果输出至第二加法器，通过第一加法器利用各浮点操作数的偏置分别对各浮点操作数对应的指数进行偏置处理，确定各浮点操作数的偏置指数值，通过第二加法器对各浮点操作数的偏置指数值进行加法运算，得到中间指数值，通过精度转换单元，用于根据乘法单元输出的浮点数精度标注位确定目标浮点操作数的目标精度，基于目标精度对乘法单元输出的中间尾数和中间指数值进行转换，完成目标操作数的精度转换。采用本装置能够提高混合精度计算效率。

公开(公告)号：CN116415103B

公开(公告)日：2023-09-05

申请号：CN202310681557.5

申请日：2023-06-09

Applicant: 之江实验室

Inventor： 陈晨 ,  李勇 ,  范文杰 ,  孙红江 ,  杨贺淞 ,  胡陈枢 ,  刘懿 ,  陈光 ,  曾令仿

IPC: G06F17/16

Abstract: 本说明书公开了一种数据处理的方法、装置、存储介质以及电子设备，可以读取存储在指定设备内存的目标数据，并确定目标数据的各数据维度，可以根据目标数据的各数据维度，确定各种候选数据拆分方式，以及确定按照每种候选数据拆分方式执行目标数据的数据处理任务后的效率值，并根据每种候选数据拆分方式对应的效率值，确定目标数据拆分方式，其中，针对每种候选数据拆分方式，该候选数据拆分方式用于确定指定设备中至少部分的数据处理单元所要处理的数据的数据维度，数据处理单元可以包括：指定设备中的寄存器以及各级缓存。以按照目标数据拆分方式，对神经网络模型中的待处理数据进行数据处理，从而能够提高神经网络模型中矩阵运算的效率。