-
公开(公告)号：CN116523045B
公开(公告)日：2023-11-07
申请号：CN202310235465.4
申请日：2023-03-13
Applicant: 之江实验室
Abstract: 本发明公开了一种面向多芯粒芯片的深度学习推理模拟器，包括：配置输入层，用于获取模拟所需的深度学习模型、多芯粒芯片架构和映射策略；模型解析层，用于根据映射策略对所述深度学习模型进行解析，得到模型解析表；路由生成层，用于根据模型解析表中每个算子的运行策略分析算子内路由和算子间路由并生成路由文件；推理模拟层，用于进行深度学习模型在多芯粒芯片架构所描述的多芯粒芯片上的推理模拟，将路由文件分层次并通过片上网络模拟器进行多进程并行模拟，得到各算子路由所需的周期数；结果计算层，用于将推理模拟层中并行模拟得到的算子路由周期数进行整理计算，得到深度学习模型在多芯粒芯片上推理模拟的周期数和平均设备利用率。
-
公开(公告)号：CN116977525A
公开(公告)日：2023-10-31
申请号：CN202310956092.X
申请日：2023-07-31
Applicant: 之江实验室
Abstract: 本说明书公开了一种图像渲染方法、装置、存储介质及电子设备。所述图像渲染方法包括：将预设的三维渲染计算框架展示给用户，以使用户从预设的三维渲染计算框架所提供的各组件中，选取出用于构建用户所需的三维场景模型的神经辐射场的各组件，作为各目标组件，其中，各组件包括：编码函数组件、多层感知器组件、损失函数组件。根据各目标组件，构建三维场景模型对应的目标神经辐射场，响应用户发送的渲染请求，通过构建出的目标神经辐射场进行渲染得到三维场景模型的渲染图像。
-
公开(公告)号：CN116932175A
公开(公告)日：2023-10-24
申请号：CN202311208268.X
申请日：2023-09-19
Applicant: 之江实验室
Abstract: 本说明书公开了一种基于序列生成的异构芯片任务调度方法以及装置，针对每个待调度任务，确定该待调度任务在各芯片上分别对应的执行时间，再确定各芯片分别对应的空闲时刻，根据各芯片分别对应的空闲时刻、各待调度任务在各芯片上分别对应的执行时间，生成调度序列，以根据调度序列调度各芯片执行各待调度任务。在包含异构芯片的计算集群中存在处于空闲状态的芯片的情况下，尽可能为该处于空闲状态的芯片分配与其匹配的任务，保证了任务执行效率。
-
公开(公告)号：CN115829017B
公开(公告)日：2023-05-23
申请号：CN202310156339.X
申请日：2023-02-20
Applicant: 之江实验室
Abstract: 本说明书公开了一种基于芯粒的数据处理的方法、装置、介质及设备。首先，获取芯粒阵列的阵列尺寸以及神经网络模型对应的有向无环图。其次，根据芯粒阵列的阵列尺寸，构建各类算子的划分策略集合以及芯粒分配策略集合。而后，根据神经网络模型中的各算子在有向无环图中的深度，确定各算子所要加入的调度搜索模块。然后，针对每个调度搜索模块，根据各类算子的划分策略集合以及芯粒分配策略集合，确定满足预设条件的各策略组合，并计算该调度搜索模块中对应的各策略组合所需的运算开销，确定目标策略组合。最后，根据各调度搜索模块对应的目标策略组合，执行神经网络模型的运算任务。本方法可以合理的分配芯粒资源，提高芯粒资源的资源利用率。
-
公开(公告)号：CN115860081A
公开(公告)日：2023-03-28
申请号：CN202310179898.2
申请日：2023-03-01
Applicant: 之江实验室
Abstract: 本发明涉及一种芯粒算法调度方法，包括：获取待调度的神经网络算法计算图；获取芯粒的拓扑结构，并基于拓扑结构生成芯粒资源列表；对神经网络算法计算图进行图优化；对计算图划分并行组；对计算图进行活跃性分析；生成计算图中的每个算子的策略和对应的开销；生成整数线性规划的优化变量；设定整数线性规划的求解目标；设定整数线性规划的约束条件；求解整数线性规划问题；将求解整数线性规划问题得到的解作为计算图在芯粒上的调度方法。与现有技术相比，本发明基于整数线性规划技术，将算法调度空间搜索问题转换成整数线性规划求解问题，通过设置多种求解约束缩小策略探索空间，能够在很短的时间内得到神经网络算法在芯粒上最优的调度方案。
-
Patent Agency Ranking
公开(公告)号：CN115829017A
公开(公告)日：2023-03-21
申请号：CN202310156339.X
申请日：2023-02-20
Applicant: 之江实验室
Abstract: 本说明书公开了一种基于芯粒的数据处理的方法、装置、介质及设备。首先，获取芯粒阵列的阵列尺寸以及神经网络模型对应的有向无环图。其次，根据芯粒阵列的阵列尺寸，构建各类算子的划分策略集合以及芯粒分配策略集合。而后，根据神经网络模型中的各算子在有向无环图中的深度，确定各算子所要加入的调度搜索模块。然后，针对每个调度搜索模块，根据各类算子的划分策略集合以及芯粒分配策略集合，确定满足预设条件的各策略组合，并计算该调度搜索模块中对应的各策略组合所需的运算开销，确定目标策略组合。最后，根据各调度搜索模块对应的目标策略组合，执行神经网络模型的运算任务。本方法可以合理的分配芯粒资源，提高芯粒资源的资源利用率。
-
公开(公告)号：CN115409174A
公开(公告)日：2022-11-29
申请号：CN202211354686.5
申请日：2022-11-01
Applicant: 之江实验室
Abstract: 本发明公开一种基于DRAM存内计算的碱基序列过滤方法与装置，该方法为：步骤一，根据DRAM的存储阵列的列宽和所要筛选目标碱基序列的起点地址，筛选出目标碱基序列后进行重新整理组合；步骤二，对重新整理组合后的目标碱基序列分别进行碱基为A腺嘌呤、G鸟嘌呤、C胞嘧啶、T胸腺嘧啶的标记并获取到对应碱基的标记行；步骤三，对标记行数据进行移位后统计标记行中位置值为1的个数，获得对应碱基的统计结果；步骤四，利用参考碱基序列的统计结果与所述目标碱基序列的统计结果进行对比，过滤所筛选的目标碱基序列。本发明将位置匹配筛选放置在内存子阵列中进行，减少了大量数据在cpu与内存之间的搬移，成倍提升了计算效率，降低了功耗。
-
公开(公告)号：CN115062771A
公开(公告)日：2022-09-16
申请号：CN202210981014.0
申请日：2022-08-16
Applicant: 之江实验室
Abstract: 本发明公开了一种分布式机器学习梯度汇聚方法、装置及模型训练方法，利用智能交换机进行计算节点梯度汇聚任务调度和模型训练。智能交换机不仅包含正常的网络交换功能，还能对梯度数据包进行解析，抽取包内数据并进行计算，并将结果重新组包发送给相关计算服务器，提供更为高效的数据交换服务。智能交换机将多台计算服务器连接起来组成训练网络，共同完成神经网络模型训练任务。本发明实现分布式机器学习训练，可优化梯度汇聚时间，减少梯度交换流量，加速大模型训练。
-
公开(公告)号：CN112804297B
公开(公告)日：2022-08-19
申请号：CN202011599244.8
申请日：2020-12-30
Applicant: 之江实验室
IPC: H04L67/1097 , H04L67/1074
Abstract: 本发明公开了一种可组装的分布式计算和存储系统及其构造方法，包括：一个以上域服务器，用于计算服务或存储服务；网络交换单元，负责将域服务器连接形成分布式计算和存储系统；域服务器包括：对象处理单元，采用多核构造处理器线程组，负责域服务器内网络连接，并通过高级语言编程提供管理控制和数据处理；计算单元，提供计算能力；内存单元，用于动态随机存储器；持久化内存单元，用于非易失内存；存储单元，提供持久化存储；多个计算单元、多个内存单元、多个非易失内存单元、多个存储单元，分别通过网络交换单元连接形成计算池、内存池、非易失内存池、存储池；一个或多个域服务器通过网络交换单元连接形成分布式计算和存储系统。
-
公开(公告)号：CN117726001A
公开(公告)日：2024-03-19
申请号：CN202311687359.6
申请日：2023-12-08
Applicant: 之江实验室
Abstract: 本说明书公开了一种深度学习模型推理的实时校验方法，可以确定出每个校验数据及每个校验数据对应的结果数据，而后，响应于用户的预测指令，获取与太空边缘计算相关的待检测数据，并向待检测数据中加入校验数据得到批数据，将批数据输入到预测模型中，得到待检测数据对应的预测结果和至少一个校验数据对应的预测结果。进而，根据校验数据对应的预测结果与校验数据对应的结果数据，确定校验结果，若确定校验结果表示校验通过，将待检测数据对应的预测结果返回给用户，若确定校验结果表示校验未通过，通过预测模型对待检测数据重新进行推理并对重新进行推理得到的预测结果进行校验，从而减少了通过三模冗余方式进行校验所导致的计算资源的消耗。
-
-
-
-
-
-
-
-
-
Search Results
51
records
(took 0.02 seconds)
