面向芯粒故障感知的神经网络开销估计方法和系统

    公开(公告)号:CN117744726A

    公开(公告)日:2024-03-22

    申请号:CN202311698790.0

    申请日:2023-12-12

    Abstract: 本发明公开了一种面向芯粒故障感知的神经网络开销估计方法和系统,该方法包括以下步骤:获取芯粒故障后的不规则芯粒拓扑结构、不规则芯粒路由表、芯粒参数信息和算子参数信息;基于不规则芯粒拓扑结构和不规则芯粒路由表获取神经网络计算图在芯粒系统上的故障感知的调度策略,包括计算图、算子划分与资源数量分配策略和算子映射策略;对深度学习并行训练系统进行神经网络推理开销估计,包括获取计算开销、争用开销、算子内通信开销和算子间通信开销。本发明方法能够通过对故障芯粒的建模实现对神经网络在芯粒上的性能开销进行准确估计,为芯粒的设计和优化提供指导,为开发更高效的神经网络加速器提供有力支持。

Patent Agency Ranking