公开(公告)号：CN114402293A

公开(公告)日：2022-04-26

申请号：CN202080065102.5

申请日：2020-06-18

Applicant: 微软技术许可有限责任公司

Inventor： A·瓦格纳 ,  T·米特拉 ,  S·M·库尔卡尼 ,  M·特伦布莱 ,  S·S·巴拉德瓦杰

IPC: G06F9/50 ,  G06N3/04 ,  G06N3/08

Abstract: 描述了用于具有持续且异步更新的流水线式神经网络处理的系统和方法。用于处理包括L个层(其中L是大于2的整数)的神经网络的方法包括：在一组计算资源之中划分L个层，该一组计算资源被配置成处理与L个层中的每个层相关联的前向传递和反向传递。方法还包括：使用一组计算资源，发起前向传递和反向传递的处理。方法还包括：在完成与L个层中的第一层相关联的第一组前向传递和第一组反向传递后，当梯度对更新与第一层相关联的参数可用时，发起与第一层相关联的参数的更新，而无需等待计算与L个层中的其余任何层相关联的梯度。

公开(公告)号：CN115280326A

公开(公告)日：2022-11-01

申请号：CN202180020563.5

申请日：2021-01-20

Applicant: 微软技术许可有限责任公司

Inventor： S·S·巴拉德瓦杰 ,  B·普迪佩迪 ,  M·特雷布莱

IPC: G06N3/04

Abstract: 本文公开了改进的基于卷积神经网络的机器学习模型。卷积神经网络被配置为将基于要分类的数据项生成的特征图进行分解。特征图被分解为第一子集和第二子集。第一子集表示数据项的高频分量，并且第二子集表示数据项的低频分量。第二子集被上采样并与第一子集组合。将组合特征图与滤波器卷积，以提取与数据项相关联的一个特征集。第一子集也被下采样并与第二子集组合。将组合特征图与滤波器卷积，以提取另一特征集。基于卷积操作提取的特征集来分类数据项。