-
公开(公告)号:CN110520856A
公开(公告)日:2019-11-29
申请号:CN201880025244.1
申请日:2018-04-06
Applicant: 微软技术许可有限责任公司
IPC: G06F15/80 , G06F12/0862 , G06F9/50
Abstract: 神经网络(NN)的性能可能会受到所执行的操作的数目的限制。使用涉及将存储器块移位所选择的移位步幅以用于协作神经元的线缓冲器,可以像在单个线缓冲器写入周期中那样处理可操作地驻留在存储器中并且需要向协作线缓冲器中的多个写入周期的数据,从而增强了NN/DNN的性能。控制器和/或迭代器可以生成具有用于与线缓冲器通信的存储器块移位值的一个或多个指令。移位值可以使用输入数据的各种特性以及包括数据维度在内的NN/DNN来计算。线缓冲器可以读取数据以进行处理,移位存储器块的数据,并且将数据写入线缓冲器中以进行后续处理。
-
公开(公告)号:CN110506260A
公开(公告)日:2019-11-26
申请号:CN201880024892.5
申请日:2018-04-06
Applicant: 微软技术许可有限责任公司
IPC: G06F15/80
Abstract: 神经网络(NN)和/或深度神经网络(DNN)的性能可能会受到被执行的操作的数量以及NN/DNN的各种存储器组件之间的数据管理的限制。通过在输入数据中插入选择的填充以对齐存储器中的输入数据,数据读取/写入可以被优化以供NN/DNN处理,从而增强NN/DNN的整体性能。操作上,操作控制器/迭代器可以生成一个或多个指令,其将所选填充插入数据中。可以使用输入数据的各种特性以及NN/DNN以及协作存储器组件的特性来计算数据填充。输出数据上的填充可用于支持NN/DNN的存储器组件和协作处理单元处的数据对齐。
-