无乘法器稀疏深度神经网络
    1.
    发明公开

    公开(公告)号:CN117897707A

    公开(公告)日:2024-04-16

    申请号:CN202280059837.6

    申请日:2022-09-01

    Inventor: 秋浓俊昭

    Abstract: 深度神经网络(DNN)已经被用于各种应用,以提供推理、回归、分类和预测。尽管在文献中已经成功地证明了DNN的高潜力,但是由于大量的乘法‑累加(MAC)运算,大多数DNN需要高计算复杂度和高功率操作来用于实时处理。本发明提供了一种利用基于2的幂次方(PoT)权重的凑整‑累加(RAC)运算操作来实现硬件友好的无MAC的DNN框架的方式。该方法和系统基于这样的实现,即,用于2的幂次方展开式的凑整感知训练可以从系统中消除对乘法器组件的需要,而不会导致任何性能损失。另外,该方法和系统提供了一种基于使用超参数化DNN的渐进压缩的知识蒸馏来减少PoT权重的数量的方式。对于诸如微处理器和现场可编程门阵列的资源有限的硬件实现,它可以实现高压缩,从而导致功率高效的推理。在强化学习框架中,利用附加的DNN模型来对压实级别进行优化。凑整粒度也被连续递减,并且获得混合阶次的PoT权重来用于低功率处理。另一学生模型也被并行地设计用于知识蒸馏,以找到性能与复杂度之间的Pareto最优折衷。

    用于适应性缩放的人工神经网络中的非均匀正则化

    公开(公告)号:CN115485697A

    公开(公告)日:2022-12-16

    申请号:CN202180032254.X

    申请日:2021-02-19

    Inventor: 王也 秋浓俊昭

    Abstract: 提供了一种用于人工神经网络的灵活正则化和适应性缩放的系统。该系统包括:存储器,其存储人工神经网络和训练数据;处理器和接口,其将信号和训练数据提交给具有一系列层的神经网络,各个层包括神经元节点的集合,其中,来自邻近层的一对节点与多个可训练参数相互连接以将信号从前一层传递到下一层;随机数发生器,其遵循跨神经网络的层深度方向和节点宽度方向的多维分布以随机方式修改各个神经元节点的输出信号以进行正则化,其中,至少一层跨神经元节点具有非恒等剖面;训练算子,其使用训练数据更新神经网络参数,使得神经网络的输出在多个目标函数中提供更好的值;以及自适应截断器,其对压缩大小的神经网络中的各个层的神经元节点的输出进行剪枝,以在针对任何新的传入数据的下游测试阶段降低运行中的计算复杂度。

    通信系统及用于通信比特符号的方法

    公开(公告)号:CN113424467A

    公开(公告)日:2021-09-21

    申请号:CN201980091338.3

    申请日:2019-10-07

    Abstract: 一种通信系统包括:接收比特块的数据源、处理器、与处理器连接的存储器,存储器存储与概率质量函数(PMF)相关联的分布匹配器,该分布匹配器被配置为使用处理器将等可能输入比特块匹配至具有根据所述分布匹配器的PMF分布的值的固定数量的输出比特。在这种情况下,分布匹配器包含完全指定目标PMF的并行二元分布匹配器的集合、以及发送器前端,该发送器前端经由通信信道发送整形比特块,使得整形比特块的序列中的比特根据所述目标PMF而分布。

    编码器和光发送器
    6.
    发明公开

    公开(公告)号:CN111788808A

    公开(公告)日:2020-10-16

    申请号:CN201880090369.2

    申请日:2018-12-28

    Abstract: 用于从符号生成光数据码的编码器执行符号映射和编码,其中符号映射执行:提供具有第一振幅环和第二振幅环的第一星座格式,第一振幅环和第二振幅环具有对应于相位角的圆形网格;提供具有第一振幅环和第二振幅环的第二星座格式,第一振幅环和第二振幅环具有对应于相位角的圆形网格;将符号的第一部分应用于第一星座格式和第二星座格式之一,以通过具有圆形网格之一的第一振幅环和第二振幅环之一来表示符号的第一部分;将符号的第二部分应用于第一星座格式和第二星座格式中的另一个,以通过具有圆形网格之一的第一振幅环和第二振幅环之一来表示符号的第二部分。第一星座图和第二星座图能够以三种不同方式映射到子载波调制。

    用于通过光超级信道传输数据的方法、发送器以及系统

    公开(公告)号:CN106464438B

    公开(公告)日:2019-12-06

    申请号:CN201580031195.9

    申请日:2015-05-26

    Abstract: 一种用于通过光超级信道传输数据的方法将数据不均等地分割成用于通过超级信道的一组子信道传输的一组数据流,使得用于通过第一子信道传输的第一数据流的大小不同于用于通过第二子信道传输的数据的第二数据流的大小。该方法使用具有不同纠错码(ECC)速率的ECC来对数据的每个数据流进行编码,以产生一组编码数据流,并且通过超级信道的一组子信道同时传输该组编码数据流。因此,该方法针对光超级信道使用自适应ECC,使得用于对第一数据流编码的第一ECC速率不同于用于对第二数据流编码的第二ECC速率。

    对光信号进行解码的方法和接收器

    公开(公告)号:CN107431538B

    公开(公告)日:2019-11-15

    申请号:CN201680016237.6

    申请日:2016-03-09

    Abstract: 一种方法对通过光信道从发送器向接收器发送的光信号进行解码。接收器接收所发送的光信号,以产生包括数据符号和导频符号的数字信号,并且在忽略接收到的导频符号的相位与所发送的导频符号的相位之间的误差的同时,基于接收到的导频符号的振幅与所发送的导频符号的振幅之间的误差确定滤波系数。所发送的导频符号的振幅和相位在发送器和接收器处已知。接收器根据滤波系数对数字信号进行滤波,以产生具有经均衡的振幅和非约束的相位的经滤波的信号,对经滤波的信号进行解调和解码,以产生对所发送的光信号的估计。

    复合光合波器
    10.
    发明授权

    公开(公告)号:CN106094115B

    公开(公告)日:2019-09-24

    申请号:CN201610696132.1

    申请日:2014-04-22

    Abstract: 本发明涉及复合光合波器。用于合并多个光信号的复合光合波器包括一组合波器。这组合波器包括至少一个偏振合波器,该偏振合波器光学地连接到至少一个非偏振合波器。非偏振合波器合并第一组输入信号并同时保持在第一组信号中的各个输入信号的偏振。偏振合波器合并第二组输入信号并同时变换在第二组信号中的至少一个输入信号的偏振。

Patent Agency Ranking