存储器装置和由其执行的操作方法

    公开(公告)号:CN119889398A

    公开(公告)日:2025-04-25

    申请号:CN202411183941.3

    申请日:2024-08-27

    Abstract: 公开了存储器装置和由其执行的操作方法。存储器装置包括:第一标量寄存器堆,存储第一输入片段;第二标量寄存器堆,存储第二输入片段;算术逻辑单元(ALU);以及控制电路。所述控制电路被配置为:基于从主机接收的第一操作命令,使用ALU执行第一输入片段与第一权重片段之间的第一运算,并且基于从主机接收的第二操作命令,使用ALU执行第二输入片段与第二权重片段之间的第二运算。

    电子装置和用于推断的方法
    4.
    发明公开

    公开(公告)号:CN116090507A

    公开(公告)日:2023-05-09

    申请号:CN202210985760.7

    申请日:2022-08-17

    Abstract: 提供了电子装置和用于推断的方法。所述电子装置包括:处理器,被配置为:通过实现包括多个编码器和多个解码器的转换模型来执行推断;以及存储器,被配置为:存储将由处理器执行的指令。编码器和解码器中的每个包括注意力块,注意力块确定注意力值。处理器被配置为:在注意力块中逐区块执行第一子柔性最大操作;基于第一子柔性最大操作的结果值来执行缩减操作以确定调整因子;并且基于缩减操作的结果值来逐区块执行第二子柔性最大操作。

Patent Agency Ranking