用于训练自然语言处理模型的方法和计算机系统

    公开(公告)号:CN117454970A

    公开(公告)日:2024-01-26

    申请号:CN202310504541.7

    申请日:2023-05-06

    Abstract: 公开了用于训练自然语言处理模型的方法和计算机系统。所述方法包括:获取第一文本数据,使用第一文本数据训练变换器模型来生成教师模型;通过量化教师模型来生成学生模型;将教师模型的第一自注意力图插入到学生模型的第二自注意力图中,使用第二文本数据对插入了教师模型的第一自注意力图的学生模型执行第一量化学习;以及使用第三文本数据对被执行了第一量化学习的学生模型执行第二量化学习,使得学生模型的第二自注意力图跟随教师模型的第一自注意力图。

    存储模块、包括其的系统以及存储模块的操作方法

    公开(公告)号:CN115687193A

    公开(公告)日:2023-02-03

    申请号:CN202210821174.9

    申请日:2022-07-12

    Abstract: 提供了存储模块、包括其的系统以及存储模块的操作方法。所述存储模块包括设备存储器以及控制器,所述设备存储器被配置为存储数据,并且包括第一存储区域和第二存储区域,所述控制器包括加速器电路。所述控制器被配置为:控制所述设备存储器;响应于模式改变请求,向主机处理器发送用于从系统存储器映射排除所述第一存储区域的命令;并且修改存储配置寄存器,以从所述存储配置寄存器排除所述第一存储区域。所述加速器电路被配置为使用所述第一存储区域来执行加速操作。

    存储器模块及其操作方法
    13.
    发明公开

    公开(公告)号:CN113806248A

    公开(公告)日:2021-12-17

    申请号:CN202110575180.6

    申请日:2021-05-25

    Abstract: 一种存储器模块,包括:第一存储器器件;第二存储器器件;以及,处理缓存器电路,其被连接到第一存储器器件和第二存储器器件(彼此独立)以及主机。提供了一种处理缓存器电路,其包括处理电路和缓存器。处理电路基于从主机接收的处理命令,处理从主机接收的数据、存储在第一存储器器件中的数据、或存储在第二存储器器件中的数据中的至少一项。缓存器被配置为存储由处理电路处理的数据。处理缓存器电路被配置为,按照DDR SDRAM标准与主机通信。

Patent Agency Ranking