-
公开(公告)号:CN115374777A
公开(公告)日:2022-11-22
申请号:CN202210485989.4
申请日:2022-05-06
Applicant: 三星电子株式会社 , 加利福尼亚大学董事会
Inventor: 大卫·菲利普·劳埃德·索斯利 , 金世训 , 沈晟 , 阿米尔·古拉米内贾德 , 约瑟夫·哈松 , 权祐奭
IPC: G06F40/284
Abstract: 公开了用于自然语言处理的方法和装置。所述方法使用多个子模型来训练所述自注意力模型;每个子模型接收词法单元的输入序列;每个词法单元的输入序列在每个子模型内被评分,以提供每个子模型的词法单元分数;每个子模型具有预定阈值分数。每个子模型从输入序列修剪具有低于子模型的预定阈值分数的分数的词法单元。每个子模型的修剪后的序列用作下一个子模型的输入序列。每个子模型的预定阈值分数不同。