-
公开(公告)号:CN117642753A
公开(公告)日:2024-03-01
申请号:CN202280036502.2
申请日:2022-04-28
Applicant: 微软技术许可有限责任公司
Abstract: 一种计算机实现的方法,针对多个神经网络层中的每个神经网络层,获得基于神经网络模型的基础模型权重矩阵。首先向对应的基础模型权重矩阵添加低秩分解矩阵,以形成第一域模型。该低秩分解矩阵被视为可训练参数。利用第一域特定训练数据训练该第一域模型而不修改基础模型权重矩阵。
公开(公告)号:CN117642753A
公开(公告)日:2024-03-01
申请号:CN202280036502.2
申请日:2022-04-28
Applicant: 微软技术许可有限责任公司
Abstract: 一种计算机实现的方法,针对多个神经网络层中的每个神经网络层,获得基于神经网络模型的基础模型权重矩阵。首先向对应的基础模型权重矩阵添加低秩分解矩阵,以形成第一域模型。该低秩分解矩阵被视为可训练参数。利用第一域特定训练数据训练该第一域模型而不修改基础模型权重矩阵。