公开(公告)号：CN117390202A

公开(公告)日：2024-01-12

申请号：CN202311367609.8

申请日：2023-10-20

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 张祺深 ,  单虹毓 ,  孙晓洁 ,  毕可平 ,  范意兴 ,  郭嘉丰

IPC: G06F16/383 ,  G06F16/332 ,  G06F16/33 ,  G06F16/36

Abstract: 本说明书实施例提供文本对象表征模型训练方法、文本对象召回方法及装置。在进行模型训练时，将结构化文本对象的经过掩码处理后的内容文本提供给文本对象表征模型来执行内容掩码语言模型预测任务，得到内容掩码预测损失函数；将结构化文本对象的属性文本和经过掩码处理的内容文本提供给文本对象表征模型来执行属性到内容的掩码语言模型预测任务，得到属性‑内容掩码预测损失函数，在执行属性到内容的掩码语言模型预测任务时，使用结构化文本对象的属性文本作为上下文执行内容文本掩码预测。随后，根据内容掩码预测损失函数和属性‑内容掩码预测损失函数调整文本对象表征模型的模型参数。