公开(公告)号：CN116757209A

公开(公告)日：2023-09-15

申请号：CN202310537748.4

申请日：2023-05-10

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 田雨露 ,  胡余润 ,  黄家栋

IPC: G06F40/295 ,  G06F40/284 ,  G06F16/35 ,  G06F16/958 ,  G06F18/214 ,  G06N3/0455 ,  G06N3/0464 ,  G06N3/08

Abstract: 本说明书实施例公开了一种数据处理及目标模型训练方法、装置、设备、介质及产品。其中，该数据处理方法包括：获取目标待处理数据，上述目标待处理数据包括目标待处理文本和/或目标待处理页面，将目标待处理数据输入目标模型中，得到目标待处理数据对应的目标双向关系，并基于目标双向关系输出目标待处理数据对应的目标数据处理结果，上述目标模型基于多条已知数据处理结果的数据进行训练得到，上述目标双向关系用于表征目标待处理数据中各词之间存在的指向关系。

公开(公告)号：CN117591872A

公开(公告)日：2024-02-23

申请号：CN202311366392.9

申请日：2023-10-20

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 田雨露 ,  顾嘉扬 ,  胡余润 ,  钟文亮

IPC: G06F18/214 ,  G06F18/25 ,  G06N5/01

Abstract: 本说明书实施例提供供给相关性预测模型训练方法、供给相关性预测方法及装置。在进行模型训练时，使用编码器层中的正常编码器对正样本数据中的供给进行供给编码以及使用动量更新编码器对负样本数据中的替换供给进行供给编码，并使用编码后的正样本数据和负样本数据来执行供给相关性预测任务和对比学习任务以得到损失函数。随后，使用所得到的损失函数更新正常编码器的模型参数，而动量更新编码器的模型参数通过动量更新机制来跟随正常编码器的模型参数的更新而更新。