Patent search ap:("微软技术许可有限责任公司") AND inv:"潘海峰" Page 1

1.

发明公开
机器学习模型的对抗预训练审中-实审

公开(公告)号：CN115485696A

公开(公告)日：2022-12-16

申请号：CN202180028886.9

申请日：2021-02-19

Applicant: 微软技术许可有限责任公司

Inventor： 刘晓东 , 程浩 , 王宇 , 高剑峰 , 陈伟柱 , 贺鹏程 , 潘海峰

IPC: G06N3/04 , G06N3/08

Abstract: 本文档涉及机器学习模型的训练。一种示例方法涉及提供具有一个或多个映射层的机器学习模型。一个或多个映射层可以至少包括第一映射层，第一映射层被配置为将预训练示例的分量映射到空间中的第一表示。该示例方法还包括使用预训练示例在一个或多个映射层上执行预训练阶段。预训练阶段可以包括将噪声添加到预训练示例的分量的第一表示以获得经噪声调整的第一表示。预训练阶段还可以包括执行自监督学习过程以至少使用训练数据项的第一表示和训练数据项的经噪声调整的第一表示来预训练一个或多个映射层。

Patent Agency Ranking