公开(公告)号：CN114450681A

公开(公告)日：2022-05-06

申请号：CN202080067489.8

申请日：2020-06-18

Applicant: 微软技术许可有限责任公司

Inventor： 熊辰炎 ,  赵晨 ,  C·L·罗赛特 ,  P·N·本内特 ,  宋夏 ,  S·K·蒂瓦里

IPC: G06F16/903 ,  G06F16/93 ,  G06N3/04 ,  G06N3/08 ,  G06F16/901 ,  G06F16/33 ,  G06F16/31 ,  G06N5/02

Abstract: 本文档涉及使用诸如神经网络的框架的自然语言处理。一个示例方法涉及获取第一文档和第二文档，并且将注意力从第一文档传播到第二文档。该示例方法还涉及至少基于该传播来产生第二文档中的单独单词的上下文化的语义表示。上下文化的语义表示可以提供用于执行一个或多个自然语言处理操作的基础。

公开(公告)号：CN113544661A

公开(公告)日：2021-10-22

申请号：CN202080019154.9

申请日：2020-01-31

Applicant: 微软技术许可有限责任公司

Inventor： 张泓非 ,  宋夏 ,  熊辰炎 ,  C·L·罗赛特 ,  P·N·本内特 ,  N·E·克拉斯维尔 ,  S·K·蒂瓦里

IPC: G06F16/953 ,  G06F16/9032

Abstract: 本文描述了一种计算机实现的技术，该技术接收用户提交的输入表达，该输入表达具有达成某个目标的意图。然后，该技术使用经机器训练的意图编码器组件将输入表达映射成输入表达意图向量(IEIV)。IEIV对应于向量意图向量空间内与输入表达相关联的意图的分布式表示。然后，该技术利用意图向量来促进某个下游应用任务，诸如信息的检索。一些应用任务还使用邻居搜索组件来找到表达与输入表达相似意图的表达。训练系统基于如搜索引擎搜索日志中所记录的查询与用户点击之间的联系，来训练意图编码器组件。

公开(公告)号：CN113544661B

公开(公告)日：2024-07-02

申请号：CN202080019154.9

申请日：2020-01-31

Applicant: 微软技术许可有限责任公司

Inventor： 张泓非 ,  宋夏 ,  熊辰炎 ,  C·L·罗赛特 ,  P·N·本内特 ,  N·E·克拉斯维尔 ,  S·K·蒂瓦里

IPC: G06F16/953 ,  G06F16/9032

Abstract: 本文描述了一种计算机实现的技术，该技术接收用户提交的输入表达，该输入表达具有达成某个目标的意图。然后，该技术使用经机器训练的意图编码器组件将输入表达映射成输入表达意图向量(IEIV)。IEIV对应于向量意图向量空间内与输入表达相关联的意图的分布式表示。然后，该技术利用意图向量来促进某个下游应用任务，诸如信息的检索。一些应用任务还使用邻居搜索组件来找到表达与输入表达相似意图的表达。训练系统基于如搜索引擎搜索日志中所记录的查询与用户点击之间的联系，来训练意图编码器组件。