公开(公告)号：CN109863488A

公开(公告)日：2019-06-07

申请号：CN201780065887.4

申请日：2017-10-16

Applicant: 微软技术许可有限责任公司

Inventor： M·J·威尔森 ,  M·菲斯凯托 ,  J·伊索-西皮莱 ,  D·A·H·欧

IPC: G06F17/27 ,  G06N3/02

Abstract: 描述了一种电子设备，其具有用于接收项的序列中的至少一项的至少一个输入接口。所述电子设备能够与服务器进行通信，所述服务器存储神经网络以及生成所述神经网络的项嵌入的过程。所述电子设备具有存储器，该存储器存储有所述神经网络的副本和所述神经网络的多个项嵌入。在当电子设备处存在对应于所接收的至少一项的对应的项嵌入的不可用性时的情况下，所述电子设备触发对应的项嵌入从服务器向电子设备的传输。电子设备处的处理器通过利用所述神经网络的副本和所述多个项嵌入处理对应的项嵌入来预测所述序列中至少一个候选的下一项。

公开(公告)号：CN110036399A

公开(公告)日：2019-07-19

申请号：CN201780074004.6

申请日：2017-11-22

Applicant: 微软技术许可有限责任公司

Inventor： D·A·H·欧 ,  J·伊索-西皮莱 ,  M·菲斯凯托 ,  M·J·威尔森 ,  J·奥斯本

IPC: G06N3/02 ,  G06F17/27

Abstract: 描述了一种数据录入系统，其具有接收由用户输入的一个或多个上下文文本项的序列的用户接口。数据录入系统具有被训练用以预测序列中的接下来的项的预测器。预测器包括多个经学习的文本项嵌入，每个文本项嵌入表示数值式形式的文本项，文本项嵌入具有多个不同的长度。投射组件获得上下文文本项的文本项嵌入并将这些文本项嵌入投射为具有相同的长度。预测器包括经训练的神经网络，其被馈送所投射的文本项嵌入并且其计算与经预测的接下来的项相关联的数值式输出。

公开(公告)号：CN109863488B

公开(公告)日：2023-08-29

申请号：CN201780065887.4

申请日：2017-10-16

Applicant: 微软技术许可有限责任公司

Inventor： M·J·威尔森 ,  M·菲斯凯托 ,  J·伊索-西皮莱 ,  D·A·H·欧

IPC: G06F40/20 ,  G06N3/02

Abstract: 描述了一种电子设备，其具有用于接收项的序列中的至少一项的至少一个输入接口。所述电子设备能够与服务器进行通信，所述服务器存储神经网络以及生成所述神经网络的项嵌入的过程。所述电子设备具有存储器，该存储器存储有所述神经网络的副本和所述神经网络的多个项嵌入。在当电子设备处存在对应于所接收的至少一项的对应的项嵌入的不可用性时的情况下，所述电子设备触发对应的项嵌入从服务器向电子设备的传输。电子设备处的处理器通过利用所述神经网络的副本和所述多个项嵌入处理对应的项嵌入来预测所述序列中至少一个候选的下一项。

公开(公告)号：CN110023930A

公开(公告)日：2019-07-16

申请号：CN201780073753.7

申请日：2017-11-22

Applicant: 微软技术许可有限责任公司

Inventor： D·A·H·欧 ,  J·伊索-西皮莱 ,  M·菲斯凯托 ,  M·J·威尔森 ,  J·奥斯本

IPC: G06F17/27

Abstract: 描述了用于将文本项输入至电子设备的数据输入系统。所述数据输入系统具有保存文本项的嵌入的词汇表的存储单元，其中每个嵌入是对文本项的数值编码。数据输入系统接收用户输入，该用户输入包括一个或多个上下文文本项和新的文本项的序列，所述新的文本项是具有要被计算并且被添加至词汇表的嵌入或者具有已经在词汇表中并且要被更新的嵌入的文本项。神经网络预测器在已知上下文文本项和词汇表的情况下预测序列中的接下来的文本项。在线训练模块通过使用与所预测的接下来的项相关联的方向或者通过将所述新的文本项与所预测的接下来的文本项进行比较来预测接下来的文本项。

公开(公告)号：CN110036399B

公开(公告)日：2023-06-27

申请号：CN201780074004.6

申请日：2017-11-22

Applicant: 微软技术许可有限责任公司

Inventor： D·A·H·欧 ,  J·伊索-西皮莱 ,  M·菲斯凯托 ,  M·J·威尔森 ,  J·奥斯本

IPC: G06F40/274 ,  G06F16/31 ,  G06F16/332 ,  G06N3/048 ,  G06N3/047 ,  G06N3/084

Abstract: 描述了一种数据录入系统，其具有接收由用户输入的一个或多个上下文文本项的序列的用户接口。数据录入系统具有被训练用以预测序列中的接下来的项的预测器。预测器包括多个经学习的文本项嵌入，每个文本项嵌入表示数值式形式的文本项，文本项嵌入具有多个不同的长度。投射组件获得上下文文本项的文本项嵌入并将这些文本项嵌入投射为具有相同的长度。预测器包括经训练的神经网络，其被馈送所投射的文本项嵌入并且其计算与经预测的接下来的项相关联的数值式输出。

公开(公告)号：CN110023930B

公开(公告)日：2023-06-23

申请号：CN201780073753.7

申请日：2017-11-22

Applicant: 微软技术许可有限责任公司

Inventor： D·A·H·欧 ,  J·伊索-西皮莱 ,  M·菲斯凯托 ,  M·J·威尔森 ,  J·奥斯本

IPC: G06F3/023 ,  G06F40/216 ,  G06F40/274 ,  G06F40/284 ,  G06N3/084 ,  G06N3/044

Abstract: 描述了用于将文本项输入至电子设备的数据输入系统。所述数据输入系统具有保存文本项的嵌入的词汇表的存储单元，其中每个嵌入是对文本项的数值编码。数据输入系统接收用户输入，该用户输入包括一个或多个上下文文本项和新的文本项的序列，所述新的文本项是具有要被计算并且被添加至词汇表的嵌入或者具有已经在词汇表中并且要被更新的嵌入的文本项。神经网络预测器在已知上下文文本项和词汇表的情况下预测序列中的接下来的文本项。在线训练模块通过使用与所预测的接下来的项相关联的方向或者通过将所述新的文本项与所预测的接下来的文本项进行比较来预测接下来的文本项。