-
公开(公告)号：CN119476482A
公开(公告)日：2025-02-18
申请号：CN202411521465.1
申请日：2024-10-29
Applicant: 中国科学院自动化研究所
Abstract: 本发明提供一种针对大型语言模型的毒性思维链分析和优化方法及装置，方法包括：获取问题文本输入到大语言模型进行文本问答；通过归因追踪分析生成毒性思维链时存在的推理漂移信息损失，或者通过因果追踪分析根据毒性思维链生成回答文本时存在的回答偏移信息损失；当分析出存在推理漂移信息损失时，对毒性思维链进行残差解码得到优化思维链，当分析出存在回答漂移信息损失时，在思维链文本片段中，将问题文本与毒性思维链进行文本序列位置交换，得到优化文本序列，以使大语言模型基于优化思维链或优化文本序列，生成回答文本。通过本申请，克服在问答场景中，大语言模型毒性思维链的优化方法不能普遍适应，导致推理性能低下的缺陷。
-
公开(公告)号：CN113761925A
公开(公告)日：2021-12-07
申请号：CN202110837136.8
申请日：2021-07-23
Applicant: 中国科学院自动化研究所
IPC: G06F40/295 , G06F40/216 , G06K9/62
Abstract: 本发明提供一种基于噪声感知机制的命名实体识别方法、装置及设备，其中方法包括：确定待识别文本；将待识别文本输入至命名实体识别模型，得到命名实体识别模型输出的识别结果；命名实体识别模型是基于干净样本集合训练得到的，干净样本集合是基于原始样本集合中各样本文本的训练统计量，对原始样本集合进行噪声筛除得到的，训练统计量是在基于样本文本进行训练过程中统计的预测结果和标签之间的差异。本发明提供的方法、装置、电子设备和存储介质，能够通过获取待识别文本的识别结果，根据识别结果对待识别文本进行命名实体类型判定，克服了命名实体识别数据集中正确样本和噪声样本难以区分的问题，实现了待识别文本的命名实体类型的精确识别。
-
公开(公告)号：CN110941955A
公开(公告)日：2020-03-31
申请号：CN201911167293.1
申请日：2019-11-25
Applicant: 中国科学院自动化研究所
IPC: G06F40/211 , G06F40/30 , G06N3/04 , G06N3/08 , G06K9/62
Abstract: 本发明涉及自然语言处理技术领域，具体涉及一种跨语言事件分类方法和装置。为了解决现有技术极大依赖高质量的机器翻译系统或者大规模的平行语料的问题，本发明提出一种跨语言事件分类方法，该方法包括从预先获取的目标语言的语料中获取所述目标语言对应的第一向量；从预先获取的源语言的语料中获取所述源语言对应的第二向量；根据所述第一向量和所述第二向量构建所述目标语言和所述源语言的映射关系；根据所述映射关系并通过对抗学习网络将所述源语言映射为所述目标语言；基于所述目标语言并通过所述事件类型分类器对所述目标语言对应的事件进行分类。利用本发明的方法和装置能够提高对事件识别的准确率。
-
公开(公告)号：CN107688583A
公开(公告)日：2018-02-13
申请号：CN201610640647.X
申请日：2016-08-05
Applicant: 株式会社NTT都科摩 , 中国科学院自动化研究所
Abstract: 本发明涉及一种创建用于自然语言处理装置的训练数据的方法和设备，以及利用该训练数据的自然语言处理装置。一种创建用于自然语言处理系统的训练数据的方法，包括：接收创建所述训练数据的请求；获得用于创建所述训练数据的自然语言语料库输入；确定所述训练数据所需的分包参数；基于所述分包参数，将所述自然语言语料库输入分为多个包，所述多个包的每个包括多个示例；对于所述多个示例的每一个，自动提取句子级特征向量，其中，具有所述句子级特征向量的所述多个包作为所述训练数据。
-
公开(公告)号：CN119168055A
公开(公告)日：2024-12-20
申请号：CN202411051838.3
申请日：2024-08-01
Applicant: 中国科学院自动化研究所 , 上海人工智能创新中心
IPC: G06N5/04 , G06N5/045 , G06N5/022 , G06F16/9032
Abstract: 本发明提供一种基于知识库与语言模型的问答方法及装置，该方法包括：将目标问题输入至知识生成模型中输出至少一维目标知识信息；将根据目标问题和各维目标知识信息获取的目标输入信息输入至问答模型中，得到目标问题对应的答案预测信息；知识生成模型是基于知识库中的第一知识元组生成的第一候选问题、根据第一候选问题以及知识库中的第二知识元组生成的第二候选问题、根据第一知识元组转换的第一样本知识信息和通过大型语言模型对第二候选问题进行提示信息学习得到的第二样本知识信息，对小型语言模型进行训练的。本发明融合知识库与语言模型训练出可生成高质量知识信息，且小尺寸的知识生成模型，以便捷、高效地预测出高精度的答案。
-
Patent Agency Ranking
公开(公告)号：CN118377870A
公开(公告)日：2024-07-23
申请号：CN202410423509.0
申请日：2024-04-09
Applicant: 中国科学院自动化研究所
IPC: G06F16/332 , G06F18/22 , G06F18/214
Abstract: 本发明提供一种基于大语言模型指导的无监督对话检索器的训练方法，方法包括：获取样本对话查询数据，以及初始对话检索器；基于初始对话检索器，生成样本对话查询数据的回复参考文档；基于大语言模型，确定样本对话查询数据与回复参考文档之间的相关性结果；基于相关性结果，指导初始对话检索器进行参数迭代，直至得到最终的对话检索器。本发明提供的方法，借助于大语言模型零样本泛化能力，将大语言模型的知识理解能力应用到得到样本对话数据与回复参考文档之间的相关性结果的任务上，提升了初始检索器的训练效率。并且，可以使得对话检索器具备大语言模型强大的对话理解能力，同时也提升了对话检索器的对话理解能力和检索性能。
-
公开(公告)号：CN115618863A
公开(公告)日：2023-01-17
申请号：CN202211643975.7
申请日：2022-12-20
Applicant: 中国科学院自动化研究所 , 国网天津市电力公司 , 国家电网有限公司
IPC: G06F40/284 , G06F40/30
Abstract: 本发明实施例提供一种文本事件序列生成方法、装置、设备和存储介质，属于文本处理技术领域，该方法包括：获取目标文本的第一事件序列；第一事件序列为乱序和/或不完整的事件序列；将目标文本的第一事件序列输入文本事件序列生成模型，得到目标文本的目标事件序列；其中，文本事件序列生成模型是基于样本文本的目标事件序列、样本文本的第一事件序列和目标损失训练得到的；目标损失是基于样本文本的第一事件序列的事件向量和样本文本的预测事件序列的事件向量确定的。本发明实施例的方法从事件序列中的事件语义这个全局角度进行文本事件序列生成模型的训练，使得训练后的文本事件序列生成模型可以基于事件语义准确的进行文本事件序列的生成。
-
公开(公告)号：CN111858898A
公开(公告)日：2020-10-30
申请号：CN202010753509.9
申请日：2020-07-30
Applicant: 中国科学院自动化研究所 , 腾讯科技(深圳)有限公司
IPC: G06F16/332 , G06F40/211 , G06F40/289 , G06N3/04
Abstract: 本申请提供了一种基于人工智能的文本处理方法、装置、电子设备及计算机可读存储介质；方法包括：对文本中属于同一句子的多个词语进行特征提取处理，得到多个词语的特征表示，以作为句子的句子级信息；对文本中的多个句子进行特征提取处理，得到多个句子的特征表示，以作为文本级信息；从知识库中获取文本中属于同一句子的多个词语的设定特征表示，以作为句子的设定信息；针对文本中的每个词语，根据词语所在句子的句子级信息、文本级信息、以及词语所在句子的设定信息，更新词语的特征表示，并根据词语的更新后的特征表示进行类型预测处理，得到词语的预测类型。通过本申请，能够提升得到的预测类型的精度，进而能够提升问答服务的智能化程度。
-
公开(公告)号：CN108345583B
公开(公告)日：2020-07-28
申请号：CN201711463578.0
申请日：2017-12-28
Applicant: 中国科学院自动化研究所
Abstract: 本发明涉及自然语言处理技术领域，具体涉及一种基于多语注意力机制的事件识别及分类方法及装置，旨在为了解决单语特征识别效果不能满足需求的问题，本发明的方法包括：将仅标注单语事件信息的数据映射为多语平行数据；将所述多语平行数据进行词汇级别对齐，通过多语对齐关系得到同一事件在多种不同语言中的一致性表示；基于单语注意力模型获取多语一致性信息；基于多语注意力模型获取多语互补性信息；基于所述多语一致性信息和所述多语互补性信息进行联合推理，通过非线性神经网络判别模型输出最终的识别结果。本发明可以提高事件的识别效果。
-
公开(公告)号：CN110209816A
公开(公告)日：2019-09-06
申请号：CN201910440322.0
申请日：2019-05-24
Applicant: 中国科学院自动化研究所
Abstract: 本发明属于自然语言处理领域，具体涉及了一种基于对抗模仿学习的事件识别及分类方法、系统、装置，旨在解决传统事件识别及分类方法语言处理工具存在错误累计导致事件识别准确率低的问题。本发明方法包括：获取不含标准标注信息的句子并输入；将每一个词特征化后的词向量集构成词向量特征矩阵；采用向量编码器对词向量特征矩阵进行编码，并采用注意力机制为每一个词分配权重，获得知识向量；采用事件类型分类器依据知识向量计算输入信息属于各事件类别的概率；概率值最高的事件类别作为输入信息的事件类别。本发明不依赖自然语言处理工具对信息进行抽取，避免错误积累，提高了事件识别的准确率。
-
-
-
-
-
-
-
-
-
Search Results
46
records
(took 0.041 seconds)
