-
Patent Agency Ranking
公开(公告)号：CN114398500B
公开(公告)日：2022-09-09
申请号：CN202210112341.2
申请日：2022-01-29
Applicant: 哈尔滨工业大学
Abstract: 本发明公开了一种基于图增强预训练模型的事件预测方法，包括：获取事件序列，对事件序列进行预训练获得若干个编码向量，并对若干个编码向量进行聚合，获得事件序列的表示向量；基于事件序列的表示向量，获取事件序列中任两个事件的邻接关系；获取事理图谱，基于事理图谱获取事件的逻辑关系；基于任两个事件的邻接关系和事件的逻辑关系完成事件预测。采用事理图谱作为模型学习事件间关系模式的知识库，事理图谱是描述事件及其逻辑关系的图谱，其知识将为事件预测任务提供有力支撑，将预训练语言模型与图结构信息预测进行融合，既能利用预训练模型中的丰富语言学知识，充分理解各个事件的语义，能通过学习事理图谱结构变量实现图结构信息的预测。
-
公开(公告)号：CN115392218B
公开(公告)日：2023-06-20
申请号：CN202210837482.0
申请日：2022-07-15
Applicant: 哈尔滨工业大学
IPC: G06F40/211 , G06F40/253 , G06F40/295 , G06N3/0464 , G06N3/08
Abstract: 本申请公开了一种预训练语言模型的构建方法及系统，方法包括：获取认知语言数据；收录认知语言数据和眼动数据；根据认知语言数据诱导出细化的粒度的认知特征；将加权之后的各认知特征和眼动数据纳入BERT中进行训练，得到一种改进版本的预训练语言模型。本申请通过将人类的眼球运动轨迹捕捉数据与心理语言学关于人类语言学习的相关理论进行结合，并设计新的训练手段和方法，将这两者与预训练模型进行进一步融合，通过这一方法，能够使得预训练模型具有一定程度的人类认知特征，从而使得模型原本的模型更加优秀的任务表现。
-
公开(公告)号：CN114398500A
公开(公告)日：2022-04-26
申请号：CN202210112341.2
申请日：2022-01-29
Applicant: 哈尔滨工业大学
Abstract: 本发明公开了一种基于图增强预训练模型的事件预测方法，包括：获取事件序列，对事件序列进行预训练获得若干个编码向量，并对若干个编码向量进行聚合，获得事件序列的表示向量；基于事件序列的表示向量，获取事件序列中任两个事件的邻接关系；获取事理图谱，基于事理图谱获取事件的逻辑关系；基于任两个事件的邻接关系和事件的逻辑关系完成事件预测。采用事理图谱作为模型学习事件间关系模式的知识库，事理图谱是描述事件及其逻辑关系的图谱，其知识将为事件预测任务提供有力支撑，将预训练语言模型与图结构信息预测进行融合，既能利用预训练模型中的丰富语言学知识，充分理解各个事件的语义，能通过学习事理图谱结构变量实现图结构信息的预测。
-
公开(公告)号：CN115392218A
公开(公告)日：2022-11-25
申请号：CN202210837482.0
申请日：2022-07-15
Applicant: 哈尔滨工业大学
IPC: G06F40/211 , G06F40/253 , G06F40/295 , G06N3/04 , G06N3/08
Abstract: 本申请公开了一种预训练语言模型的构建方法及系统，方法包括：获取认知语言数据；收录认知语言数据和眼动数据；根据认知语言数据诱导出细化的粒度的认知特征；将加权之后的各认知特征和眼动数据纳入BERT中进行训练，得到一种改进版本的预训练语言模型。本申请通过将人类的眼球运动轨迹捕捉数据与心理语言学关于人类语言学习的相关理论进行结合，并设计新的训练手段和方法，将这两者与预训练模型进行进一步融合，通过这一方法，能够使得预训练模型具有一定程度的人类认知特征，从而使得模型原本的模型更加优秀的任务表现。
-
公开(公告)号：CN114462607A
公开(公告)日：2022-05-10
申请号：CN202210131870.7
申请日：2022-02-14
Applicant: 哈尔滨工业大学
Abstract: 本发明公开基于双曲空间的事理图谱增强的因果推理方法及系统，包括，获取事件对及事理图谱，基于事理图谱获取事件对的证据事件，将证据事件及事件对组成因果证据图，其中事件对包括原因事件和结果事件；将因果证据图转换为事件表示，对将事件表示从欧式空间映射到双曲空间中，获取双曲事件表示；对双曲事件表示进行有向因果推理，得到事件对最终嵌入，并对事件对最终嵌入进行计算，得到因果强度分数。通过上述技术方案，本发明能够提高因果推理的稳定性和可解释性。
-
-
-
-
Search Results
5
records
(took 0.056 seconds)
