一种基于医疗知识图谱的LLM模型微调方法及相关设备

    公开(公告)号:CN119294486A

    公开(公告)日:2025-01-10

    申请号:CN202411297642.2

    申请日:2024-09-14

    Abstract: 本说明书提供了一种基于医疗知识图谱的LLM模型微调方法及相关设备。该方法包括:获取与目标应用场景相关的知识图谱的结构信息;结构信息包含知识图谱中预定义的多个实体类型和多个实体类型之间的关系;基于结构信息生成与目标应用场景相关的推理任务对应的问题模版和回答路径模版;问题模版包含与问题对象对应的第一实体类型;回答路径模版包含:由与问题对象对应的第一实体类型、与问题答案对应的第二实体类型,以及第一实体类型和第二实体类型之间的关系构成的图谱路径;基于问题模版和回答路径模版生成问答样本对,并基于问答样本对,对预训练完成的LLM基础模型进一步执行微调训练,得到用于执行推理任务的LLM服务模型。

    一种基于医疗知识图谱的LLM模型推理方法及相关设备

    公开(公告)号:CN118095449B

    公开(公告)日:2024-08-06

    申请号:CN202410518459.4

    申请日:2024-04-26

    Inventor: 杨丹 申月 顾进杰

    Abstract: 本说明书提供了一种基于医疗知识图谱的LLM模型推理方法及相关设备。知识图谱包含多个节点和连接节点的边,所述节点代表实体,所述边代表实体之间的关系。该方法包括:获取用户输入的目标文本,并确定所述目标文本中是否包含与所述知识图谱中的节点对应的实体;如果是,则在所述知识图谱中查找出与所述实体相关的子图;其中,所述子图中包含与所述实体对应的节点,以及经由若干条边与该节点连接的多个邻居节点;对所述子图进行特征提取,得到与所述目标文本相关的辅助信息;根据所述辅助信息和所述目标文本构建提示词,并将所述提示词输入至所述LLM模型中,由所述LLM模型基于所述提示词执行逻辑推理,输出与所述目标文本对应的推理结果。

    基于医疗知识图谱的答案生成方法及装置

    公开(公告)号:CN118132729A

    公开(公告)日:2024-06-04

    申请号:CN202410519666.1

    申请日:2024-04-28

    Abstract: 本说明书实施例提供一种基于医疗知识图谱的答案生成方法及装置,可以结合知识图谱为用户问题生成答案。具体地,从用户问题中识别出候选实体,然后根据候选实体从知识图谱中获取相应的候选三元组集。进一步地,利用预先训练的判别模型判断召回的三元组集是否可以用于用户问题对应的信息,并根据判别结果为用户问题生成相应答案。如此,可以灵活利用知识图谱数据,提高所生成的答案的准确性。

    训练用户兴趣挖掘模型、用户兴趣挖掘的方法和装置

    公开(公告)号:CN113408706A

    公开(公告)日:2021-09-17

    申请号:CN202110747531.7

    申请日:2021-07-01

    Abstract: 本说明书实施例提供一种训练用户兴趣挖掘模型、用户兴趣挖掘的方法和装置,方法包括:获取多个样本用户构成的关系网络图,关系网络图中具有社交关系的两个样本用户之间具有连接边;根据用户的行为日志特征,确定其初始用户表征向量;将多个样本用户分别对应的初始用户表征向量和关系网络图输入所述图神经网络,得到目标用户的融合用户表征向量;将多个样本用户分别对应的融合用户表征向量输入兴趣分布预测网络,得到各样本用户分别对应的兴趣分布参数;调整网络参数,使得兴趣分布参数所表征的预测兴趣分布与已知的用户兴趣先验分布之间的分布差异减小。对于不活跃的用户,也能有效挖掘用户兴趣。

    一种医疗LLM模型微调方法及相关设备

    公开(公告)号:CN119128086A

    公开(公告)日:2024-12-13

    申请号:CN202411175813.4

    申请日:2024-08-23

    Abstract: 本说明书提供了一种医疗LLM模型微调方法及相关设备。该方法包括:获取与目标应用场景相关的数据集;所述数据集包括单轮问答样本,所述单轮问答样本包含问题文本和与所述问题文本对应的回答文本;获取基于与所述目标应用场景相关的多轮对话任务的任务需求,构建的与所述多轮对话任务对应的多轮对话规则,并将所述单轮问答样本转换为符合所述多轮对话规则的多轮对话样本;基于所述多轮对话样本对预训练完成的LLM基础模型进一步执行微调训练,得到基于所述多轮对话规则执行所述多轮对话任务的LLM服务模型。

    一种基于医疗知识图谱的LLM模型推理方法及相关设备

    公开(公告)号:CN118674055A

    公开(公告)日:2024-09-20

    申请号:CN202410942631.9

    申请日:2024-04-26

    Inventor: 杨丹 申月 顾进杰

    Abstract: 本说明书提供了一种基于医疗知识图谱的LLM模型推理方法及相关设备。知识图谱包含多个节点和连接节点的边,所述节点代表实体,所述边代表实体之间的关系。该方法包括:获取用户输入的目标文本,并确定所述目标文本中是否包含与所述知识图谱中的节点对应的实体;如果是,则在所述知识图谱中查找出与所述实体相关的子图;其中,所述子图中包含与所述实体对应的节点,以及经由若干条边与该节点连接的多个邻居节点;对所述子图进行特征提取,得到与所述目标文本相关的辅助信息;根据所述辅助信息和所述目标文本构建提示词,并将所述提示词输入至所述LLM模型中,由所述LLM模型基于所述提示词执行逻辑推理,输出与所述目标文本对应的推理结果。

    医疗知识图谱的数据扩展方法及装置

    公开(公告)号:CN118133957A

    公开(公告)日:2024-06-04

    申请号:CN202410545062.4

    申请日:2024-04-30

    Inventor: 杨丹 申月 顾进杰

    Abstract: 本说明书实施例提供一种医疗知识图谱的数据扩展方法及装置,在针对知识图谱进行数据扩展时,可以针对当前实体词,获取其在候选语料库中对应的语料数据集,并利用不同丰富程度的提示信息和相应的连接关系,经由大模型从语料数据集中召回多个候选实体词加入候选词集,然后,对候选词集中各个候选实体词进行打分,基于打分结果确定候选实体词作为目标实体词,目标实体词可与当前实体词、相应连接关系构成扩展三元组,用于知识图谱扩展。如此,可以提高知识图谱扩展数据召回的准确性和效率。

    一种基于医疗知识图谱的LLM模型推理方法及相关设备

    公开(公告)号:CN118095449A

    公开(公告)日:2024-05-28

    申请号:CN202410518459.4

    申请日:2024-04-26

    Inventor: 杨丹 申月 顾进杰

    Abstract: 本说明书提供了一种基于医疗知识图谱的LLM模型推理方法及相关设备。知识图谱包含多个节点和连接节点的边,所述节点代表实体,所述边代表实体之间的关系。该方法包括:获取用户输入的目标文本,并确定所述目标文本中是否包含与所述知识图谱中的节点对应的实体;如果是,则在所述知识图谱中查找出与所述实体相关的子图;其中,所述子图中包含与所述实体对应的节点,以及经由若干条边与该节点连接的多个邻居节点;对所述子图进行特征提取,得到与所述目标文本相关的辅助信息;根据所述辅助信息和所述目标文本构建提示词,并将所述提示词输入至所述LLM模型中,由所述LLM模型基于所述提示词执行逻辑推理,输出与所述目标文本对应的推理结果。

Patent Agency Ranking