-
公开(公告)号:CN119294486A
公开(公告)日:2025-01-10
申请号:CN202411297642.2
申请日:2024-09-14
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N5/022 , G06N5/04 , G06F16/3329 , G06F16/36
Abstract: 本说明书提供了一种基于医疗知识图谱的LLM模型微调方法及相关设备。该方法包括:获取与目标应用场景相关的知识图谱的结构信息;结构信息包含知识图谱中预定义的多个实体类型和多个实体类型之间的关系;基于结构信息生成与目标应用场景相关的推理任务对应的问题模版和回答路径模版;问题模版包含与问题对象对应的第一实体类型;回答路径模版包含:由与问题对象对应的第一实体类型、与问题答案对应的第二实体类型,以及第一实体类型和第二实体类型之间的关系构成的图谱路径;基于问题模版和回答路径模版生成问答样本对,并基于问答样本对,对预训练完成的LLM基础模型进一步执行微调训练,得到用于执行推理任务的LLM服务模型。
-
公开(公告)号:CN118095449B
公开(公告)日:2024-08-06
申请号:CN202410518459.4
申请日:2024-04-26
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N5/045 , G06N5/046 , G06N5/02 , G06F40/295 , G06F16/36
Abstract: 本说明书提供了一种基于医疗知识图谱的LLM模型推理方法及相关设备。知识图谱包含多个节点和连接节点的边,所述节点代表实体,所述边代表实体之间的关系。该方法包括:获取用户输入的目标文本,并确定所述目标文本中是否包含与所述知识图谱中的节点对应的实体;如果是,则在所述知识图谱中查找出与所述实体相关的子图;其中,所述子图中包含与所述实体对应的节点,以及经由若干条边与该节点连接的多个邻居节点;对所述子图进行特征提取,得到与所述目标文本相关的辅助信息;根据所述辅助信息和所述目标文本构建提示词,并将所述提示词输入至所述LLM模型中,由所述LLM模型基于所述提示词执行逻辑推理,输出与所述目标文本对应的推理结果。
-
公开(公告)号:CN118132729A
公开(公告)日:2024-06-04
申请号:CN202410519666.1
申请日:2024-04-28
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/332 , G06N5/022 , G16H10/00 , G06F40/30
Abstract: 本说明书实施例提供一种基于医疗知识图谱的答案生成方法及装置,可以结合知识图谱为用户问题生成答案。具体地,从用户问题中识别出候选实体,然后根据候选实体从知识图谱中获取相应的候选三元组集。进一步地,利用预先训练的判别模型判断召回的三元组集是否可以用于用户问题对应的信息,并根据判别结果为用户问题生成相应答案。如此,可以灵活利用知识图谱数据,提高所生成的答案的准确性。
-
公开(公告)号:CN116361554A
公开(公告)日:2023-06-30
申请号:CN202310338774.4
申请日:2023-03-31
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/9535 , G06F16/9537 , G06F16/36 , G06F16/33 , G06Q30/0601 , G06F40/30 , G06N3/04 , G06N3/08
Abstract: 本说明书实施例提供人群定向方法、实体知识图谱生成方法、对象推广方法及装置。在进行人群定向时,对待推广对象的对象描述进行实体提取。使用实体知识图谱来对所提取的实体进行基于图谱推理的实体扩展。随后,根据经过扩展后的实体和用户实体偏好度,确定待推广对象的目标人群。
-
公开(公告)号:CN113408706A
公开(公告)日:2021-09-17
申请号:CN202110747531.7
申请日:2021-07-01
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种训练用户兴趣挖掘模型、用户兴趣挖掘的方法和装置,方法包括:获取多个样本用户构成的关系网络图,关系网络图中具有社交关系的两个样本用户之间具有连接边;根据用户的行为日志特征,确定其初始用户表征向量;将多个样本用户分别对应的初始用户表征向量和关系网络图输入所述图神经网络,得到目标用户的融合用户表征向量;将多个样本用户分别对应的融合用户表征向量输入兴趣分布预测网络,得到各样本用户分别对应的兴趣分布参数;调整网络参数,使得兴趣分布参数所表征的预测兴趣分布与已知的用户兴趣先验分布之间的分布差异减小。对于不活跃的用户,也能有效挖掘用户兴趣。
-
公开(公告)号:CN119128086A
公开(公告)日:2024-12-13
申请号:CN202411175813.4
申请日:2024-08-23
Applicant: 浙江大学 , 支付宝(杭州)信息技术有限公司
IPC: G06F16/332 , G06F18/214
Abstract: 本说明书提供了一种医疗LLM模型微调方法及相关设备。该方法包括:获取与目标应用场景相关的数据集;所述数据集包括单轮问答样本,所述单轮问答样本包含问题文本和与所述问题文本对应的回答文本;获取基于与所述目标应用场景相关的多轮对话任务的任务需求,构建的与所述多轮对话任务对应的多轮对话规则,并将所述单轮问答样本转换为符合所述多轮对话规则的多轮对话样本;基于所述多轮对话样本对预训练完成的LLM基础模型进一步执行微调训练,得到基于所述多轮对话规则执行所述多轮对话任务的LLM服务模型。
-
公开(公告)号:CN118674055A
公开(公告)日:2024-09-20
申请号:CN202410942631.9
申请日:2024-04-26
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N5/045 , G06N5/046 , G06N5/02 , G06F40/295 , G06F16/36
Abstract: 本说明书提供了一种基于医疗知识图谱的LLM模型推理方法及相关设备。知识图谱包含多个节点和连接节点的边,所述节点代表实体,所述边代表实体之间的关系。该方法包括:获取用户输入的目标文本,并确定所述目标文本中是否包含与所述知识图谱中的节点对应的实体;如果是,则在所述知识图谱中查找出与所述实体相关的子图;其中,所述子图中包含与所述实体对应的节点,以及经由若干条边与该节点连接的多个邻居节点;对所述子图进行特征提取,得到与所述目标文本相关的辅助信息;根据所述辅助信息和所述目标文本构建提示词,并将所述提示词输入至所述LLM模型中,由所述LLM模型基于所述提示词执行逻辑推理,输出与所述目标文本对应的推理结果。
-
公开(公告)号:CN118378099A
公开(公告)日:2024-07-23
申请号:CN202410612144.6
申请日:2024-05-16
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种针对自然语言处理模型的数据召回方法及装置,针对待通过自然语言模型处理的第一信息,可以对其进行数据召回的预处理,以将召回的文本与第一信息一起经由自然语言处理模型进行处理,得到相应业务处理结果。在数据召回过程中,可以先从数据库中检索与第一信息相匹配的若干文本作为候选文本,然后利用预先训练的效用模型对各个候选文本进行有效性评估,以得到各个候选文本分别对应的各个效用分数,再针对各个候选文本,分别基于相应相似度和效用分数的融合得到相应的融合分数,并根据各个融合分数从候选文本中筛选出目标文本作为召回数据。如此,可以有效节约计算成本。
-
公开(公告)号:CN118133957A
公开(公告)日:2024-06-04
申请号:CN202410545062.4
申请日:2024-04-30
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N5/022 , G06F16/36 , G06F40/194 , G06F40/30 , G16H50/70
Abstract: 本说明书实施例提供一种医疗知识图谱的数据扩展方法及装置,在针对知识图谱进行数据扩展时,可以针对当前实体词,获取其在候选语料库中对应的语料数据集,并利用不同丰富程度的提示信息和相应的连接关系,经由大模型从语料数据集中召回多个候选实体词加入候选词集,然后,对候选词集中各个候选实体词进行打分,基于打分结果确定候选实体词作为目标实体词,目标实体词可与当前实体词、相应连接关系构成扩展三元组,用于知识图谱扩展。如此,可以提高知识图谱扩展数据召回的准确性和效率。
-
公开(公告)号:CN118095449A
公开(公告)日:2024-05-28
申请号:CN202410518459.4
申请日:2024-04-26
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N5/045 , G06N5/046 , G06N5/02 , G06F40/295 , G06F16/36
Abstract: 本说明书提供了一种基于医疗知识图谱的LLM模型推理方法及相关设备。知识图谱包含多个节点和连接节点的边,所述节点代表实体,所述边代表实体之间的关系。该方法包括:获取用户输入的目标文本,并确定所述目标文本中是否包含与所述知识图谱中的节点对应的实体;如果是,则在所述知识图谱中查找出与所述实体相关的子图;其中,所述子图中包含与所述实体对应的节点,以及经由若干条边与该节点连接的多个邻居节点;对所述子图进行特征提取,得到与所述目标文本相关的辅助信息;根据所述辅助信息和所述目标文本构建提示词,并将所述提示词输入至所述LLM模型中,由所述LLM模型基于所述提示词执行逻辑推理,输出与所述目标文本对应的推理结果。
-
-
-
-
-
-
-
-
-