公开(公告)号：CN119250108B

公开(公告)日：2025-03-04

申请号：CN202411765259.5

申请日：2024-12-04

Applicant: 联通在线信息科技有限公司

Inventor： 肖清 ,  王振波 ,  郭熹 ,  张振字 ,  罗刚 ,  张立业 ,  熊梅艳

IPC: G06N3/006 ,  G06N5/01 ,  G06N5/04 ,  G06F18/10 ,  G06F18/214 ,  G06F18/243

Abstract: 本发明涉及行业智能体自动微调方法、装置、电子设备及存储介质，该方法包括：对行业数据进行预处理。采用思维链和思维树构建初始指令响应对，通过投机推理根据初始指令响应对生成包含多个步骤的第一指令响应对，对每个步骤进行校验。通过指令编码器从第一指令响应对中抽取元知识，通过元知识引导指令编码器生成第二指令响应对。对第二指令响应对进行评估，获取第二指令响应对的评估分数，去除评估分数低于第一阈值的第二指令响应对。通过相似度判别将差异度超过第二阈值的第二指令响应对加入微调数据集，丢弃差异度低于第二阈值的第二指令响应对。基于微调数据集中的第二指令响应对结合行业数据的指令数据集对面向行业应用的语言模型进行微调。

公开(公告)号：CN119250108A

公开(公告)日：2025-01-03

申请号：CN202411765259.5

申请日：2024-12-04

Applicant: 联通在线信息科技有限公司

Inventor： 肖清 ,  王振波 ,  郭熹 ,  张振字 ,  罗刚 ,  张立业 ,  熊梅艳

IPC: G06N3/006 ,  G06N5/01 ,  G06N5/04 ,  G06F18/10 ,  G06F18/214 ,  G06F18/243

Abstract: 本发明涉及行业智能体自动微调方法、装置、电子设备及存储介质，该方法包括：对行业数据进行预处理。采用思维链和思维树构建初始指令响应对，通过投机推理根据初始指令响应对生成包含多个步骤的第一指令响应对，对每个步骤进行校验。通过指令编码器从第一指令响应对中抽取元知识，通过元知识引导指令编码器生成第二指令响应对。对第二指令响应对进行评估，获取第二指令响应对的评估分数，去除评估分数低于第一阈值的第二指令响应对。通过相似度判别将差异度超过第二阈值的第二指令响应对加入微调数据集，丢弃差异度低于第二阈值的第二指令响应对。基于微调数据集中的第二指令响应对结合行业数据的指令数据集对面向行业应用的语言模型进行微调。