公开(公告)号：CN119647592A

公开(公告)日：2025-03-18

申请号：CN202411708934.0

申请日：2024-11-27

Applicant: 国家计算机网络与信息安全管理中心广东分中心

Inventor： 刁则鸣 ,  李博 ,  王珍 ,  刘瑞京 ,  林佳涛 ,  周神保 ,  曾鹏

IPC: G06N5/04 ,  G06F18/21 ,  G06F18/241 ,  G06F18/2431 ,  G06F18/25

Abstract: 本申请涉及计算机技术应用领域，具体涉及一种结构化预测任务中大模型幻觉的消除方法、设备及介质。本申请方案根据任务属性类别配置模型集合并行处理机制，将多路大模型结果合并到判别筛选引擎进行量化评估，通过调整引擎参数和预设阈值控制输出的期望，从而让任务的执行结果更符合实际需求。利用大模型幻觉本身具有的随机性，在出现幻觉的任务结果中，形成对大模型幻觉的自动化纠错能力，降低幻觉现象对预测任务的不良影响。进一步地，提供基于信息熵的可信度量计算及结果筛选优化方案，利用信息熵可以更好地筛选出与目标问题相关的特征，提升任务执行的效率，并消除了部分模型可能产生幻觉现象的影响，提升了任务执行结果的准确率。