基于规则累积的模型推理方法、装置及电子设备

    公开(公告)号:CN117057430B

    公开(公告)日:2024-01-09

    申请号:CN202311289797.7

    申请日:2023-10-08

    Applicant: 清华大学

    Inventor: 杨泽远 李鹏 刘洋

    Abstract: 本发明涉及人工智能领域,提供一种基于规则累积的模型推理方法、装置及电子设备,其中的方法包括:获取目标任务对应的模型推理结果;获取对模型推理结果的用户端反馈,用户端反馈包括模型推理结果对应的推理标签,以及目标任务对应的正确答案;基于用户端反馈,在预设规则库中检索目标任务对应的推理规则;根据推理规则,推理得到目标任务的正确推理结果。该方法通过额外提供规则引导,在无需微调的情况下,引导大语言模型逐渐适应当前场景的特定需求,实现了轻量级的模型优化,克服了现有模型推理方法需要耗费巨大时间/资源成本,且推理结果准确度不高的缺陷,提升了模型推理结果的准确度。

    基于规则累积的模型推理方法、装置及电子设备

    公开(公告)号:CN117057430A

    公开(公告)日:2023-11-14

    申请号:CN202311289797.7

    申请日:2023-10-08

    Applicant: 清华大学

    Inventor: 杨泽远 李鹏 刘洋

    Abstract: 本发明涉及人工智能领域,提供一种基于规则累积的模型推理方法、装置及电子设备,其中的方法包括:获取目标任务对应的模型推理结果;获取对模型推理结果的用户端反馈,用户端反馈包括模型推理结果对应的推理标签,以及目标任务对应的正确答案;基于用户端反馈,在预设规则库中检索目标任务对应的推理规则;根据推理规则,推理得到目标任务的正确推理结果。该方法通过额外提供规则引导,在无需微调的情况下,引导大语言模型逐渐适应当前场景的特定需求,实现了轻量级的模型优化,克服了现有模型推理方法需要耗费巨大时间/资源成本,且推理结果准确度不高的缺陷,提升了模型推理结果的准确度。

Patent Agency Ranking