-
公开(公告)号：CN119398181B
公开(公告)日：2025-04-29
申请号：CN202510008081.8
申请日：2025-01-03
Applicant: 中国科学院自动化研究所
IPC: G06N5/04
Abstract: 本发明提供一种针对错误前提的幻觉缓解方法和装置，应用于自然语言处理技术领域。该方法包括：获取第一输入文本和第二输入文本，所述第二输入文本为将所述第一输入文本中的错误前提替换为占位符的文本；分别确定大语言模型处理所述第一输入文本时每个注意力头的第一激活值，以及处理所述第二输入文本时每个注意力头的第二激活值；按照目标处理方式确定每个注意力头对大语言模型输出幻觉文本的影响力；基于所述影响力确定目标注意力头，并对所述目标注意力头进行削弱处理。
-
公开(公告)号：CN119398181A
公开(公告)日：2025-02-07
申请号：CN202510008081.8
申请日：2025-01-03
Applicant: 中国科学院自动化研究所
IPC: G06N5/04
Abstract: 本发明提供一种针对错误前提的幻觉缓解方法和装置，应用于自然语言处理技术领域。该方法包括：获取第一输入文本和第二输入文本，所述第二输入文本为将所述第一输入文本中的错误前提替换为占位符的文本；分别确定大语言模型处理所述第一输入文本时每个注意力头的第一激活值，以及处理所述第二输入文本时每个注意力头的第二激活值；按照目标处理方式确定每个注意力头对大语言模型输出幻觉文本的影响力；基于所述影响力确定目标注意力头，并对所述目标注意力头进行削弱处理。
-
公开(公告)号：CN119378692B
公开(公告)日：2025-04-29
申请号：CN202411945230.5
申请日：2024-12-27
Applicant: 中国科学院自动化研究所
IPC: G06N5/04 , G06N3/045 , G06F40/20 , G06F40/295
Abstract: 本发明提供一种幻觉文本缓解方法、装置、设备、存储介质及程序产品，应用于自然语言处理技术领域。该方法包括：获取大语言模型生成的第一幻觉文本；通过基础修正器对所述第一幻觉文本进行修正，得到第二幻觉文本；通过评估器评估所述第二幻觉文本，得到文本评价信息和此次修正过程的质量评分；在所述质量评分超过预设阈值的情况下，将所述第二幻觉文本作为输出文本；在所述质量评分不超过所述预设阈值的情况下，基于所述文本评价信息，通过反思器确定缓解策略；根据所述缓解策略调整所述基础修正器的修正策略，并将所述第二幻觉文本重新输入调整后的所述基础修正器中。
-
公开(公告)号：CN119378692A
公开(公告)日：2025-01-28
申请号：CN202411945230.5
申请日：2024-12-27
Applicant: 中国科学院自动化研究所
IPC: G06N5/04 , G06N3/045 , G06F40/20 , G06F40/295
Abstract: 本发明提供一种幻觉文本缓解方法、装置、设备、存储介质及程序产品，应用于自然语言处理技术领域。该方法包括：获取大语言模型生成的第一幻觉文本；通过基础修正器对所述第一幻觉文本进行修正，得到第二幻觉文本；通过评估器评估所述第二幻觉文本，得到文本评价信息和此次修正过程的质量评分；在所述质量评分超过预设阈值的情况下，将所述第二幻觉文本作为输出文本；在所述质量评分不超过所述预设阈值的情况下，基于所述文本评价信息，通过反思器确定缓解策略；根据所述缓解策略调整所述基础修正器的修正策略，并将所述第二幻觉文本重新输入调整后的所述基础修正器中。
-
-
-
Search Results
4
records
(took 0.028 seconds)
