公开(公告)号：CN116383370A

公开(公告)日：2023-07-04

申请号：CN202310169737.5

申请日：2023-02-27

Applicant: 复旦大学

Inventor： 陈思明 ,  邵则开 ,  孙姝然 ,  赵宇恒 ,  魏忠钰 ,  王思远 ,  桂韬

IPC: G06F16/34 ,  G06F16/332 ,  G06F16/35 ,  G06F40/30 ,  G06N3/0455

Abstract: 本发明属于开放域问答模型分析技术领域，具体为用于解释开放域问答模型的可视分析系统。本发明系统包括解释引擎模块、流程分析模块以及视图模块；解释引擎模块使用归因方法对OpenQA模型的每个模块的最终输出和隐式输出在全局和局部级别进行归因；流程分析模块把VEQA中的模型信息、数据以及经由解释引擎生成的可解释性数据被可视化为用户分析界面的各个视图，用户按照线性工作流以数据集、子集、单个实例、单个段落的顺序进行多层次探索；视图模块包括摘要视图、上下文视图、实例视图和树视图，用于可视化分析；本发明系统可帮助理解OpenQA模型的决策原因，并为模型改进提供见解；系统还支持对单个模块内的决策流程进行细粒度探索。