-
公开(公告)号:CN119418846A
公开(公告)日:2025-02-11
申请号:CN202411337098.X
申请日:2024-09-25
Applicant: 复旦大学
IPC: G16H15/00 , G16H30/20 , G16H50/70 , G06N5/04 , G06F16/3329
Abstract: 本发明涉及一种基于医疗思维链的多模态医疗影像报告生成方法及系统,其中方法包括以下步骤:获取现有的原始无序非结构化医学影像报告数据集;对数据集中的影像报告进行预处理,得到高质量数据集;基于大语言模型对高质量数据集中的医疗影像报告进行处理,抽取层次化医学属性问答对;将层次化医学数学问答对串联重构为链式推理问答对;利用链式推理问答对数据对对现有的医学影像报告生成模型进行微调,利用微调后的医学影像报告生成模型生成医疗影像报告。与现有技术相比,本发明具有显式的加强了多模态特征的利用率和意图理解的识别能力,提高了推理能力的泛化性、可靠性和准确性,生成的医疗影像报告可靠性更高等优点。
-
公开(公告)号:CN119577568A
公开(公告)日:2025-03-07
申请号:CN202311113314.8
申请日:2023-08-30
Applicant: 复旦大学
IPC: G06F18/2415 , G06F18/2431 , G06F16/35 , G06F16/334 , G06F16/3329 , G06N3/0455 , G06N3/0464 , G06N3/08
Abstract: 本发明涉及一种适用于不确定模态缺失的多模态情感识别系统,包括多模态信息感知单元、异构模态缺失样本生成单元、多粒度跨模态交互单元、特征语义一致性约束单元、自适应特征增强单元、选择性特征过滤单元、特征集成单元、情感识别单元以及情感显示单元。与现有技术相比,本发明通能够深入挖掘缺失模态中元素之间的自然相关性,最大限度地激发缺失模态潜在的能力,从而有效提升缺失模态场景下多模态情感识别方法的鲁棒性。
-
公开(公告)号:CN119418390A
公开(公告)日:2025-02-11
申请号:CN202411337099.4
申请日:2024-09-25
Applicant: 复旦大学
IPC: G06V40/20 , G06V20/40 , G06V10/776 , G16H30/00 , G16H40/20 , G06Q10/0639 , G06V10/82 , G06N3/0455
Abstract: 本发明涉及一种基于时序动作分割的医疗行为质量评估方法及系统,其中方法包括以下步骤:获取多种视角的拍摄设备采集的整个医疗过程中全部的操作行为视频,并分析视频的维度与帧数;将视频数据输入时序分割模型进行时序动作分割与识别,所述时序分割模型引入了扩散模型,包括特征提取模块、编码器和解码器三个部分,其中,所述特征提取模块提取视频对应的I3D特征,所述编码器将通用的I3D特征编码为更符合任务的特征,所述解码器完成扩散模型的迭代过程,从随机噪声中迭代生成预测动作标签序列;根据时序分割模型给出的动作标签序列和对应医疗行为的标准规范进行得分统计。与现有技术相比,本发明具有时序行为分割准确率高等优点。
-
公开(公告)号:CN119538168A
公开(公告)日:2025-02-28
申请号:CN202311111253.1
申请日:2023-08-30
Applicant: 复旦大学
IPC: G06F18/25 , G06F18/213 , G06F18/2431 , G06F18/2415 , G06F40/30 , G06N3/0464 , G06N3/047 , G06N3/0499 , G06N3/08
Abstract: 本发明涉及一种基于脑认知启发的多模态人类意图理解系统,包括多模态信息采集单元、互交叉注意力强化单元、自交叉注意力强化单元、源模态更新单元、自适应多模态信息融合单元、连续维度的情感意图理解单元,以及细粒度的行为意图理解单元。与现有技术相比,本发明充分融合来自语言、音频以及视频模态的有效特征语义,利用不同强化和更新单元中的注意力机制实现了高效的多模态建模,进一步完成了多任务模式下的人类情感和行为意图理解,有效的解决了真实应用场景下人类意图理解准确率低,多模态利用率不足以及系统鲁棒性差等问题。
-
公开(公告)号:CN116013118B
公开(公告)日:2025-01-03
申请号:CN202211511923.4
申请日:2022-11-29
Applicant: 复旦大学
IPC: G09B9/00 , G06F18/25 , G06N3/0442 , G06N3/047 , G06N3/08
Abstract: 本发明涉及一种基于增强现实的儿科气管插管培训系统及方法,包括增强现实模块、气管插管实体模型模块、医疗行为识别评估模块及语音交互模块;增强现实模块包括增强现实眼镜,增强现实模块用于为使用者提供增强现实画面及音频;气管插管实体模型模块用于为使用者提供模拟完成气管插管操作的实体模型;医疗行为识别评估模块用于识别使用者执行气管插管过程中的行为并给予实时评估;语音交互模块用于向使用者发出指令或回复,同时模拟临床中执行气管插管操作时发出的声音。本发明融合增强现实、语音交互、深度学习等技术,使得培训方法更加专业、高效。与现有技术相比,本发明具有成本低、节约教学时间、教学效率高等优点。
-
公开(公告)号:CN116013118A
公开(公告)日:2023-04-25
申请号:CN202211511923.4
申请日:2022-11-29
Applicant: 复旦大学
IPC: G09B9/00 , G06F18/25 , G06N3/0442 , G06N3/047 , G06N3/08
Abstract: 本发明涉及一种基于增强现实的儿科气管插管培训系统及方法,包括增强现实模块、气管插管实体模型模块、医疗行为识别评估模块及语音交互模块;增强现实模块包括增强现实眼镜,增强现实模块用于为使用者提供增强现实画面及音频;气管插管实体模型模块用于为使用者提供模拟完成气管插管操作的实体模型;医疗行为识别评估模块用于识别使用者执行气管插管过程中的行为并给予实时评估;语音交互模块用于向使用者发出指令或回复,同时模拟临床中执行气管插管操作时发出的声音。本发明融合增强现实、语音交互、深度学习等技术,使得培训方法更加专业、高效。与现有技术相比,本发明具有成本低、节约教学时间、教学效率高等优点。
-
公开(公告)号:CN115910366A
公开(公告)日:2023-04-04
申请号:CN202211509298.X
申请日:2022-11-29
Applicant: 复旦大学
Abstract: 本发明涉及一种基于多模态临床诊疗数据的病情分析系统,包括病历信息提取单元、视频采集单元、影像数据采集单元、特征提取单元,多模态融合单元、病情分类单元和在线学习单元;病历信息提取单元用于提取患者的医疗信息;视频采集单元用于采集患者就诊视频;影像数据采集单元用于采集患者影像数据;特征提取单元用于提取多模态数据特征;多模态融合单元将多模态数据特征进行融合,得到多模态融合特征;病情分类单元基于多模态融合特征,输出病情分类;在线学习单元基于医疗信息、就诊视频及影像数据,更新网络模型参数,实现模型在线学习。与现有技术相比,本发明提高了病情分析的正确率,解决了病情识别正确率低和信息挖掘程度不深的问题。
-
-
-
-
-
-