-
公开(公告)号:CN118072395A
公开(公告)日:2024-05-24
申请号:CN202410253805.0
申请日:2024-03-06
Applicant: 南京信息工程大学
Abstract: 本发明公开了一种结合多模态帧间运动和共享注意力权重的动态手势识别方法,旨在解决现有技术中视频存在冗余信息,对运动手部特征难以进行准确捕捉等问题,其包括获取动态手势视频;对动态手势视频进行预处理,得到动态手势视频帧序列;根据动态手势视频帧序列,基于预训练的动态手势识别模型,对动态手势进行识别,得到动态手势含义类别等步骤,所述动态手势识别模型包括依次连接的嵌入模块、特征提取模块、帧间运动注意力模块、自适应融合下采样模块以及全连接层。本发明能够将时空维度的搜索区域减少为与手部相关的区域,在减少计算量的同时可以提升动态手势识别精度。
-
公开(公告)号:CN118053100A
公开(公告)日:2024-05-17
申请号:CN202410245105.7
申请日:2024-03-05
Applicant: 南京信息工程大学
IPC: G06V20/40 , G06V10/764 , G06V10/80
Abstract: 本发明公开了一种多模态情感识别方法、系统、装置及存储介质,方法包括获取有声视频,分解有声视频得到视频模态数据、音频模态数据和文本模态数据;对三个模态数据的局部特征进行位置编码和段编码,分别得到三个模态数据的输出特征;在三个模态中任选两个为一组,利用模态对齐注意力分支对每一组的输出特征进行跨模态融合,得到跨模态特征;利用调距注意力分支扩大输出特征与平均特征的距离,得到各组的调距特征;基于得到的输出特征、跨模态特征和调距特征,拼接后得到跨模态融合特征,将其输入分类器进行识别后输出情感类别。本发明通过模态对齐注意力分支,对齐视频、音频和文本之间的对应关系;通过调距注意力分支缓解了特征相似的问题。
-
公开(公告)号:CN113361623B
公开(公告)日:2024-05-14
申请号:CN202110691248.7
申请日:2021-06-22
Applicant: 南京信息工程大学
IPC: G06V10/764 , G06V10/774 , G06V10/82 , G06N3/0464 , G06N3/09
Abstract: 本发明公开了一种轻量级CNN结合迁移学习的医学图像分类方法,包括:(1)获取医学图像数据集,并对其预处理,包括调整大小,使用高斯模糊和直方图均衡化进行增强处理,之后将预处理后的医学图像数据集按照一定比例划分得到训练集、验证集以及测试集;(2)构建预训练好的MobileNetV2网络并进行微调,对MobileNetV2网络的损失函数使用L2正则化进行处理,通过贝叶斯优化方法调整MobileNetV2网络中的超参数,之后利用训练集对MobileNetV2网络进行训练,利用验证集对MobileNetV2网络进行验证,得到重新训练好的MobileNetV2网络;(3)将测试集输入重新训练好的MobileNetV2网络,得到分类结果。本发明所述方法提高了分类精度,缩短了MobileNetV2网络的训练时间,并且对于硬件设备的要求不高,适合资源匮乏的地区使用。
-
公开(公告)号:CN117726491A
公开(公告)日:2024-03-19
申请号:CN202311578312.6
申请日:2023-11-24
Applicant: 南京信息工程大学
IPC: G06T1/00 , G06V10/40 , G06V10/774 , G06V10/80 , G06N3/0464 , G16H30/00
Abstract: 本发明公开一种基于全局和局部特征自适应融合的零水印应用方法及装置,应用于虚拟医疗服务中,方法包括:获取待处理的医疗载体图像;将所述医疗载体图像输入训练好的特征提取模型,输出特征提取结果;对所述特征提取结果进行处理,得到一串二值序列;将所述二值序列和加密后的水印进行异或处理,得到最终的零水印;所述特征提取模型的训练包括:搭建具有预设特征提取框架的特征提取模型,采用Hifuse模型的三层支路结构,上下支路分别提取全局和局部特征,并在中间支路层进行自适应融合,提取更准确且鲁棒的特征;采用小样本类增量的方法处理数据并训练模型,得到训练好的特征提取模型,解决医学图像样本稀缺导致模型学习效果不佳的问题。
-
公开(公告)号:CN116992735B
公开(公告)日:2024-02-23
申请号:CN202311088990.4
申请日:2023-08-25
Applicant: 南京信息工程大学
Abstract: 本发明公开了一种基于线性有限元和能量正则化的软组织形变模拟方法,包括:根据软组织的形态和特性,将未知的杨氏模量和搜索节点的位移构成迭代向量;引入最小形变能原理,将其作为正则化项,设计得到正则化参数;动态测量局部表面位移数据,将其与线性有限元模型预测的位移进行比较,定义约束条件;利用局部表面位移测量数据,通过最小化估计误差的方法来估计未知的边界条件;利用估计得到的边界条件,结合线性有限元模型,计算生物组织的变形情况。本发明能够在进行虚拟手术的关节置换手术时,不需要事先了解软组织的边界条件,就可以提高软组织的形变模拟精度。
-
公开(公告)号:CN116992735A
公开(公告)日:2023-11-03
申请号:CN202311088990.4
申请日:2023-08-25
Applicant: 南京信息工程大学
Abstract: 本发明公开了一种基于线性有限元和能量正则化的软组织形变模拟方法,包括:根据软组织的形态和特性,将未知的杨氏模量和搜索节点的位移构成迭代向量;引入最小形变能原理,将其作为正则化项,设计得到正则化参数;动态测量局部表面位移数据,将其与线性有限元模型预测的位移进行比较,定义约束条件;利用局部表面位移测量数据,通过最小化估计误差的方法来估计未知的边界条件;利用估计得到的边界条件,结合线性有限元模型,计算生物组织的变形情况。本发明能够在进行虚拟手术的关节置换手术时,不需要事先了解软组织的边界条件,就可以提高软组织的形变模拟精度。
-
公开(公告)号:CN116958690A
公开(公告)日:2023-10-27
申请号:CN202310939560.2
申请日:2023-07-28
Applicant: 南京信息工程大学
IPC: G06V10/764 , G06T1/00 , G06V10/74 , G06N3/0464 , G06N3/048
Abstract: 本发明公开了基于CNN的HVS‑JND谱残差网络鲁棒水印方法,将载体图像与原始水印输入水印编码器中,生成嵌入水印的编码图像;将编码图像和载体图像分两路输入HVS‑JND感知分类鉴别器中,判别嵌入水印的编码图像是有损图像还是无损图像,若图像有损,计算损失函数,并更新水印编码器的参数,直至获得无感损失编码图像并输入水印解码器中,得到解码水印;根据原始水印与解码水印,计算损失函数,并更新水印编码器、HVS‑JND感知分类鉴别器、解码器的参数;本发明所设计的方法使载密图像拥有很高的不可见性和很好的视觉质量;通过引入谱残差网络,提升了水印的透明性和鲁棒性,具有现实意义和良好的应用前景。
-
公开(公告)号:CN116664782A
公开(公告)日:2023-08-29
申请号:CN202310947466.1
申请日:2023-07-31
Applicant: 南京信息工程大学
IPC: G06T17/00 , G06V10/44 , G06V10/774 , G06V10/82 , G06N3/0464 , G06N3/08
Abstract: 本发明公开了一种基于融合体素的神经辐射场三维重建方法,包括:在卷积神经网络中获取图像的二维特征,生成深度图;聚合相邻图像的二维特征和粗阶段MLP计算的特征,生成由体素表示的局部辐射场;基于递归神经网络,根据权重将局部辐射场融合到世界坐标系下生成全局辐射场,并不断更新权重;将生成的全局辐射场输入NeRF渲染器内,以获得每个点的坐标和附近的点密度值;将全局辐射场根据深度图和体密度阈值过滤后输入体积渲染器内进行体渲染,不断优化损失,直至训练完成,得到三维重建模型。本发明通过融合每个视图生成的局部辐射场来增强全局信息的获取,再根据深度图和体素的体密度筛选来减少多余部分,提高训练效率。
-
公开(公告)号:CN113837048B
公开(公告)日:2023-08-01
申请号:CN202111090480.1
申请日:2021-09-17
Applicant: 南京信息工程大学
IPC: G06V20/58 , G06V10/40 , G06V10/74 , G06V10/762 , G06V10/774 , G06V10/80 , G06V10/82 , G06N3/0464 , G06N3/08
Abstract: 本发明公开了基于少样本注意力的车辆重识别方法,所述方法包括步骤:将车辆图片输入到预先训练好的少样本注意力模块FSAM中,得到注意力图;将目标域图片输入特征提取网络F‑Net,获取特征图,并通过特征图整合模块FMIM进行整合,得到新特征图;通过计算注意力图与新特征图两者的距离,根据距离大小输出相似度最高的车辆图片;本发明有效地解决了传统方法需要大量车辆图片来训练网络的问题,不仅增强了网络的泛化能力,还提高了网络的效率和车辆重识别的精确度。
-
公开(公告)号:CN110096818B
公开(公告)日:2023-07-25
申请号:CN201910373465.4
申请日:2019-05-06
Applicant: 南京信息工程大学
IPC: G06F30/20 , G06T17/20 , G06F119/14
Abstract: 本发明公开了一种软组织监督变形算法,包括步骤第一次数据搜索并复制、局部细化网格、第二次数据搜索并修正、网格变形。本发明中的求解状态方程步骤与机器学习相结合,通过构造目标函数,得到最优参数,以带入目标函数的形式代替循环求解,大大减少了计算量,本发明使用的最小二乘法以及梯度下降算法,得到最小化的损失函数和模型参数值,提高了精确度。
-
-
-
-
-
-
-
-
-