-
公开(公告)号:CN118277451A
公开(公告)日:2024-07-02
申请号:CN202410435592.3
申请日:2024-04-11
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
IPC: G06F16/2458 , G06F16/245 , G06F16/22 , G06F18/214 , G06F18/22 , G06F18/24 , G06V10/764 , G06N3/048 , G06N3/0895
Abstract: 本申请公开了一种应对不完备数据的跨模态哈希模型的训练方法及检索方法,所述训练方法利用不完备数据相关性,通过协调不同模态的模态哈希码和通过可学习的中间代码模型学习到的模态语义一致的哈希码来不对称地学习语义相关性。同时,通过语义标签来校准被破坏的跨模态相似度分布,并使用关系传播策略在恢复的样本上构造稳定的相似度,以及通过双重学习策略对齐和恢复模态表示,从而传递最大的模态公共信息,同时为了信息表示的传递和恢复而吸收跨模态上下文知识,进而可以实现高效的不完备跨模态检索。
-
公开(公告)号:CN118245524A
公开(公告)日:2024-06-25
申请号:CN202410435587.2
申请日:2024-04-11
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
IPC: G06F16/2458 , G06F16/245 , G06F16/22 , G06F18/2431 , G06F18/214 , G06F18/22 , G06V10/764 , G06N3/048 , G06N3/0895
Abstract: 本申请公开了一种应对标签部分缺失的跨模态哈希模型的训练及检索方法,所述训练方法通过构造可学习的预设标签提示符来提示标签的完整性,通过预设标签提示符和跨模态训练样本的不完备标签构建标签提示向量,然后通过标签提示向量的完备分数来对预设标签提示符进行学习,最后基于学习得到的目标标签提示符对跨模态训练样本的不完备标签进行恢复,以有效地感知缺失标签,降低了不完备标签对跨模态哈希模型的影响,提高跨模态哈希模型的模型性能。同时,通过互补语义传播和自适应负配对策略减少未知对以平衡正‑负对分布,从而可以进一步提高跨模态哈希模型的模型性能。
-
公开(公告)号:CN117952169A
公开(公告)日:2024-04-30
申请号:CN202311835975.1
申请日:2023-12-27
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
IPC: G06N3/08 , G06F18/213 , G06F18/2415 , G06F18/22
Abstract: 本申请公开了一种基于噪声标签样本集的模型训练方法、设备及存储介质,方法采用双空间协同框架来共同利用语义空间和特征空间的信息,通过引入局部样本信息在特征空间中学习一组具有全局特征信息的类别原型特征,然后将学习到的类别原始特征和语义预测信息共同作用来选取可靠样本,有效的减轻了在极其嘈杂的情况下特征空间中来自邻居的不可靠的局部信息对模型训练的影响,从而可以提高训练得到的目标网络模型的模型性能。同时,通过从语义空间到特征空间正则化和从特征空间到语义空间的正则化来减轻由样本选择偏差所引起的噪声累积问题。
-
公开(公告)号:CN117909476A
公开(公告)日:2024-04-19
申请号:CN202410079935.7
申请日:2024-01-19
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
IPC: G06F16/332 , G06F16/383 , G06F16/532 , G06F16/583 , G06F40/30 , G06V10/42 , G06V10/44 , G06V10/80 , G06V10/82 , G06F18/22 , G06F18/25 , G06N3/045 , G06N3/0455 , G06N3/0895
Abstract: 本申请公开了一种基于多比特哈希码的跨媒体检索方法及模型训练方法,所述方法通过构建多比特哈希码网络模型,充分捕获多种媒体信息的全局特征和局部语义特征,通过将多种媒体信息的全局特征和局部语义特征进行层次化对齐,充分利用了细粒度、语义更加丰富的局部特征来对齐异构多媒体数据,有效地减少了不同媒体间的异质性和语义差距。同时,本申请利用对齐后的特征来协作地同时生成多个不同长度的、高质量的哈希码,克服了因通过固定长度的哈希码而导致的跨媒体检索的灵活性、准确性和可扩展性非常受限的问题,提高了跨媒体检索的准确性和灵活性。
-
公开(公告)号:CN119577184A
公开(公告)日:2025-03-07
申请号:CN202411522201.8
申请日:2024-10-29
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
IPC: G06F16/783 , G06F16/38 , G06F18/25 , G06F18/22
Abstract: 本发明公开了基于多粒度对齐的文本和视频的相似度计算方法及系统。通过深入分析文本和视频包含的层级特征,设计由粗到细的多粒度对齐框架,从而实现更精细化、更准确的语义匹配。特别是在细粒度对齐方面,通过对文本的词级特征和视频的块级特征进行聚合,以获得文本的短语级特征与视频的物体级特征,基于这两个特征实现文本与视频的细粒度对齐,使得细粒度语义对齐更加合理,从而有效地解决文本视频检索存在的细节信息缺失和跨模态语义差距的问题。
-
公开(公告)号:CN117131923A
公开(公告)日:2023-11-28
申请号:CN202311162846.0
申请日:2023-09-06
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
IPC: G06N3/094 , G06N3/084 , G06N3/045 , G06N3/0475 , G06F18/214 , G06F18/22 , G06F21/57 , G06F40/295 , G06V10/25 , G06V10/82
Abstract: 本申请公开了一种针对跨模态学习的后门攻击方法及相关装置,方法包括获取待攻击的文本数据和图像数据;基于图像数据中的物体与文本数据的相似度,选取部分关键物体生成图像模态不变组件;基于文本数据中的单词与图像数据的相似度,选取部分关键单词生成文本模态不变组件;基于图像数据和图像模态不变组件生成中毒图像数据;基于文本数据和文本模态不变组件生成中毒文本数据;混合中毒图像数据,中毒文本数据和原始干净数据,生成中毒多模态数据集。本申请通过图像模态不变组件和图像触发生成器生成中毒图像数据,文本模态不变组件和文本触发器生成的中毒文本数据,实现了一个针对跨模态学习的统一的后门攻击框架,并提高了后门攻击的隐蔽性。
-
公开(公告)号:CN116992090A
公开(公告)日:2023-11-03
申请号:CN202310789952.5
申请日:2023-06-28
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
IPC: G06F16/901 , G06F18/22 , G06N3/0464 , G06N3/048 , G06N3/094
Abstract: 本申请公开了一种基于对抗训练的哈希检索方法及相关装置,方法包括基于训练样本的所有正样本和所有负样本来生成中枢码,以中枢码为监督信息采用极小极大策略对深度哈希模型进行对抗训练,然后基于经过对抗训练的深度哈希模型对待查询样本进行哈希检索,以得到待查询样本对应的预设数量的数据样本。本申请采用具有全局语义代表的中枢码作为监督信息,通过中枢码所携带的与所有正样本的相似性和负样本的不相似性,可以有效地指导深度哈希模型的对抗学习;同时,采用极小极大策略对深度哈希模型进行训练,可以进一步增强深度哈希模型的对抗鲁棒性,从而可以提高基于深度哈希模型进行哈希检索的安全性。
-
公开(公告)号:CN117557819A
公开(公告)日:2024-02-13
申请号:CN202311563955.3
申请日:2023-11-21
Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
IPC: G06V10/762 , G06V10/74 , G06N20/00 , G06V10/40
Abstract: 本申请公开了一种基于拓扑张量的不完备多视图无监督聚类分析方法及系统,方法应用于不完备多视图数据聚类,包括基于特征提取模型提取各不完备视图数据的视图特征确定共有视图特征和各相似度图,基于共有视图特征确定共有相似度图;基于各视图特征、相似度图及共有相似度图学习各不完备视图数据的相似性矩阵,最后根据学习到的各相似性矩阵确定聚类结果。本申请充分考虑了各不完备视图数据的拓扑关系,为样本间的相似度提供更准确的度量。同时,通过对相似度矩阵进行迭代来弥补因样本缺少而导致的相似度缺失问题,并考虑已观测样本间的相似度保持、未观测样本相似度推理及聚簇结构保持,获取到更为精确且灵活的相似度,提高了聚类结果的准确性。
-
公开(公告)号:CN113886607A
公开(公告)日:2022-01-04
申请号:CN202111199103.1
申请日:2021-10-14
Applicant: 哈尔滨工业大学(深圳)
IPC: G06F16/41 , G06F16/45 , G06F16/901 , G06F16/906 , G06N3/04 , G06N3/08
Abstract: 本发明公开了基于图神经网络的哈希检索方法、装置、终端及存储介质,方法包括:在样本数据集中选取至少一个样本数据;将目标样本数据分别输入至第一特征提取网络和第二特征提取网络,获取目标样本数据的第一特征和第二特征;根据目标样本数据的隐空间编码获取重构特征;根据目标样本数据的隐空间编码以及各个目标样本数据之间的相似性参数构建目标图,通过图神经网络获取目标样本数据的哈希码;根据各个目标样本数据之间的相似性参数、目标样本数据的哈希码、第二特征、第一特征和重构特征对第一特征提取网络的参数和每个隐空间编码进行更新;根据参数收敛后的第一特征提取网络获取待检索数据的哈希码。本发明能够提升哈希检索的性能。
-
公开(公告)号:CN113221916B
公开(公告)日:2023-07-07
申请号:CN202110514446.6
申请日:2021-05-08
Applicant: 哈尔滨工业大学(深圳)
IPC: G06V10/44 , G06V10/74 , G06V10/774 , G06V10/80
Abstract: 本发明公开了一种基于跨域快速迁移的视觉拣选方法及装置,从缩小跨域特征之间的差异度出发,考虑单一相似性度量的局限性,提出了基于特征相似性度量加权融合的算法,使用多种相似性度量加权融合,对跨域特征进行全面分析、约束,以减小特征差异,提高拣选模型在真实域工作的准确率和工作效率;提出基于注意力机制的对抗学习算法,在考虑全局特征的基础上,针对零件所在的局部区域特征,使用注意力机制着重减小该区域的差异性,以学习跨域不变的特征,实现跨越仿真域与真实域之间的鸿沟,保证跨域后模型性能的鲁棒性。
-
-
-
-
-
-
-
-
-