一种基于图文线性组合的多模态预训练方法

    公开(公告)号:CN114298158B

    公开(公告)日:2024-07-12

    申请号:CN202111480214.X

    申请日:2021-12-06

    Abstract: 一种基于图文线性组合的多模态预训练方法,属于图文多模态检索技术领域,包括以下步骤:S1:对文本和图像分别进行特征提取;S2:在交互层建立文本和图像两种模态间的联系;S2.1:将S1中得到的视觉模态和语言模态的特征向量联合输入到多模态预训练模型的交互层中;S2.2:利用Transformer中的注意力机制,让两种模态相互之间产生联系;S3:将图文匹配或屏蔽语言模型作为预训练目标,将模型训练至可用;S4:将具体的应用场景和下游任务作为训练目标,对所述预训练模型进行微调训练,将模型的性能在该场景下达到最优。本申请的训练方法解决了模型运算时间的瓶颈问题和改良预训练模型微调后性能问题,具有较为重要的科学意义和实际应用价值。

    一种基于无标签样本下文本融合的图像相似性检测方法

    公开(公告)号:CN114298159B

    公开(公告)日:2024-04-09

    申请号:CN202111482531.5

    申请日:2021-12-06

    Abstract: 一种基于无标签样本下文本融合的图像相似性检测方法,属于图像相似性度量技术领域,包括以下步骤:S1:构建包含upper、middle、lower三个分支的TFCSiam模型;S2:对S1构建的模型进行训练;S3:利用S2训练好的模型进行图像间相似性度量。该方法通过引入无监督学习中的对比学习、文本融合结构只是将图像相关的文本信息作为图像特征的补充、通过图文跨模态模块将文本信息嵌入到一个图文语义共享的子空间,然后再将子空间的嵌入特征融合到图像当中等方法,实现了减小特征融合以及后续多模态投影的复杂度、提高模型预测精度、提高模型训练计算效率等效果。

    一种基于深度迁移学习的轴承故障诊断模型及训练方法

    公开(公告)号:CN115828753A

    公开(公告)日:2023-03-21

    申请号:CN202211573470.8

    申请日:2022-12-08

    Abstract: 本发明公开了一种基于深度迁移学习的轴承故障诊断模型及训练方法,本发明构建包括共享特征提取模块、多源域适配模块和轴承故障诊断模块的模型,基于数据并行的思想,根据工作节点的数量将包含了多个源域和目标域的大规模轴承振动数据集切分成若干个块,在每个工作节点中采用相同的轴承故障诊断模型来处理该数据集中多个不同的块,利用Horovod‑GPU分布式并行计算平台进行分布式训练,采用Ring‑AllReduce架构进行参数同步更新,在保证故障诊断准确率的前提下显著提高了模型训练效率,解决了实际工业生产中轴承诊断准确率不高以及进行参数更新时存在通信瓶颈和扩展效率不佳的问题。

    一种基于图文线性组合的多模态预训练方法

    公开(公告)号:CN114298158A

    公开(公告)日:2022-04-08

    申请号:CN202111480214.X

    申请日:2021-12-06

    Abstract: 一种基于图文线性组合的多模态预训练方法,属于图文多模态检索技术领域,包括以下步骤:S1:对文本和图像分别进行特征提取;S2:在交互层建立文本和图像两种模态间的联系;S2.1:将S1中得到的视觉模态和语言模态的特征向量联合输入到多模态预训练模型的交互层中;S2.2:利用Transformer中的注意力机制,让两种模态相互之间产生联系;S3:将图文匹配或屏蔽语言模型作为预训练目标,将模型训练至可用;S4:将具体的应用场景和下游任务作为训练目标,对所述预训练模型进行微调训练,将模型的性能在该场景下达到最优。本申请的训练方法解决了模型运算时间的瓶颈问题和改良预训练模型微调后性能问题,具有较为重要的科学意义和实际应用价值。

    面向Dask集群的基于局部加权线性回归的动态数据分块方法

    公开(公告)号:CN114296911A

    公开(公告)日:2022-04-08

    申请号:CN202111509160.5

    申请日:2021-12-10

    Abstract: 本发明公开了一种面向Dask集群的基于局部加权线性回归的动态数据分块方法,将待处理的大规模数据集划分成用于块大小寻优的子数据集集合和剩余待处理的子数据集集合,通过对用于块大小寻优的每个子数据集对应的块大小的处理,采用局部加权线性回归算法较精准地在线动态估计剩余待处理每个子数据集对应的块大小,依据所有已被处理的每个子数据集对应的块大小和所耗时间。本发明解决了对人工经验的高度依赖以及费时耗力的离线训练,能较好地适应数据集、并行应用程序和集群环境的变化,并一定程度上提高了在Dask集群中处理大规模数据集的效率。

    滚动轴承剩余使用寿命预测方法及系统

    公开(公告)号:CN115577255A

    公开(公告)日:2023-01-06

    申请号:CN202211308913.0

    申请日:2022-10-25

    Abstract: 本发明公开了一种滚动轴承剩余使用寿命预测方法及系统,通过采集滚动轴承的振动信号,提取时域统计特征和频域统计特征,形成特征候选集;通过敏感性分析和冗余性分析对特征候选集中的冗余特征参数进行压缩;通过熵权法对特征候选集中的每个特征赋予不同的权重,构建复合健康指标;基于滑动窗口3σ区间的自适应方法对构建的健康指标进行平滑处理;对退化点后的已知样本进行拟合,然后模拟健康指标达到失效状态的退化轨迹,得到健康指标失效时对应的失效时间。本发明降低了单个特征之间的相关性与冗余性对剩余使用寿命预测精度的干扰;显著提高了预测的准确性,有效避免了传统方法潜在的问题。

    一种全双工通信的光纤无线系统

    公开(公告)号:CN101715249B

    公开(公告)日:2012-12-05

    申请号:CN200910310986.1

    申请日:2009-12-07

    Abstract: 本发明涉及一种全双工通信的光纤无线系统。它由中心站、基站组成,中心站和基站之间通过光纤传输链路连接。中心站采用基带信号与射频正弦波信号混频产生副载波信号,经光相位调制器调制产生光双边带-差分相移键控信号,经过功率放大后传至基站。基站将中心站传输过来的信号分离;通过光分路器分成上下两路:上路产生载波抑制-差分相移键控光载毫米波,光电转换成下行毫米波信号,通过天线发送给无线终端;下路通过光电转换产生参考本振信号,与上行毫米波信号混频,下变频成上行基带信号;中心载波被上行基带信号进行重调制,传送回中心站。本发明简化了光载毫米波的产生装置、降低了成本,结构简单灵活,扩展性强,结构更加紧凑,易于集成。

Patent Agency Ranking