一种基于演化神经架构搜索的轻量级潜在扩散模型设计方法及系统

    公开(公告)号:CN119559286A

    公开(公告)日:2025-03-04

    申请号:CN202510108403.6

    申请日:2025-01-23

    Abstract: 本发明提供了一种基于演化神经架构搜索的轻量级潜在扩散模型设计方法及系统,所述方法采用超网技术同时训练多个网络架构,在架构搜索过程中结合演化遗传算法,并通过训练一个多层感知器作为得分预测器,以辅助演化遗传算法在大规模搜索空间中高效筛选出最优架构,这种方法显著降低了传统架构设计过程中所需的资源消耗和计算成本。本发明通过结合知识蒸馏技术引入了预训练好的教师模型来监督学生模型的训练,可以在保证潜在扩散模型性能稳定的同时将潜在扩散模型变得轻量化。通过该方法,不仅能够自动化设计高效的神经网络架构,还能实现潜在扩散模型的高效部署,为扩散模型的优化提供了一种全新的、低成本的解决方案。

    基于差分进化算法的神经架构搜索方法和系统

    公开(公告)号:CN118196600B

    公开(公告)日:2024-07-12

    申请号:CN202410615399.8

    申请日:2024-05-17

    Abstract: 本发明提供了基于差分进化算法的神经架构搜索方法和系统,所述方法首先定义了一个搜索空间,将所有候选操作糅合在一起构建超网,并使用连续数值进行编码。接着,利用训练数据及其标签来训练超网的网络权重。然后,我为超网内的每个子网设计了唯一的编码方式,并直接从超网获得网络权重。随后,使用差分进化算法优化子网的编码。最后,交替执行超网的网络权重优化和子网的编码优化。与使用梯度下降方法和遗传算法优化子网编码的方式不同,本发明的差分进化算法能够更充分地利用连续编码的矢量化信息。这种方法相比传统的优化方法具有更高的效率和更好的搜索性能,能够更快地找到适合任务的最优神经网络架构。

    一种基于注意力残差和对比学习的无监督域适应行人重识别方法

    公开(公告)号:CN117746084A

    公开(公告)日:2024-03-22

    申请号:CN202311775166.6

    申请日:2023-12-22

    Abstract: 本发明公开了一种基于注意力残差和对比学习的无监督域适应行人重识别方法,包括:将待识别行人图像和目标图像库输入行人重识别模型;根据模型的输出,得到行人重识别结果;模型的获取方法包括:将无标签的目标域数据集中的目标域数据进行部分灰度化得到部分灰度化图像;将增强后的目标域数据输入第一注意力残差网络进行特征提取,得到第一特征和对应的预测概率值;将增强后的部分灰度化图像输入第二注意力残差网络进行特征提取,得到第二特征和对应的预测概率值;注意力残差网络使用有标签的源域数据集预训练得到;对第一特征聚类后进行聚类提纯,确定可靠的伪标签;结合目标域的无监督训练总损失函数,训练更新第一注意力残差网络的参数。

    基于多视图多任务集成学习的作物叶片种类识别方法

    公开(公告)号:CN111611972B

    公开(公告)日:2024-01-05

    申请号:CN202010485899.6

    申请日:2020-06-01

    Abstract: 本发明涉及一种基于多视图多任务集成学习的作物叶片种类识别方法,该方法选取叶片图像作为原始数据集,并进行特征提取,得到若干视图下的数据集;利用CNN模型作为基学习器,对若干视图下的数据集与原始数据集分别进行单独的集成学习;然后固定所有基学习器的参数,并去除掉基学习器中全连接分类器的最后一层,然后将所有模型的输出拼接起来,并添加新的分类器,对若干视图进行联合特征选择,使得其验证集准确率达到期望,得到多个视图下的模型;再利用多任务学习,对叶片种类进行识别。本发明强化了模型的准确度和泛化能力,整体上解决了传统深度学习模型训练数据不足,模型简单地堆叠深度导致的泛化能力弱的问题。

    一种无监督域适应行人重识别方法及系统

    公开(公告)号:CN116884052A

    公开(公告)日:2023-10-13

    申请号:CN202310516702.4

    申请日:2023-05-09

    Abstract: 本发明提供一种无监督域适应行人重识别方法及系统,涉及域适应的应用领域。该无监督域适应行人重识别方法,包括:将提取后的样本特征经过特征映射分为全局特征和局部特征,通过交叉熵损失和三元组损失构造样本的全局特征和局部特征的基础模型;对样本的全局特征进行聚类操作,通过聚类操作生成伪标签,通过生成的伪标签训练全局和局部特征并以监督的方式优化网络;将全局特征和局部特征的相似度通过交叉一致性分数进行评判;结合交叉一致性分数和样本的局部特征实现对伪标签的提纯,以便完成行人重识别。本发明方法改善了现有无监督域适应行人重识别方法中的标签噪声问题。

    一种无监督多源部分域适应图像分类方法

    公开(公告)号:CN114863175A

    公开(公告)日:2022-08-05

    申请号:CN202210505184.1

    申请日:2022-05-10

    Abstract: 本发明公开了一种无监督多源部分域适应图像分类方法,包括:对源域和目标域的每一个样本进行域不变特征和域私有特征的提取;采用最大平均差异度量以及条件分布差异度量计算源域和目标域样本分布的对齐程度,以缩小两者的分布差异,并由所得样本间欧式距离的度量结果在进行归一化处理后,计算平衡因子ω;将源域样本导入训练所得的分类器,根据概率标签对源域样本进行加权以降低无关类样本造成的负迁移;构建域分类器,进一步训练域私有特征提取器,使所得域私有特征更具判别性;计算总体损失,迭代更新优化模型参数。本发明能够解决域对齐任务和分类任务本身之间的优化不一致性问题以及部分域适应中无关类样本造成的负迁移问题。

    基于有序编码及多层随机投影的人脸图像年龄判别方法

    公开(公告)号:CN108446676B

    公开(公告)日:2020-08-25

    申请号:CN201810413049.8

    申请日:2018-05-03

    Abstract: 本发明公开了一种基于有序编码及多层随机投影的人脸图像年龄判别方法,属于人脸识别技术领域。本发明的方法采用双通道网络输入两张不同的照片分别经过多层ELM进行随机特征映射,并且通过高斯标签分布的分类模型输出编码,采用梯度下降法直接调节模型参数。本发明借用多层ELM以解决CNN复杂的参数修改问题,并且减少算法的过拟合现象。并且采用LDL编码进行输出,充分考虑到不同年龄的可能性,使算法更加合理和准确。此外,相比传统的单通道网络,双通道网络将不同年龄段的信息有序结合起来,克服了算法训练的随机性问题,提高了算法的泛化性能。

Patent Agency Ranking