-
公开(公告)号:CN118537637A
公开(公告)日:2024-08-23
申请号:CN202410609169.0
申请日:2024-05-16
Applicant: 中国科学院计算技术研究所
IPC: G06V10/764 , G06V10/44 , G06N3/045 , G06N3/08
Abstract: 本发明提供了一种图像分类模型训练方法,其包括:步骤S1、数据获取步骤:获取多个图像数据集,每个图像数据集与其他图像数据集属于不同的领域,每个图像数据集中包括多个不同类别的图像样本及其对应的类别标签和域标签,其中,类别标签指示图像样本对应的类别,域标签指示图像样本所属的图像数据集,且每个图像数据集拥有相同的类别标签集合;步骤S2、模型训练步骤:步骤S21、构建初始图像分类模型,其包括共享特征提取器、一个一类分支网络和多个二类分支网络;步骤S22、采用所述多个图像数据集对初始图像分类模型进行多次训练直至模型收敛。本发明提出的训练方法使模型具备了提取跨域不变特征和域正交不变特征的能力,使模型提高了分类准确率。
-
公开(公告)号:CN117541876A
公开(公告)日:2024-02-09
申请号:CN202311725379.8
申请日:2023-12-15
Applicant: 中国科学院计算技术研究所
IPC: G06V10/764 , G06V10/774 , G06V10/778
Abstract: 本发明提供了一种图像分类模型以及基于类别增量对模型训练的方法,所述图像分类模型包括:嵌入模块,其用于对输入的图像进行嵌入处理,以得到所述图像对应的嵌入向量;提示参数生成模块,其用于根据所述嵌入向量生成一组可学习的提示参数集合;融合模块,其用于将所述嵌入向量和所述可学习的提示参数向量集合进行融合,得到融合向量;特征提取模块,其用于根据所述融合向量提取所述图像对应的特征向量;分类模块,其用于根据提取的特征向量对所述图像进行分类,得到所述图像对应的分类结果。
-
公开(公告)号:CN115471700A
公开(公告)日:2022-12-13
申请号:CN202211126235.6
申请日:2022-09-16
Applicant: 中国科学院计算技术研究所
IPC: G06V10/764 , G06N3/04 , G06N3/08 , G06V10/77 , G06V10/774 , G06V10/82
Abstract: 本发明提供一种基于知识传输的图像分类模型训练方法,用于对预训练好的图像分类模型进行增量训练,其中,所述预训练好的图像分类模型包括特征提取网络和分类器,其特征在于,所述方法包括采用新的图像数据集对预训练好的图像分类模型按照如下方式进行增量训练:S1、对当前新的图像数据集进行增强处理;S2、利用上一次训练后的图像分类模型的参数初始化所述图像分类模型,并采用增强后的当前新的图像数据集将其训练至收敛,其中在训练过程中采用交叉熵损失、蒸馏损失以及知识传输损失更新模型参数。本发明能够实现模型特征空间的迁移,缓解增量训练过程中的灾难性遗忘问题。
-
公开(公告)号:CN116778566A
公开(公告)日:2023-09-19
申请号:CN202310883502.2
申请日:2023-07-19
Applicant: 中国科学院计算技术研究所
IPC: G06V40/18 , G06V10/74 , G06V10/764 , G06V10/774
Abstract: 本发明提供一种分类模型的训练方法和眼底图像分类方法,属于增量学习领域。一种分类模型的训练方法,所述分类模型用于眼底图像分类,所述方法包括:获取预训练的分类模型作为教师模型,其包括特征提取网络以及分类器,所述教师模型能识别的眼底类别归为旧类;获取学生模型,其特征提取网络用教师模型初始化,并且其分类器设置为能对旧类和新类对应的眼底类别进行识别,所述新类是所述旧类之外的眼底类别;针对用到的每个旧类,获取该旧类对应的伪样本;利用生成的旧类的伪样本和属于新类的眼底图像对所述学生模型进行增量训练,训练时基于预设的总损失函数确定的总损失更新学生模型的参数,得到经增量训练的学生模型。本发明可以缓解灾难性遗忘。
-
公开(公告)号:CN117746184A
公开(公告)日:2024-03-22
申请号:CN202311795114.5
申请日:2023-12-25
Applicant: 中国科学院计算技术研究所
IPC: G06V10/774 , G06V10/764 , G06V10/77 , G06V10/44 , G06N3/045 , G06N3/0495 , G06N3/096
Abstract: 本发明提供了一种图像分类模型的增量训练方法,所述方法包括:S1、采用上一次增量训练得到的图像分类模型作为当前轮初始图像分类模型;所述图像分类模型包括特征提取器和分类器,所述特征提取器用于提取图像数据的特征向量,所述分类器用于根据特征向量进行图像分类;S2、采用新训练集和旧训练集训练所述步骤S1中得到的初始图像分类模型至收敛,在训练过程中采用预设的总损失函数更新模型参数,所述总损失包括交叉熵损失和对比损失,所述对比损失是基于新训练集和旧训练集中的所有正对和负对计算。本发明的技术方案通过在训练中采用了包括基于图像的特征向量和类的特征向量的构建的正对和负对的对比损失,从而缓解了增量学习中的灾难性遗忘问题。
-
公开(公告)号:CN117292428A
公开(公告)日:2023-12-26
申请号:CN202311078758.2
申请日:2023-08-25
Applicant: 中国科学院计算技术研究所
IPC: G06V40/18 , G06V10/764 , G06V10/774 , G06V10/82 , G06N3/094
Abstract: 本发明提供了一种基于非对称的双分类器模型的领域自适应方法,该方法包括:获取训练集,其包括多个源域样本、多个目标域样本、用于指示每个源域样本所属眼底类别的标签,源域样本和目标域样本均为眼底图像;获取双分类器模型,其包括:基于正向分布补偿值和反向分布补偿值,利用所述训练集对特征提取器和两个分类器进行多次对抗训练,得到经训练的双分类模型。
-
公开(公告)号:CN115953653A
公开(公告)日:2023-04-11
申请号:CN202111657111.6
申请日:2021-12-31
Applicant: 中国科学院计算技术研究所
IPC: G06V10/778 , G06V10/776 , G06V10/82 , G06N3/04 , G06N3/08
Abstract: 本发明公开了一种基于知识重要性的类别增量行为识别模型构建方法以及行为识别方法。本发明针对增量学习过程中灾难性遗忘和长尾数据集中类别不平衡的问题,首次提出了利用权重子集获得混合权重从而使教师模型自主识别重要性知识的判断方法,达到保留旧数据中的重要性知识,实现了在增量学习过程中,学生网络可以根据教师网络的判别效果自动更新自适应,从而在一定程度上缓解了灾难性遗忘问题;同时通过限制权重子集的范围,也解决了长尾数据集中类别不平衡的问题。
-
公开(公告)号:CN117708651A
公开(公告)日:2024-03-15
申请号:CN202311694548.6
申请日:2023-12-12
Applicant: 中国科学院计算技术研究所
IPC: G06F18/24 , G06F18/10 , G06F18/213 , G06F123/02
Abstract: 一种基于多专家一致性熵的类不平衡时间序列域自适应系统,包括:随机增强模块,用于对源域/目标域数据进行多种不同类型的随机增强,其中所述源域数据为有标签的时间序列数据,所述目标域数据为无标签的时间序列数据;特征提取模块,用于对增强后的源域/目标域数据进行特征提取;多专家委员会模块,包括多个专家分类子模块,用于对经所述特征提取模块处理后的源域/目标域数据进行分类预测。
-
公开(公告)号:CN115712852A
公开(公告)日:2023-02-24
申请号:CN202211446503.2
申请日:2022-11-18
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提供一种神经网络分类模型的训练方法,模型包括提取样本特征的特征提取器和根据样本特征对样本分类的分类器,该方法包括按以下方式对基于源域的样本及标签训练得到的初始的模型进行一轮或多轮训练:S1、获取训练集,包括源域的样本对和目标域的样本对,任意样本对包括两个样本,每个样本为对人员采集的传感器数据,两个样本所对应的人员和被采集时该人员的行为类别相同;S2、利用训练集对当前的模型进行一次或多次训练,每次训练时基于预定的损失函数更新模型的参数,该损失函数被配置为:惩罚源域的样本的分类偏差、惩罚源域和目标域的样本的样本特征间的边缘分布差异和条件分布差异以及惩罚每个样本对中两个样本对应的时序分布差异。
-
公开(公告)号:CN115690534A
公开(公告)日:2023-02-03
申请号:CN202211315590.8
申请日:2022-10-26
Applicant: 中国科学院计算技术研究所
IPC: G06V10/774 , G06V10/764 , G06V10/82
Abstract: 一种图像分类模型的训练方法,所述图像分类模型通过特征提取器提取样本对应的样本特征并通过分类器根据样本特征对样本进行分类,所述方法包括:S1、获取初始的训练集,其包括来自多个源域的样本及指示每个样本所属源域的域属性以及所属类别的标签,其中,所述样本为图像,各源域的标签空间相同,一种标签对应一个子域;S2、利用初始的训练集训练特征提取器提取样本特征,并基于第一损失函数计算的损失值更新特征提取器的参数,所述第一损失函数被配置为基于域属性和标签惩罚不同源域的同一子域的样本对应的样本特征之间的差异;S3、对初始的训练集中的样本进行增强处理以添加所述多个源域之外的增强样本,利用样本及其增强样本对特征提取器和两个分类器进行对抗训练。
-
-
-
-
-
-
-
-
-