-
公开(公告)号：CN115758226A
公开(公告)日：2023-03-07
申请号：CN202310019270.6
申请日：2023-01-06
Applicant: 之江实验室
IPC: G06F18/24 , G06F18/25 , G06N3/045 , G06N3/08 , G06N3/0442
Abstract: 本说明书公开了一种异常检测的方法、装置、存储介质及电子设备。该异常检测的方法包括：获取目标设备的状态数据，以及所处环境的环境数据，将状态数据以及环境数据输入预先训练的检测模型，通过检测模型的特征提取层，确定状态特征以及环境特征，将状态特征输入检测模型中设有至少两个子网络的特征转换层，以确定各子网络输出的转换后特征，以及，根据状态特征和环境特征，确定各子网络在不同检测任务下对应的权重，进而确定目标设备在不同检测任务下对应的目标特征，并对目标设备进行异常检测。
-
公开(公告)号：CN115731433A
公开(公告)日：2023-03-03
申请号：CN202211503704.1
申请日：2022-11-28
IPC: G06V10/774 , G06V10/764 , G06V10/82 , G06N3/04 , G06N3/08
Abstract: 一种基于模型权重混合的在线知识蒸馏方法及系统，包括：1)服务端收集标注数据，划分为训练集和验证集；2)选取N个相同架构的学生模型，并通过线性加权学生参数构建权重混合模型；3)选取数据增强将训练集扩充成N+1份，分别输入N个学生和权重混合模型中，得到N+1个预测输出以及他们的平均集成预测；4)计算每个学生和权重混合模型的分类损失；5)计算每个学生输出与集成预测之间的知识蒸馏损失；6)计算每个学生的参数优化目标并更新N个学生的参数；7)重复3‑6步骤，每个轮次后根据更新后的学生重新构建混合权重模型，并每隔固定轮次Δ，将混合权重模型的参数融合到学生中；8)选取验证集上表现最优的模型部署到终端设备上。
-
公开(公告)号：CN117574982A
公开(公告)日：2024-02-20
申请号：CN202410060305.5
申请日：2024-01-16
Applicant: 之江实验室
IPC: G06N3/08 , G06N3/045 , G06N3/0464 , G06N3/047 , G06N3/0499 , G06V10/82 , G06V10/774 , G06V10/764
Abstract: 一种基于线性变换的预训练模型微调方法和装置，其方法包括：收集与下游任务的相关图像数据，对图像数据划分训练集、验证集，并进行适当的预处理，选择合适的预训练模型，修改该模型的任务头，以适配下游任务，并冻结预训练模型的骨干部分；在相邻层间插入线性变换模块，所述线性变换模块用于对特征的缩放和平移；利用下游任务的数据微调预训练模型，保存在验证集上表现最优的模型权重；利用重参数技术将线性变换模块的参数融入到相邻层中，最后部署模型，完成下游任务。本发明引入的待学习参数少，在多种下游任务上，能够实现更高的准确率，并且，在模型推理阶段采用重参数技术将引入的参数融入了模型骨干层中，极大地简化了模型的部署。
-
公开(公告)号：CN117237744B
公开(公告)日：2024-01-30
申请号：CN202311497032.2
申请日：2023-11-10
Applicant: 之江实验室
IPC: G06V10/764 , G06V10/82 , G06N3/0464 , G06N3/08
Abstract: 本说明书公开了一种图像分类模型的训练方法、装置、介质及电子设备，包括：获取各样本图像，以及确定各样本图像分别在预设的各目标类别中所属的类别，并作为各样本图像分别对应的标注。基于各样本图像以及各标注，对预先训练的第一模型进行训练，得到第二模型。融合各样本图像中不同类别的样本图像，得到训练样本。根据训练样本以及第二模型，确定训练样本对应的标准特征。将训练样本输入第一模型，确定训练样本对应的样本特征。至少根据样本特征以及标准特征，对第一模型进行训练，并将训练完成的第一模型作为图像分类模型，增强图像分类模型的表征能力，提高图像分类模型的输出结果的准确性。(56)对比文件Thangarajah Akilan et al..Fusion oftransfer learning features and itsapplication in image classification《.2017IEEE 30th Canadian Conference onElectrical and Computer Engineering(CCECE)》.2017,第1-5页.
-
公开(公告)号：CN117152752A
公开(公告)日：2023-12-01
申请号：CN202311415421.6
申请日：2023-10-30
Applicant: 之江实验室
IPC: G06V20/70 , G06V10/774 , G06V10/764 , G06V10/82
Abstract: 本发明公开了一种自适应权重的视觉深度特征重建方法和装置，将训练集图像分别输入视觉编码器E1和视觉编码器E2，以视觉编码器E2计算得到的重建特征目标 作为视觉编码器E1的监督信号；根据监督特征自身的数值大小，构建特征重建损失 ，使视觉编码器E1在训练过程中，更加关注监督特征的重要信息，减弱无关冗余信息对特征学习的影响。实践表明，本发明能够简单有效的提升编码器对数据的表征能力，并且，相对于现有技术方法，不需要额外的训练成本，能够充分利用监督特征的有益知识信息。
-
Patent Agency Ranking
公开(公告)号：CN116028891A
公开(公告)日：2023-04-28
申请号：CN202310123067.3
申请日：2023-02-16
Applicant: 之江实验室
IPC: G06F18/25 , G06F18/214 , G06N3/0442 , G06N3/0464 , G06N3/08
Abstract: 本发明公开一种基于多模型融合的工业异常检测模型训练方法和装置，该方法包括：步骤一，获取传感器数据后进行预处理；步骤二，将预处理得到的传感器特征张量分别输入多个教师模型和学生模型，获取模型中各个网络层的特征；步骤三，将所述特征中的中间层张量映射为公共空间张量；步骤四，对所有教师模型的公共空间张量加权平均，得到与学生公共空间张量相对应的教师加权张量，将所有教师模型任务层向量横向拼接成教师任务层拼接向量；步骤五，获取模型的蒸馏损失、任务损失以及预测损失，并加权求和得到总损失；步骤六，重复以上步骤，最小化总损失，更新学生模型神经网络参数，直至收敛，最终固定学生模型神经网络参数，获得目标模型，完成训练。
-
公开(公告)号：CN118378091B
公开(公告)日：2024-09-24
申请号：CN202410791652.5
申请日：2024-06-19
Applicant: 之江实验室
IPC: G06F18/214 , G06F18/27 , G06F18/2431 , G06N3/0464 , G06N3/084
Abstract: 测天文光红移的标准数据集和基线模型的构建方法和系统，其方法包括：收集与测光红移任务相关的天文图像数据，进行数据预处理；计算红移真值并进行归一化处理，将红移数据转换为三元组；选择深度模型，根据分类数量修改模型头部为并行的分类头和回归头，并随机初始化网络参数；对输入样本计算分类损失和回归损失，并使用梯度下降算法更新神经网络模型参数，直至模型在训练集上的损失不再降低；联合建模深度神经网络和贝叶斯神经网络实现红移的不确定性估计；最后将训练好的模型进行部署，完成红移估计任务。本发明针对测光红移估计问题，建立了完整的机器学习数据集和基线模型方法，推进了机器学习方法在天文测光红移问题的应用。
-
公开(公告)号：CN118365975B
公开(公告)日：2024-09-06
申请号：CN202410799005.9
申请日：2024-06-20
Applicant: 之江实验室
IPC: G06V10/764 , G06V10/774 , G06V10/776 , G06V10/82 , G06N3/0464 , G06N20/00
Abstract: 天文图像形态分类标准数据集和基线模型构建方法与系统，其方法包括：收集与形态分类任务相关的天文图像数据，设定形态分类问题；针对收集的图像数据和设立的形态分类问题进行粗标注，设计正负样本阈值机制筛选高质量的标注数据并划分训练集和验证集；选择待训练的深度模型，修改模型头部为多个并行的全连接，实现全连接网络与形态分类问题相互对应，随机初始化网络参数；计算每个全连接神经网络的预测值与真值之间的交叉熵之和作为训练损失，并根据梯度下降算法更新网络参数；最后将训练好的模型进行部署，完成形态分类任务。本发明建立了形态分类问题的标准数据集和评价指标，能够同时用于所有的形态分类问题。
-
公开(公告)号：CN117152752B
公开(公告)日：2024-02-20
申请号：CN202311415421.6
申请日：2023-10-30
Applicant: 之江实验室
IPC: G06V20/70 , G06V10/774 , G06V10/764 , G06V10/82
Abstract: 本发明公开了一种自适应权重的视觉深度特征重建方法和装置，将训练集图像分别输入视觉编码器E1和视觉编码器E2，以视觉编码器E2计算得到的重建特征目标#imgabs0#作为视觉编码器E1的监督信号；根据监督特征自身的数值大小，构建特征重建损失#imgabs1#，使视觉编码器E1在训练过程中，更加关注监督特征的重要信息，减弱无关冗余信息对特征学习的影响。实践表明，本发明能够简单有效的提升编码器对数据的表征能力，并且，相对于现有技术方法，不需要额外的训练成本，能够充分利用监督特征的有益知识信息。
-
公开(公告)号：CN116205290A
公开(公告)日：2023-06-02
申请号：CN202310499470.6
申请日：2023-05-06
Applicant: 之江实验室
IPC: G06N3/096 , G06N3/0464 , G06V10/764 , G06V10/82 , G06V10/80 , G06V10/74
Abstract: 一种基于中间特征知识融合的知识蒸馏方法和装置，将图像数据喂入教师模型和学生模型，并提取教师模型和学生模型的各阶段中间特征；构建阶段级残差连接，将学生模型某一阶段中间特征与上一阶段特征实现特征知识融合；将教师模型与融合后的学生模型分别经过全局平均池化，构建出语义类别特征向量，对该特征向量计算交叉熵损失，以最大化特征相似性；将学生模型预测输出与类别标签的分类损失与特征向量相似性损失加权求和，训练学生模型。还包括一种基于中间特征知识融合的知识蒸馏系统。本发明相较于现有技术，本发明充分融合教师模型的中间特征知识，知识蒸馏性能更优。
-
-
-
-
-
-
-
-
-
Search Results
21
records
(took 0.02 seconds)
