分布式训练部署系统及其方法

    公开(公告)号:CN112486630B

    公开(公告)日:2024-07-26

    申请号:CN202011375644.0

    申请日:2020-11-30

    Abstract: 本发明公开了一种分布式训练部署系统。所述系统包括:从容器创建组件,基于用户输入的分布式任务创建申请包含的资源清单创建从容器集,并确认所创建的从容器处于可备用状态;主容器创建组件,基于用户输入的资源清单创建主容器,并确认所创建的主容器处于可备用状态;容器IP获取组件,获取所创建的主容器和从容器的IP,并基于所获取的IP创建JS对象简谱文件,并将该JS对象简谱文件写入所有主容器和从容器的指定位置;以及免密认证组件,通过对属于同一分布式任务的主容器和从容器配置安全密钥和认证信息,建立主容器和从容器之间的网络通讯的SSH免密认证。

    一种基于预训练标注数据不可知的图像分类自动标注方法

    公开(公告)号:CN113191385B

    公开(公告)日:2022-06-03

    申请号:CN202110318366.3

    申请日:2021-03-25

    Abstract: 本发明公开了一种基于预训练标注数据不可知的图像分类自动标注方法,包括如下步骤:S1,获取待标注图像,收集预训练图像分类模型;S2,将预训练图像分类模型拆分成特征提取模型与标签预测模型,并初始化,固定标签预测模型参数,不参与后续迁移训练;S3,约束特征提取模型,使自动标注模型的输出具体类别确定,整体分布离散;S4,对特征提取模型输出特征进行聚类;S5,筛选出大小超过阈值的聚类簇,所对应的类别组成为待标注图像标签空间;S6,给所有待标注图像打上伪标签;S7,重新聚类并分配伪标签,对特征提取模型进行有监督训练;S8,迭代S3至S7;S9,使用迁移后的自动标注模型对待标注图像进行推理,得到标注结果。

    一种深度学习训练过程数据转化为可视化数据方法和系统

    公开(公告)号:CN113419727A

    公开(公告)日:2021-09-21

    申请号:CN202110691724.5

    申请日:2021-06-22

    Abstract: 本发明涉及深度学习技术领域,具体涉及一种深度学习训练过程数据转化为可视化数据方法和系统,该方法包括:步骤一,定义可视化数据类型:基于Protobuf以自定义或编写的文件名为xxx的Proto文件,生成包含同一文件名的xxx_pb2.py代码;步骤二,数据转化:Python端通过调用summary_xxx.py将相应的训练过程数据转化为可视化数据,并组装成Protobuf类型的message对象或者Json字符串,C++端通过调用event_writer_helper组件或者summary_converter.h将获取的训练过程数据根据不同的需求进行处理后转化为可视化数据,并组装成Protobuf类型的message对象;步骤三,数据生成:将Python端或C++端生成的可视化数据写入日志文件。本发明极大地方便了模型训练过程中对于训练中间结果的数据分析和异常处理,提高了模型训练的效率。

    基于图像属性先验的自适应软标签正则化方法

    公开(公告)号:CN112801162A

    公开(公告)日:2021-05-14

    申请号:CN202110088346.1

    申请日:2021-01-22

    Abstract: 本发明公开了一种基于图像属性先验的自适应软标签正则化方法,包括如下步骤:S1,通过神经网络中间特征层聚合构建图像的属性表达;S2,利用重参数化方法对属性概率先验进行软采样;S3,利用现有真值标签对采样软标签进行修正和截断;S4,多尺度属性先验正则化。通过模仿人眼进行图像分类是依据图像局部属性重要性的能力,在利用少量参数的情况下,有效地缓解在图像分类任务中由于方法模型对于结果的过于自信导致的过拟合问题,有效的提升图像分类的准确性。本发明实现方法简单,手段灵活,可以比较容易地应用到一般性图像分类任务中。

    一种最大化随机平滑下提高模型可验证防御性能的方法

    公开(公告)号:CN112766336A

    公开(公告)日:2021-05-07

    申请号:CN202110028632.9

    申请日:2021-01-08

    Abstract: 本发明属于深度学习安全领域,涉及一种最大化随机平滑下提高模型可验证防御性能的方法,包括:步骤1、基于可微的连续映射函数推导出平滑分类器可验证防御半径与原始分类器输出之间的梯度关系;步骤2、采用平滑映射生成在可行域极值处的无穷小乘项与概率阈值限制可验证防御梯度值爆炸;步骤3、基于防御性能与准确率梯度推导可求解的目标函数;步骤4、基于目标优化函数对模型进行鲁棒性训练以实现最大化模型可验证防御。本发明通用于任意的深度学习以及机器学习分类器,首次求解了随机平滑技术下平滑分类器的可验证防御性能与原始分类器输出之间的梯度关系,解决了求解过程梯度爆炸问题,极大地提升了随机平滑下模型鲁棒性的训练效率。

Patent Agency Ranking