公开(公告)号：CN111832638A

公开(公告)日：2020-10-27

申请号：CN202010620340.X

申请日：2020-06-30

Applicant: 上海交通大学

Inventor： 马汝辉 ,  邓瀚铭 ,  宋涛 ,  华扬 ,  管海兵

IPC: G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种增强深度残差卷积网络前向传播稳定性系统及方法，涉及深度学习，深度神经网络训练等领域。包括可优化的吸引子向量，衡量吸引子对网络特征吸引力并提供目标吸引子的吸引子网络和二阶优化目标函数。本发明在基于深度神经网络的监督分类任务基础上提出加强深度残差卷积网络及其类似网络前向传播稳定性的吸引子网络，在不改变网络预测时计算参数的情况下，改善了深度残差卷积网络在测试集的分类精度，提升了深度残差卷积网络的泛化性能。

公开(公告)号：CN109005060A

公开(公告)日：2018-12-14

申请号：CN201810870834.6

申请日：2018-08-02

Applicant: 上海交通大学

Inventor： 张宗璞 ,  马汝辉 ,  华扬 ,  宋涛 ,  管海兵

IPC: H04L12/24 ,  H04L29/06 ,  H04L29/08 ,  G06N3/04

Abstract: 本发明公开了一种基于层级化高度异构分布式系统的深度学习应用优化框架，涉及计算科学方向深度学习领域，包括运行准备阶段和运行阶段，所述运行准备阶段用于进行深度神经网络训练，所述运行阶段对分布式系统中各类设备进行任务分配，并使用数据加密模块对用户敏感数据进行隐私保护。本发明的系统任务异构特性，在保证整体性能的前提下，降低系统响应时间，保证用户体验，基于神经网络的数据加密模块，能够以较低的计算代价和存储代价对用户敏感数据进行隐私保护，保障用户数据安全。