公开(公告)号：CN111126562A

公开(公告)日：2020-05-08

申请号：CN201911153108.3

申请日：2019-11-22

Applicant: 上海交通大学

Inventor： 李成林 ,  刘春苗 ,  戴文睿 ,  邹君妮 ,  熊红凯

IPC: G06N3/04 ,  G06N3/063 ,  G06N3/08 ,  H04B7/0413 ,  H04J11/00

Abstract: 本发明提供了一种基于神经网络的目标算法拟合方法，包括：获取能够被神经网络逼近的目标算法；对目标算法运行一次迭代得到不同输入和输出变量的数据集；将输入变量作为自变量，输出变量作为因变量，使用多元多项式拟合一次迭代的输入和输出变量；确定拟合单次迭代过程中多元多项式的单隐层神经网络结构；重复上述迭代过程，并将每一次的迭代过程串联起来，得到最终可以拟合整个目标算法的深度神经网络。同时提出了一种基于上述方法得到的深度神经网络、基于WMMSE算法的信道容量及能量分配优化方法以及用于执行上述方法的终端。本发明解决了复杂算法的拟合问题，并且能够实际指导神经网络的结构设计及神经网络层数和神经元个数的选取。

公开(公告)号：CN119761531A

公开(公告)日：2025-04-04

申请号：CN202411789975.7

申请日：2024-12-06

Applicant: 上海交通大学

Inventor： 李成林 ,  张豪 ,  阚诺文 ,  郑紫阳 ,  戴文睿 ,  邹君妮 ,  熊红凯

IPC: G06N20/00

Abstract: 本公开提供一种联邦学习方法及系统，其中，方法，应用于客户端，包括：接收服务器端发送的全局控制变量和全局模型；根据全局模型初始化本地模型，确定经过初始化的本地模型；将本地训练数据输入经过初始化的本地模型进行模型训练，确定本地模型的损失函数；根据本地模型的损失函数，基于反向传播和模型差异减少算法对本地模型进行更新处理，确定更新的本地模型；在本地模型进行预设次数的更新处理后，根据末次更新的本地模型和经过初始化的本地模型，确定本地模型改变量。通过本公开，在客户端引入模型差异减少算法，减少模型差异，避免本地模型过拟合，保护数据隐私，提高全局模型的收敛速率。

公开(公告)号：CN119399820A

公开(公告)日：2025-02-07

申请号：CN202411635087.X

申请日：2024-11-15

Applicant: 上海交通大学

Inventor： 郑紫阳 ,  田佳豪 ,  彭欣宇 ,  薛朵朵 ,  戴文睿 ,  邹君妮 ,  熊红凯

IPC: G06V40/16 ,  G06V10/82 ,  G06N3/08 ,  G06F17/11 ,  G06V10/30 ,  G06V10/74 ,  G06V10/26 ,  G06N3/0464

Abstract: 本发明提供了一种基于可控生成的图像处理方法、系统、终端和介质，包括：获取图像处理任务的条件信号以及信息提取模型，构建第一损失函数；选择预训练的扩散模型；基于扩散模型和第一损失函数进行迭代，包含：M1，从序列蒙特卡洛的初始分布中采样多个样本；M2，建立建议分布的优化估计和无条件的转移概率分布，获得序列蒙特卡洛的权重方程；M3，重采样得到新的样本；重复M1‑M3直至设定的迭代步数，得到最后的权重方程和采样的多个样本，得到最终生成的图像。本发明在文本条件图像生成、分割图条件图像生成、人脸图条件图像生成和风格图条件图像生成等任务中，能够实现高质量的多样的且免训练的图像条件生成，满足通用处理的需求。

公开(公告)号：CN119324993A

公开(公告)日：2025-01-17

申请号：CN202411351185.0

申请日：2024-09-26

Applicant: 上海交通大学

Inventor： 戴文睿 ,  李涵 ,  李劭辉 ,  李成林 ,  邹君妮 ,  熊红凯

IPC: H04N19/42 ,  G06N3/0455 ,  G06N3/08 ,  G06N3/0464 ,  G06F17/16 ,  G06F17/18 ,  G06T7/11

Abstract: 本公开提供一种图像压缩网络及及图像编码方法、解码方法、压缩方法，其中，图像压缩网络包括：编码网络、解码网络和熵模型；编码网络包括主编码网络和旁路编码网络，编码网络用于对待压缩图像编码，旁路编码网络采用正交线性约束；解码网络包括主解码网络和旁路解码网络，主解码网络和旁路解码网络并联连接，解码网络用于对压缩图像二进制码流进行解码，旁路解码网络采用正交线性约束；熵模型用于预测高斯分布的均值和方差。通过本公开，在图像压缩网络中引入旁路编码网络和旁路解码网络，高效减少端到端图像压缩网络的训练时间，在降低图像压缩码率开销的同时，提高重建图像的质量。

公开(公告)号：CN114584780B

公开(公告)日：2025-01-17

申请号：CN202210203902.X

申请日：2022-03-03

Applicant: 上海交通大学

Inventor： 戴文睿 ,  曹迈达 ,  李劭辉 ,  李成林 ,  邹君妮 ,  熊红凯

IPC: H04N19/19 ,  H04N19/192 ,  H04N19/147 ,  H04N19/146 ,  G06T9/00 ,  G06N3/084 ,  G06N3/0464 ,  G06F17/18

Abstract: 本发明公开一种基于深度高斯过程回归的图像编码方法，包括：采用编码卷积神经网络得到待编码图像的瓶颈层多通道特征，作为第一特征图；将第一特征图中的每个特征量化为整数，得到第二特征图；基于深度高斯过程回归的自回归模型和超先验模型，对第二特征图的每一个通道，加权组合多个高斯分布的混合高斯分布编码特征，生成特征二进制码流；将超先验模型得到的超先验信息编码为超先验二进制码流；合并超先验二进制码流与特征二进制码流，得到压缩图像的二进制码流。采用非参数化的深度高斯过程回归方法进行自回归建模，将深度高斯过程回归输出的后验分布作为混合高斯模型的均值，可以灵活地获得均值估计的不确定性，从而得到更准确的均值估计。

公开(公告)号：CN119272834A

公开(公告)日：2025-01-07

申请号：CN202411325736.6

申请日：2024-09-23

Applicant: 上海交通大学

Inventor： 李成林 ,  张豪 ,  戴文睿 ,  郑紫阳 ,  邹君妮 ,  熊红凯

IPC: G06N3/082 ,  G06N3/045 ,  G06N3/084 ,  G06N3/063

Abstract: 本发明提供了一种基于NAG模拟的联邦学习稳定加速方法，在客户端，接收服务器的全局加速项和全局模型；根据全局模型初始化本地模型；将本地训练数据输入本地模型进行训练，确定本地模型的损失函数，并基于反向传播和全局加速项，获得本地加速项，对本地模型进行更新；在更新定次数之后，将更新末次和初始的模型作差，确定本地模型目标改变量。在服务器端，包括：接收客户端的模型改变量；通过聚合所有模型改变量更新全局模型；基于聚合结果更新全局加速项。同时提供一种相应的联邦学习方法。本发明极大提高全局模型的收敛速率，并通过减少模型差异避免本地模型过拟合，且不会泄露客户端的数据隐私，能够适应各种分布式应用场景。

公开(公告)号：CN119204092A

公开(公告)日：2024-12-27

申请号：CN202411340809.9

申请日：2024-09-25

Applicant: 上海交通大学

Inventor： 邹君妮 ,  姜以恒 ,  戴文睿 ,  郑紫阳 ,  阚诺文 ,  李成林 ,  熊红凯

IPC: G06N3/042 ,  G06N3/045 ,  G06N3/047 ,  G06N3/08 ,  G06Q50/00 ,  G16B5/00 ,  G16B40/00

Abstract: 本发明提供图网络信息度量、鲁棒的图表示学习以及图数据分析方法，主要包括：获取图网络拓扑的邻接矩阵；基于所述邻接矩阵计算所述图网络拓扑的边曲率；将所述边曲率作为图网络信息度量，依据网络信息度量理论判定相关子拓扑是否存在拓扑缺陷。本发明采用边曲率度作为网络信息度量，可以准确实现图拓扑缺陷检测。其鲁棒的图表示学习方法，分别提取所述修改后网络拓扑和修改前网络拓扑的特征表示，整合所述特征表示得到网络拓扑的表示学习结果，可以显著提升基于图神经网络的图表示学习的稳定性和准确性，减少图表示在消息传递过程中的过压缩现象，保证表示学习性能。

公开(公告)号：CN119180874A

公开(公告)日：2024-12-24

申请号：CN202411211529.8

申请日：2024-08-30

Applicant: 上海交通大学

Inventor： 熊红凯 ,  李劭辉 ,  马硕宇 ,  戴文睿 ,  李成林 ,  邹君妮

IPC: G06T9/00 ,  H04N1/41 ,  H04N19/91 ,  G06N3/0464 ,  G06N3/0455

Abstract: 本发明提供一种面向机器和人类视觉的图像编码、解码方法及压缩方法，其主要过程是：获得待编码图像的第一特征图和第二特征，获得第一特征图的超先验信息；获得待编码图像在不同机器视觉任务下的量化步长并量化得到对应特征图；将上述特征图建模为高斯分布，通过熵模型预测对应的均值和方差；根据每层特征图的分布和概率逐层进行编码得到特征图二进制码流；合并超先验信息二进制码流和特征图二进制码流，得到压缩图像二进制码率。本发明自适应调整特征图量化的量化步长，形成针对人类视觉和不同机器视觉任务的传输特征码流，可以更高效地利用特征图中的信息，减小传输码率的同时，保证机器视觉任务的性能，同时均衡面向人类视觉的率失真性能。

公开(公告)号：CN119046761A

公开(公告)日：2024-11-29

申请号：CN202411173698.7

申请日：2024-08-26

Applicant: 上海交通大学

Inventor： 戴文睿 ,  李鑫 ,  郑紫阳 ,  李成林 ,  邹君妮 ,  熊红凯

IPC: G06F18/241 ,  G06F18/28 ,  G06N3/042 ,  G06N3/0464 ,  G06N3/084 ,  G06F18/213

Abstract: 本公开提供一种基于判别式图卷积字典学习的信号分析方法及系统，其中，基于判别式图卷积字典学习的信号分析方法，包括：获取用于训练的重组的训练信号和图邻接矩阵；根据用于训练的重组的训练信号和图邻接矩阵，建立判别式图卷积字典学习目标函数；对判别式图卷积字典学习目标函数进行迭代优化，获取卷积图字典和线性分类器；采用卷积图字典和线性分类器对待分析信号进行信号分析，确定待分析信号的信号分析结果。通过本公开，有效利用拓扑结构之间的相关性，引入解析去相关项约束学习线性分类器，确保不同类别分类器对特征的区分性，提高基于图字典的信号分析判别能力，进而提高规则信号和非规则信号的分析准确性。

公开(公告)号：CN118898277A

公开(公告)日：2024-11-05

申请号：CN202410937603.8

申请日：2024-07-12

Applicant: 上海交通大学

Inventor： 戴文睿 ,  丁立 ,  费文 ,  李成林 ,  邹君妮 ,  熊红凯

IPC: G06N3/0495 ,  G06N3/0464 ,  G06N3/08 ,  G06V10/82 ,  G06V10/764

Abstract: 本发明提供一种自适应精度神经网络训练方法和系统，包括：计算模型训练过程中的权重、激活和梯度对模型损失的敏感度度量，衡量各个层量化的影响；基于所述敏感度度量，设计权重、激活和梯度的位宽分配方案，在训练过程每经过一定的训练时间，根据所述敏感度度量对位宽逐层进行动态调整；各个层根据权重、激活和梯度调整后的当前位宽，选择对应的低位整数矩阵计算算子，替换掉原有的浮点计算算子。本发明能够在保证网络训练后的性能的前提下，降低网络训练过程中的计算量，减少神经网络训练在实际场景下的开销。