-
公开(公告)号：CN108268950B
公开(公告)日：2020-11-10
申请号：CN201810042040.0
申请日：2018-01-16
Applicant: 上海交通大学
Abstract: 本发明提供了一种基于矢量量化的迭代式神经网络量化系统，包括：聚类模块、基于误差的划分模块、参数共享模块和重训练模块，其中：聚类模块充分利用参数本身的分布来控制量化误差；基于误差的划分模块将网络参数划分为量化和重训练两部分；参数共享模块将划分的量化部分进行量化；重训练模块固定量化后的参数，更新重训练部分的参数来弥补量化误差，恢复量化后网络的精度。四部分迭代式进行，直到网络所有参数都被量化为止。同时提供了一种基于矢量量化的迭代式神经网络量化方法。本发明在不损失网络精度的情况下，能够将神经网络的32位浮点数量化为4bit，具有很高的实用价值。
-
公开(公告)号：CN111477290B
公开(公告)日：2023-10-31
申请号：CN202010151109.0
申请日：2020-03-05
Applicant: 上海交通大学
IPC: G16H10/60 , G06F21/62 , G06V10/774
Abstract: 本发明提供一种保护用户隐私的联邦学习和图像分类方法、系统及终端，联邦学习方法包括：采集各终端上用户行为产生的数据，保存于该本地终端；服务器发送一个统一的模型给各终端，各终端利用采集到的所述数据训练所述模型；将各终端训练后的所述模型上传到所述服务器，所述服务器对所述模型先在不同终端之间进行交换后再全局聚合，或者，所述服务器对所述模型先进行部分聚合后再在不同终端之间交换，最后进行全局聚合。网络系统包括：本地训练模块、模型通信模块、模型交换模块、模型聚合模块。本发明对各终端数据分布不相同的联邦学习场景能得到比传统方法更好的效果，且保证了整个系统的隐私保护能力，使其能适应各种应用场景。
-
公开(公告)号：CN108268950A
公开(公告)日：2018-07-10
申请号：CN201810042040.0
申请日：2018-01-16
Applicant: 上海交通大学
CPC classification number: G06N3/08 , G06K9/6223
Abstract: 本发明提供了一种基于矢量量化的迭代式神经网络量化系统，包括：聚类模块、基于误差的划分模块、参数共享模块和重训练模块，其中：聚类模块充分利用参数本身的分布来控制量化误差；基于误差的划分模块将网络参数划分为量化和重训练两部分；参数共享模块将划分的量化部分进行量化；重训练模块固定量化后的参数，更新重训练部分的参数来弥补量化误差，恢复量化后网络的精度。四部分迭代式进行，直到网络所有参数都被量化为止。同时提供了一种基于矢量量化的迭代式神经网络量化方法。本发明在不损失网络精度的情况下，能够将神经网络的32位浮点数量化为4bit，具有很高的实用价值。
-
公开(公告)号：CN111477290A
公开(公告)日：2020-07-31
申请号：CN202010151109.0
申请日：2020-03-05
Applicant: 上海交通大学
Abstract: 本发明提供一种保护用户隐私的联邦学习和图像分类方法、系统及终端，联邦学习方法包括：采集各终端上用户行为产生的数据，保存于该本地终端；服务器发送一个统一的模型给各终端，各终端利用采集到的所述数据训练所述模型；将各终端训练后的所述模型上传到所述服务器，所述服务器对所述模型先在不同终端之间进行交换后再全局聚合，或者，所述服务器对所述模型先进行部分聚合后再在不同终端之间交换，最后进行全局聚合。网络系统包括：本地训练模块、模型通信模块、模型交换模块、模型聚合模块。本发明对各终端数据分布不相同的联邦学习场景能得到比传统方法更好的效果，且保证了整个系统的隐私保护能力，使其能适应各种应用场景。
-
-
-
Search Results
4
records
(took 0.018 seconds)
