-
公开(公告)号:CN118410840A
公开(公告)日:2024-07-30
申请号:CN202410516751.2
申请日:2024-04-28
IPC: G06N3/0495 , G06N3/045 , G06N3/098 , H04L67/10 , H04L69/04
Abstract: 本发明公开了一种联邦学习客户端通信压缩方法、客户端装置及联邦学习系统,方法包括:在当前迭代轮次下,从服务器接收最新模型wi,通过多次训练完成局部训练,得到模型wi′;使用wi与上一次参与训练保存的模型w0的差值,和当前参与训练的迭代轮次ti与上次参与训练时的迭代轮次t0的差值,求比值获得全局更新梯度预估值#imgabs0#根据wi′与wi的差值,获得模型的训练梯度gi;使用#imgabs1#和gi求得梯度的贡献度Wi;基于当前迭代轮数的梯度的贡献度大小,完成梯度矩阵稀疏化,将稀疏化后的梯度上传至服务器。本发明考虑用户偏移程度,能够在减少通信代价的同时,缓解数据非独立同分布对于模型收敛的稳定性和最终性能的影响。
-
公开(公告)号:CN114925852B
公开(公告)日:2025-02-11
申请号:CN202210563311.3
申请日:2022-05-20
Applicant: 南京大学
Abstract: 本发明公开了一种基于模型分割和资源分配的联邦学习训练方法及系统。所述方法面向在资源受限且异构的边缘环境中执行的联邦学习训练任务,将待训练模型自适应划分为两部分,将其中一部分模型的训练任务从工作节点卸载到主节点,同时结合对带宽资源和主节点计算资源的动态调整,极大地减少了联邦学习训练过程中的通信开销并且有效平衡了异构工作节点的完成时间,从而显著提升了联邦学习的训练速度。
-
公开(公告)号:CN113473420B
公开(公告)日:2023-01-31
申请号:CN202110746244.4
申请日:2021-07-02
Applicant: 南京大学
IPC: H04W4/70 , H04W12/02 , H04W12/041 , H04W12/10
Abstract: 本发明公开了一种面向无线网络环境的科研数据隐私保护增强方法及系统,所述方法包括:建立移动设备不同姿势和位移的变化模式,根据移动设备从无线网络信号发射源接收的无线网络信号的信号强度变化来检测设备状态变化的起始点,并对接收到的信号进行校准处理;将经过校准处理的数据序列量化为比特序列;根据比特序列计算密钥,通过移动设备之间相互交换加密消息来验证相互认证的一致性,生成独特且随机的对称密钥并建立完全连接。本发明通过测量无线网络信道的接收信号强度变化来量化移动设备的抖动模式并生成密钥,提高无线网络环境下科研数据的隐私保护性。
-
公开(公告)号:CN115457137A
公开(公告)日:2022-12-09
申请号:CN202211120490.X
申请日:2022-09-15
Applicant: 南京大学
Abstract: 本发明公开了一种基于摩尔纹的测距系统及方法,包括:摩尔纹图像处理模块,用于对摄像头拍摄到的以屏幕为主体的图像进行处理,提取清晰的摩尔纹二值化图像;摩尔纹特征提取模块,根据摩尔纹频谱图中脉冲区域所在的位置构建频率向量,根据频率向量的参数提取摩尔纹统计性特征;距离测量模块,对所述物理单位转换后的统计性特征的有效性进行验证,若特征有效,则构建摩尔纹统计性特征与距离之间的模型,实现摄像头到屏幕的距离测量;若特征无效,则通过缩略图降频法获得有效的摩尔纹图像,然后重新执行摩尔纹特征提取。本发明利用摄像头前端色滤阵列与屏幕投影像素叠加而成的摩尔纹实现摄像头到屏幕的距离感知,具备极高的测距精度。
-
公开(公告)号:CN114925852A
公开(公告)日:2022-08-19
申请号:CN202210563311.3
申请日:2022-05-20
Applicant: 南京大学
Abstract: 本发明公开了一种基于模型分割和资源分配的联邦学习训练方法及系统。所述方法面向在资源受限且异构的边缘环境中执行的联邦学习训练任务,将待训练模型自适应划分为两部分,将其中一部分模型的训练任务从工作节点卸载到主节点,同时结合对带宽资源和主节点计算资源的动态调整,极大地减少了联邦学习训练过程中的通信开销并且有效平衡了异构工作节点的完成时间,从而显著提升了联邦学习的训练速度。
-
公开(公告)号:CN114756381A
公开(公告)日:2022-07-15
申请号:CN202210555877.1
申请日:2022-05-20
Applicant: 南京大学
Abstract: 本发明公开了一种基于MDS编码和灵活调度策略的分布式计算方法及系统。所述方法面向主从分布式计算框架,基于不同的任务到达速率,在考虑撤销冗余任务开销不可忽略的场景下,通过设计合适的模型编码方案和任务调度策略,既缓解了分布式系统中的落后者问题,又在任务冗余数量和系统负载之间做出权衡,从而降低了整体任务的平均执行时间。同时考虑了在调整模型编码方案和任务调度策略后存在新老任务的情况,通过设计区别任务类型的兼容方案,可以避免调整前的任务计算结果无效。
-
公开(公告)号:CN113505021A
公开(公告)日:2021-10-15
申请号:CN202110577964.2
申请日:2021-05-26
Applicant: 南京大学
IPC: G06F11/14
Abstract: 本发明公开了一种基于多主节点主从分布式架构的容错方法及系统。所述方法包括:S10、为工作节点分配计算任务并设计容忍落后者问题的编码计算方案;S20、工作节点完成本地计算并根据一定策略将计算结果传输至各个主节点;S30、主节点接收来自各个工作节点的计算结果并根据解码方案生成中间值。通过多个主节点与工作节点合作完成迭代计算任务中的聚合工作以降低每个节点处的工作负载。通过对每个工作节点计算结果使用编码生成冗余数据,可以避免工作节点计算结果丢失,以应对主节点出错的情形。
-
公开(公告)号:CN111490795B
公开(公告)日:2021-09-24
申请号:CN202010446348.9
申请日:2020-05-25
IPC: H03M7/30
Abstract: 本发明公开了一种面向中间值长度异构的编码MapReduce方法。所述方法基于不同Reduce函数间所需中间值的字节长度非全等但相同Reduce函数下所需的中间值字节长度相等的场景,通过对输入文件集进行冗余存储放置与Reduce函数的适当分配,并对中间值采用编码与多播相结合的方式,极大地压缩Shuffle阶段的数据传输量,避免不必要的通信开销,从而缩短整个MapReduce任务的执行时间。
-
公开(公告)号:CN111490795A
公开(公告)日:2020-08-04
申请号:CN202010446348.9
申请日:2020-05-25
IPC: H03M7/30
Abstract: 本发明公开了一种面向中间值长度异构的编码MapReduce方法。所述方法基于不同Reduce函数间所需中间值的字节长度非全等但相同Reduce函数下所需的中间值字节长度相等的场景,通过对输入文件集进行冗余存储放置与Reduce函数的适当分配,并对中间值采用编码与多播相结合的方式,极大地压缩Shuffle阶段的数据传输量,避免不必要的通信开销,从而缩短整个MapReduce任务的执行时间。
-
公开(公告)号:CN105072194B
公开(公告)日:2018-05-29
申请号:CN201510533882.2
申请日:2015-08-27
Applicant: 南京大学 , 南京南瑞集团公司 , 国家电网公司 , 国网上海市电力公司 , 国网冀北电力有限公司信息通信分公司
IPC: H04L29/08
Abstract: 本发明公开了一种分布式文件系统中的存储数据修复结构及其修复方法。本发明设计了一种通用的修复框架,包括修复树生成协议模块,编码数据传输协议模块,网络监测模块,编码模块;其可以很方便的应用到现有的分布式存储系统中。在树形结构修复中,能够结合网络的拓扑结构,根据节点之间链路的使用情况,构造合理的传输路径,并在中间节点进行编码和解码,以达到减少数据修复过程中产生的流量开销。同时还能够利用网络中资源较多的链路来降低整个数据修复过程中的时间开销。从另一方面来讲,这对于网络中的负载均衡也有很重要的意义,能很好的避免性能瓶颈的产生。
-
-
-
-
-
-
-
-
-