一种联邦学习的模型分发与聚合的传输调度方法

    公开(公告)号:CN111580970B

    公开(公告)日:2023-02-03

    申请号:CN202010377635.9

    申请日:2020-05-07

    Abstract: 本发明公开了一种联邦学习的模型分发与聚合的传输调度方法,涉及模型训练通信技术领域,该方法通过调度节点实现对各执行节点的在线调度,使已拥有最新全局模型的执行节点,向不具有最新全局模型的执行节点传输最新全局模型,直至所有的执行节点均拥有最新全局模型;通过调度节点实现对各执行节点的在线调度,使各执行节点之间进行模型数据的局部聚合,所有模型数据的聚合方向最终均指向中心服务器,直至所有参与节点的本地模型数据均聚合至中心服务器。本发明充分利用参与节点间的带宽资源加速模型通信,缓解了模型分发或聚合过程中流组的盲目竞争,减小了带宽受限的域间网络的拥塞程度,大大提高了联邦学习模型的训练效率,不会降低模型质量。

    一种区块链联邦学习系统及拜占庭攻击检测方法

    公开(公告)号:CN112100659A

    公开(公告)日:2020-12-18

    申请号:CN202010963388.0

    申请日:2020-09-14

    Abstract: 本发明公开了一种区块链联邦学习系统及拜占庭攻击检测方法,其中区块链联邦学习系统包括数据持有者、验证器、矿工和任务发布者;若干个验证器构成验证器组,每个验证器组与一个矿工相连接构成边缘云,每个数据持有者随机与附近边缘云的验证器组中的任一验证器相连接;所有边缘云的矿工构建区块链网络,并通过区块链网络与任务发布者相连。本区块链联邦学习系统可部署于包含移动边缘计算、微数据中心、微云在内的多种边缘计算场景中,利用边缘基础设施的充足计算、通信、存储资源来均衡验证负载,从而减小验证时延,提高系统效率。本方法可以容忍负精度增益的本地模型,能够在保障模型精度无损的前提下取得高检测率。

    一种基于分层参数服务器的多机构协同学习系统及方法

    公开(公告)号:CN110995488B

    公开(公告)日:2020-11-03

    申请号:CN201911220964.6

    申请日:2019-12-03

    Abstract: 本发明公开了一种基于分层参数服务器的多机构协同学习系统,包括中心机构,以及与所述中心机构通过WAN网连接的若干个参与机构。基于上述系统,本发明还公开了一种基于分层参数服务器的多机构协同学习方法。本发明解决了大数据的数据孤岛问题,解决了多方协作时的数据隐私安全问题,解决了现有系统的高通信代价、高维护成本、高安全风险、低资源利用率问题。本发明在保障数据隐私安全的前提下实现了通信高效、计算高效的多方协同学习,适用于多独立机构、多数据中心的跨域互联。本发明所提出的系统支持平台模式和参与模式,既能用作平台提供多方知识融合服务,也能用作工具支持多个独立机构间的共享协作。

    一种联邦学习的模型分发与聚合的传输调度方法

    公开(公告)号:CN111580970A

    公开(公告)日:2020-08-25

    申请号:CN202010377635.9

    申请日:2020-05-07

    Abstract: 本发明公开了一种联邦学习的模型分发与聚合的传输调度方法,涉及模型训练通信技术领域,该方法通过调度节点实现对各执行节点的在线调度,使已拥有最新全局模型的执行节点,向不具有最新全局模型的执行节点传输最新全局模型,直至所有的执行节点均拥有最新全局模型;通过调度节点实现对各执行节点的在线调度,使各执行节点之间进行模型数据的局部聚合,所有模型数据的聚合方向最终均指向中心服务器,直至所有参与节点的本地模型数据均聚合至中心服务器。本发明充分利用参与节点间的带宽资源加速模型通信,缓解了模型分发或聚合过程中流组的盲目竞争,减小了带宽受限的域间网络的拥塞程度,大大提高了联邦学习模型的训练效率,不会降低模型质量。

    基于分布式机器学习的同步训练方法、服务器及系统

    公开(公告)号:CN111444021A

    公开(公告)日:2020-07-24

    申请号:CN202010254049.5

    申请日:2020-04-02

    Abstract: 本发明公开了一种基于分布式机器学习的同步训练方法、服务器及系统,状态查询服务器的训练方法包括监听来自计算服务器的状态消息,更新状态数据库中当前计算服务器的状态,根据状态数据库中所有计算服务器的实时状态和任务进度决策当前计算服务器的下一动作,并将携带下一动作的状态响应消息发送给当前计算服务器;计算服务器的训练方法包括循环执行以下动作:向状态查询服务器发送状态消息,根据状态查询服务器反馈的状态响应消息决定下一动作:继续本地计算,或立即全局聚合。服务器系统由通过广域网互联的中心机构与若干参与机构的服务器构成;中心机构包括参数服务器和状态查询服务器;参与机构包括数据库服务器和计算服务器。

    一种光电交换网络中分布式机器学习流的调度方法

    公开(公告)号:CN110990140A

    公开(公告)日:2020-04-10

    申请号:CN201911257668.3

    申请日:2019-12-10

    Abstract: 本发明公开了一种光电交换网络中分布式机器学习流的调度方法,先利用HLF算法计算每一个任务中流的调度顺序及该任务单次迭代的通信时间,然后再根据SWRTF算法调度多个DML任务;其中,对于多个DML任务,首先根据SWRTF算法中的优先级定义计算出每个任务的优先级,然后选择具有最高优先级的任务,并使用HLF算法得到的流调度顺序调度这个任务的流,当这个任务完成通信阶段,转入计算阶段后,又重新选择可调度的、具有最高优先级的任务,直到所有任务都完成。

Patent Agency Ranking