公开(公告)号：CN111931949A

公开(公告)日：2020-11-13

申请号：CN202010395898.2

申请日：2020-05-12

Applicant: 国际商业机器公司

Inventor： A·安瓦尔 ,  周亦 ,  N·B·安杰尔 ,  H·H·路德维希

IPC: G06N20/20

Abstract: 公开了一种在联邦学习环境中进行通信的计算机实现的方法，该联邦学习环境包括：聚合器和多个联邦学习参与者，该多个联邦学习参与者分别地维持它们自己的数据并且与聚合器通信。聚合器针对与落后者相关联的因素监测多个联邦学习参与者。基于对因素的监测，联邦学习参与者被分配到多个层中。聚合器查询在所选择的层中的联邦学习参与者并且将晚响应者指定为落后者。可针对每一层定义最大等待时间。聚合器应用针对退学者的预测响应以更新联邦学习模型的训练，该预测响应包括所收集的参与者的回答以及与所述落后者相关联的计算预测。在指定等待时间内未响应的联邦学习参与者被指定为退学者。联邦学习模型的训练用所收集的参与者的回答以及与退学者相关联的计算预测来更新。

公开(公告)号：CN112131568A

公开(公告)日：2020-12-25

申请号：CN202010552253.5

申请日：2020-06-17

Applicant: 国际商业机器公司

Inventor： N·B·安杰尔 ,  周亦 ,  B·陈 ,  A·安瓦尔 ,  H·H·路德维希

IPC: G06F21/55 ,  G06K9/62 ,  G06N3/04 ,  G06N20/00

Abstract: 本发明涉及推理时对已训练模型的对抗性后门攻击的检测。提供了有助于在推理时检测对已训练模型的对抗性后门攻击的系统、计算机实现的方法和计算机程序产品。根据一个实施例，系统可以包括：存储计算机可执行组件的存储器；以及执行存储在所述存储器中的所述计算机可执行组件的处理器。所述计算机可执行组件可以包括日志组件，记录由已训练模型基于推理请求生成的预测和相应激活值。所述计算机可执行组件可以进一步包括分析组件，在推理时使用模型以基于所述预测和所述相应激活值来检测后门触发请求。在一些实施例中，所述日志组件记录来自所述已训练模型的一个或多个层的所述预测和所述相应激活值。