公开(公告)号：CN112633311A

公开(公告)日：2021-04-09

申请号：CN202011009948.5

申请日：2020-09-23

Applicant: 罗伯特·博世有限公司

Inventor： J·Z·柯尔特 ,  A·K·萨胡

IPC: G06K9/62 ,  G06N3/08

Abstract: 利用输入数据结构的高效黑盒对抗性攻击。马尔可夫随机场参数被标识以用于分类器的损失函数的梯度项之间的相关性的协方差建模。根据正态分布从图像数据集对图像子集进行采样，以估计梯度项。黑盒梯度估计用于根据采样推断马尔可夫随机场参数的值。由推断值生成傅立叶基向量。使用傅立叶基向量扰动原始图像以获得损失函数值。从损失函数值获得梯度的估计。使用估计的梯度创建图像扰动。图像扰动被添加到原始输入以生成候选对抗性输入，该候选对抗性输入使分类器标识图像中的损失最大化。查询神经网络分类器以确定针对候选对抗性输入的分类器预测。

公开(公告)号：CN112633311B

公开(公告)日：2025-02-28

申请号：CN202011009948.5

申请日：2020-09-23

Applicant: 罗伯特·博世有限公司

Inventor： J·Z·柯尔特 ,  A·K·萨胡

IPC: G06N3/094 ,  G06N3/09 ,  G06F18/241

Abstract: 利用输入数据结构的高效黑盒对抗性攻击。马尔可夫随机场参数被标识以用于分类器的损失函数的梯度项之间的相关性的协方差建模。根据正态分布从图像数据集对图像子集进行采样，以估计梯度项。黑盒梯度估计用于根据采样推断马尔可夫随机场参数的值。由推断值生成傅立叶基向量。使用傅立叶基向量扰动原始图像以获得损失函数值。从损失函数值获得梯度的估计。使用估计的梯度创建图像扰动。图像扰动被添加到原始输入以生成候选对抗性输入，该候选对抗性输入使分类器标识图像中的损失最大化。查询神经网络分类器以确定针对候选对抗性输入的分类器预测。

公开(公告)号：CN114387503A

公开(公告)日：2022-04-22

申请号：CN202111169613.4

申请日：2021-10-08

Applicant: 罗伯特·博世有限公司

Inventor： 张潇 ,  A·K·萨胡 ,  J·柯尔特

IPC: G06V20/10 ,  G06V10/774 ,  G06V10/764 ,  G06V10/82 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08 ,  G06N20/00

Abstract: 提供了用于使用元学习初始化进行对抗性训练的方法和系统。一种存储指令的计算机程序产品，当由计算机执行时，所述指令引起计算机：从传感器接收输入数据，其中输入数据包括指示图像的数据，其中传感器包括视频、雷达、LiDAR、声音、声纳、超声、运动或热成像传感器；响应于输入数据，利用生成器生成输入数据的对抗性版本；利用输入数据和输入数据的对抗性版本创建训练数据集；利用相对于对抗性损失的随机梯度方面来确定元模型的更新方向，并且响应于输入数据和利用分类器的分类来确定基于交叉熵的分类损失；以及响应于交叉熵分类损失利用训练数据集来更新元模型和分类器。

公开(公告)号：CN113537486A

公开(公告)日：2021-10-22

申请号：CN202110405309.9

申请日：2021-04-15

Applicant: 罗伯特·博世有限公司

Inventor： E·温斯顿 ,  J·科尔特 ,  A·K·萨胡

IPC: G06N3/08

Abstract: 本公开涉及具有人工智能能力的计算机系统，包括神经网络。一种用于训练神经工作的系统，包括用于访问神经网络的输入数据的输入接口和与输入接口通信的处理器。处理器被编程为在神经网络处接收输入，并利用前向传播和后向传播输出经训练的神经网络，其中前向传播包括利用求根过程来标识与神经网络的一个或多个参数相关联的不动点，其中后向传播包括标识与网络的参数相关联的损失的导数。

公开(公告)号：CN112633309A

公开(公告)日：2021-04-09

申请号：CN202011007795.0

申请日：2020-09-23

Applicant: 罗伯特·博世有限公司

Inventor： S·N·舒克拉 ,  A·K·萨胡 ,  D·维尔莫特 ,  J·Z·柯尔特

IPC: G06K9/62 ,  G06N3/04

Abstract: 描述了对神经网络分类器实行对抗攻击。构造输入输出对的数据集，输入输出对的每个输入元素是从搜索空间中随机挑选的，输入输出对的每个输出元素指示针对对应输入元素的神经网络分类器的预测输出。在输入输出对的数据集上利用高斯过程来优化获取函数，以从数据集中找到最佳扰动输入元素。对最佳扰动输入元素进行上采样以生成经上采样的最佳输入元素。经上采样的最佳输入元素被添加到原始输入以生成候选输入。查询神经网络分类器，以确定针对候选输入的分类器预测。计算分类器预测的分数。响应于分类器预测为不正确的，接受候选输入作为成功的对抗攻击。

公开(公告)号：CN112561073A

公开(公告)日：2021-03-26

申请号：CN202011017744.6

申请日：2020-09-24

Applicant: 罗伯特·博世有限公司

Inventor： G·古普塔 ,  A·K·萨胡 ,  林婉怡 ,  J·C·舒利

IPC: G06N20/00 ,  G06K9/62

Abstract: 提供了使用基于批次的主动学习方案训练机器学习模型。用于使用基于批次的主动学习方案来训练机器学习模型的系统。所述系统包括信息源和电子处理器。电子处理器被配置为接收要训练的机器学习模型、未标注训练数据集、经标注训练数据集和信息源的标识符。电子处理器还被配置为从未标注训练数据集中选择训练示例批次，并且针对所述批次中包括的每个训练示例，向信息源发送针对所述训练示例的标注的请求。电子处理器进一步被配置为，针对所述批次中包括的每个训练示例：接收标注，将所述训练示例与所述标注相关联，并且将所述训练示例添加到经标注训练数据集。电子处理器还被配置为使用经标注训练数据来训练机器学习模型。