公开(公告)号：CN118946897A

公开(公告)日：2024-11-12

申请号：CN202280094107.X

申请日：2022-03-31

Applicant: 富士通株式会社

Inventor： 樋口裕二

IPC: G06N20/00

Abstract: 通过向使用与正解标签建立对应的基本数据进行训练后的第一类别分类模型输入多个加工数据，从而针对多个加工数据分别获取正解标签的可信度，所述多个加工数据分别与正解标签建立对应且分别与基本数据不同，确定与小于第一基准值的可信度对应的加工数据，使用所确定的加工数据作为训练数据来训练新的类别分类模型，通过执行如上的处理，能够高效地生成具有成员推理耐性的机械学习模型。

公开(公告)号：CN114868124B

公开(公告)日：2024-10-22

申请号：CN202080087277.6

申请日：2020-01-17

Applicant: 富士通株式会社

Inventor： 樋口裕二 ,  清水俊也 ,  森川郁也

IPC: G06F21/57 ,  G06N3/0464 ,  G06V10/82 ,  G06V10/764

Abstract: 使学习完毕模型的攻击耐性的评价精度提高。存储部(11)存储分类模型(13)和转换模型(14)，分类模型根据图像数据计算置信度，转换模型是将与图像数据相比维数较小的特征值转换为图像数据的模型，且被生成为使得与图像数据的集合对应的特征值的集合遵循概率分布(15)。处理部(12)基于概率分布(15)提取特征值(16)。处理部(12)使用转换模型(14)将特征值(16)转换为图像数据(17)，使用分类模型(13)计算与图像数据(17)对应的置信度(18)。处理部(12)基于概率分布(15)以及特征值(16)，将输入至转换模型(14)的特征值从特征值(16)更新为特征值(19)，使得置信度比置信度(18)高。

公开(公告)号：CN116097285A

公开(公告)日：2023-05-09

申请号：CN202080105036.X

申请日：2020-10-08

Applicant: 富士通株式会社

Inventor： 清水俊也 ,  樋口裕二

IPC: G06N20/00

Abstract: 在对于中毒攻击的机械学习模型的以往的耐性评价方法中有评价需要庞大的时间这样的问题、数据的准备困难的问题。计算机执行基于表示机械学习模型的推理精度的相对于第一训练数据的变化而言的降低的程度的信息，生成使推理精度降低的第二训练数据，使用第二训练数据对机械学习模型进行训练，并进行训练后的机械学习模型的评价的处理。由此，在一个侧面，能够更高效地进行机械学习模型对使机械学习模型的推理精度降低的训练数据的耐性评价。

公开(公告)号：CN114868124A

公开(公告)日：2022-08-05

申请号：CN202080087277.6

申请日：2020-01-17

Applicant: 富士通株式会社

Inventor： 樋口裕二 ,  清水俊也 ,  森川郁也

IPC: G06F21/57 ,  G06N3/04

Abstract: 使学习完毕模型的攻击耐性的评价精度提高。存储部(11)存储分类模型(13)和转换模型(14)，分类模型根据图像数据计算置信度，转换模型是将与图像数据相比维数较小的特征值转换为图像数据的模型，且被生成为使得与图像数据的集合对应的特征值的集合遵循概率分布(15)。处理部(12)基于概率分布(15)提取特征值(16)。处理部(12)使用转换模型(14)将特征值(16)转换为图像数据(17)，使用分类模型(13)计算与图像数据(17)对应的置信度(18)。处理部(12)基于概率分布(15)以及特征值(16)，将输入至转换模型(14)的特征值从特征值(16)更新为特征值(19)，使得置信度比置信度(18)高。