公开(公告)号：CN118378078B

公开(公告)日：2025-02-25

申请号：CN202410287597.6

申请日：2024-03-13

Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)

Inventor： 陈斌 ,  钟新皓 ,  方豪 ,  辜旭林

IPC: G06F18/214 ,  G06F18/2431 ,  G06N3/0464 ,  G06N3/08

Abstract: 本发明公开了一种深层次利用GAN先验增强的数据集蒸馏与轻量化方法，包括：将初始化后的均值噪声送入GAN网络，得到隐编码；通过所述GAN网络将所述隐编码转换为真实图片；根据所述真实图片的组合，计算生成数据集与真实数据集的蒸馏损失；通过优化器优化所述隐编码，并根据计算得到的特征距离选取预设隐编码；对所有使用中间层的预设隐编码生成的数据集进行评估，并选取满足条件的数据集作为解。本发明采用逐层搜索GAN的中间层空间，实现了使用GAN的多级指导信息优化生成数据集，并自动地选取最优层对应的生成数据集作为结果，提升数据集蒸馏的性能。

公开(公告)号：CN118378078A

公开(公告)日：2024-07-23

申请号：CN202410287597.6

申请日：2024-03-13

Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)

Inventor： 陈斌 ,  钟新皓 ,  方豪 ,  辜旭林

IPC: G06F18/214 ,  G06F18/2431 ,  G06N3/0464 ,  G06N3/08

Abstract: 本发明公开了一种深层次利用GAN先验增强的数据集蒸馏与轻量化方法，包括：将初始化后的均值噪声送入GAN网络，得到隐编码；通过所述GAN网络将所述隐编码转换为真实图片；根据所述真实图片的组合，计算生成数据集与真实数据集的蒸馏损失；通过优化器优化所述隐编码，并根据计算得到的特征距离选取预设隐编码；对所有使用中间层的预设隐编码生成的数据集进行评估，并选取满足条件的数据集作为解。本发明采用逐层搜索GAN的中间层空间，实现了使用GAN的多级指导信息优化生成数据集，并自动地选取最优层对应的生成数据集作为结果，提升数据集蒸馏的性能。