零样本学习深度模型的量化方法
    1.
    发明公开

    公开(公告)号:CN116681111A

    公开(公告)日:2023-09-01

    申请号:CN202310487616.5

    申请日:2023-05-04

    Inventor: 胡海峰 方成圆

    Abstract: 本发明提供了一种零样本学习深度模型的量化方法,主要包括以下步骤:获取已经训练完毕的全精度预训练模型;利用知识匹配生成器从全精度预训练模型的批归一化层BN层中获取原始训练数据的分类和分布信息;使用所述校准数据集驱动所述全精度预训练模型的量化;生成新的伪数据驱动知识匹配生成器的优化;持续交替对抗地优化量化模型和知识匹配生成器,直到模型量化性能稳定收敛。相较于现有技术,本发明提出对权重和量化参数进行逐层联合迭代优化,能够使模型每层量化层输出与全精度层输出之间的误差最小化。

Patent Agency Ranking