一种基于Transformer的轻量级剪枝方法、装置、终端和计算机可读存储介质

    公开(公告)号:CN116108891A

    公开(公告)日:2023-05-12

    申请号:CN202211616904.8

    申请日:2022-12-15

    Inventor: 王堃 刘政 张索非

    Abstract: 本发明提出了一种基于Transformer的轻量级剪枝方法、装置、终端和计算机可读存储介质,该方法包括:使用稀疏正则的方式训练模型;加强通道的稀疏性,对系数应用正则化,并通过添加训练目标来优化,经过稀疏惩罚训练后,得到一些重要值接近于零的transformer,对transformer中的所有正则化系数进行排序;根据预先定义的剪枝率获得阈值τ,在根据importance scores进行修剪后,被修剪的总transformer将被微调以减少精度下降;对稀疏训练过的模型的所有MHSA块,应用剪枝操作,剪除评分低的不重要网络;以及将剪枝后的模型重训练,进行新网络的测试。本发明通过剪除冗余通道,减少计算的复杂度,实现模型的轻量化,使模型能够部署在算力有限的终端设备上。

    菲啰啉配合物及合成方法及忆阻器及忆阻器的应用

    公开(公告)号:CN109053722B

    公开(公告)日:2021-05-11

    申请号:CN201810768096.4

    申请日:2018-07-12

    Abstract: 本发明公开了一种菲啰啉配合物,其结构通式如下:本发明同时公开了一种菲啰啉配合物忆阻器,包括阳极与阴极、以及位于阳极与阴极之间的阻变层,其中阻变层包括由菲啰啉配合物形成的菲啰啉配合物活性薄膜层,该忆阻器可应用于阵列作为节点链接处理器的交叉阵列人工神经计算系统及制造具有学习功能的人工智能系统。本发明具有工艺简单且成本低的优点。

    菲啰啉配合物及合成方法及忆阻器及忆阻器的应用

    公开(公告)号:CN109053722A

    公开(公告)日:2018-12-21

    申请号:CN201810768096.4

    申请日:2018-07-12

    CPC classification number: C07D471/04

    Abstract: 本发明公开了一种菲啰啉配合物,其结构通式如下:本发明同时公开了一种菲啰啉配合物忆阻器,包括阳极与阴极、以及位于阳极与阴极之间的阻变层,其中阻变层包括由菲啰啉配合物形成的菲啰啉配合物活性薄膜层,该忆阻器可应用于阵列作为节点链接处理器的交叉阵列人工神经计算系统及制造具有学习功能的人工智能系统。本发明具有工艺简单且成本低的优点。

Patent Agency Ranking