一种神经网络的后训练剪枝方法

    公开(公告)号:CN118246510B

    公开(公告)日:2024-10-22

    申请号:CN202410661740.3

    申请日:2024-05-27

    Applicant: 厦门大学

    Abstract: 本发明涉及一种神经网络的后训练剪枝方法,其采用减少再生长的进化搜索算法来确定神经网络的最优稀疏率;然后利用促进稀疏网络从密集网络学习有效知识的稀疏目标和程;最后,基于前述两种因素结合动态稀疏训练来全面优化稀疏结构,确保训练的稳定性,同时提高剪枝后的稀疏网络的准确率。

    一种适用于视觉自注意力模型的量化方法

    公开(公告)号:CN117689044B

    公开(公告)日:2024-10-08

    申请号:CN202410142459.9

    申请日:2024-02-01

    Applicant: 厦门大学

    Abstract: 本发明提供一种适用于视觉自注意力模型(ViTs)的量化方法,涉及人工神经网络的压缩与加速,本申请提出了一种移位均匀log2量化器,在log2函数输入上引入初始的移位偏置,然后对输出进行均匀量化;还提出了一种三阶段的平滑优化策略,充分利用平滑而低振幅的损失图进行优化,同时保持对激活逐层量化的高效性。本发明方法既思想简单,同时节省计算开销,且大大提高在极低压缩比特下的性能表现,只需要应用本发明设计的量化器,可直接以后训练的方式得到量化模型,同时获得更好性能。

    基于多粒度推理的视觉自注意力模型的压缩方法

    公开(公告)号:CN115983322A

    公开(公告)日:2023-04-18

    申请号:CN202310039838.0

    申请日:2023-01-12

    Applicant: 厦门大学

    Abstract: 基于多粒度推理的视觉自注意力模型的压缩方法,涉及人工神经网络的压缩与加速。包括:1)提出一个两阶段推理框架,在第一阶段对整张图片进行粗粒度patch切割,第二阶段对图片中信息含量高的区域进行进一步的细粒度切割;2)设计基于全局类注意力图的重要区域识别;3)设计特征复用模块,使得第二阶段可以复用第一阶段提取的特征;4)设计两阶段推理框架的训练范式,使得模型可以不引入额外参数。可以实现根据样本难度自适应调整模型复杂度。

    一种无需训练的局部视频风格迁移方法及系统

    公开(公告)号:CN119444896A

    公开(公告)日:2025-02-14

    申请号:CN202411480220.9

    申请日:2024-10-23

    Applicant: 厦门大学

    Abstract: 本发明公开了一种无需训练的局部视频风格迁移方法及系统,方法包括:内容分支对原视频的视频帧进行去噪反转,获得不同时间戳的内容潜在特征Zt(t=1→T);对原视频进行去噪反转的过程中,对原视频的第一帧视频帧打上掩码,基于点匹配将掩码传递到原视频的所有视频帧;风格分支对参考图像进行去噪反转,获得不同时间戳的风格潜在特征#imgabs0#编辑分支中,令初始的迁移潜在特征#imgabs1#基于初始的迁移潜在特征进行去噪,去噪过程中基于AdaIN的风格迁移技术对迁移潜在特征进行风格迁移,获得风格迁移结果,通过解码器逐帧解码到像素表示,作为局部风格迁移后的视频。本发明可以满足用户对局部区域进行迁移的需求,同时减少迁移过程中带来的闪烁与伪影。

    一种基于扩散模型的轻量虚拟试穿方法、系统及介质

    公开(公告)号:CN119359531A

    公开(公告)日:2025-01-24

    申请号:CN202411516785.8

    申请日:2024-10-29

    Applicant: 厦门大学

    Abstract: 本发明提供一种基于扩散模型的轻量虚拟试穿方法、系统及介质,该方法包括:创建一个轻量级掩码提取器,对模特图像和服装图像上的衣服提取精确的掩码;对服装掩码和服装图像分别进行形状调整;将模特图像和服装图像分别编码到潜在空间,并且使用DDIM反转技术,分别获得T+1个备用的噪声潜在特征;在扩散模型的扩散去噪过程的前期步骤中取一时间步t1,将备用服装图像的潜在信息注入到模特图像的重建过程中;在后期步骤中取一时间步t1,通过潜在信息替换技术恢复背景;进行逐步去噪,直至去噪完全,最后将无噪声的潜在特征解码到像素空间,得到生成的换装图像结果。本发明无需对扩散模型进行训练,就能生成高质量的试穿图像,提升用户体验。

    去噪扩散隐式模型的反转方法、电子设备和存储介质

    公开(公告)号:CN119251077A

    公开(公告)日:2025-01-03

    申请号:CN202411075016.9

    申请日:2024-08-07

    Applicant: 厦门大学

    Abstract: 本发明公开一种去噪扩散隐式模型的反转方法、电子设备和存储介质,在不需要进行任何训练的情况下,以不增加计算开销的方式,优化去噪扩散隐式模型的反转过程。在总的去噪步数#imgabs0#以内:在特定时间步区间内,将上一时间步的加权潜变量与当前时间步的潜变量进行加权相加得到加权潜变量;在特定时间步区间以外,仅使用DDIM Inversion对#imgabs1#进行反转。本发明主要通过在特定时间步区间内加权相加该时间步的潜变量以及上一时间步的潜变量,由此来改善反转质量,并且没有额外的计算开销,只需稍微增加内存消耗即可,从而实现了以不增加计算开销的方式优化去噪扩散隐式模型的反转过程。

    采用无训练扩散修改方式在图像中添加物体的方法

    公开(公告)号:CN118587104A

    公开(公告)日:2024-09-03

    申请号:CN202410497219.0

    申请日:2024-04-24

    Applicant: 厦门大学

    Abstract: 本发明公开一种采用无训练扩散修改方式在图像中添加物体的方法,在不添加额外输入也不需要进行任何训练的情况下,允许用户在保持图像其余内容几乎不变的同时,将一个对象添加到选定的图像区域中。其包括步骤:让用户在扩散模型生成的原图上框选一个生成区域,并用一个单词指定希望在框选的生成区域中生成的用户添加物体;将用于生成原图的提示和用于生成用户添加物体的提示分别编码,然后将编码结果拼接,作为最终生成结果的提示编码;同时生成三图,在生成过程中,控制用户添加物体的生成位置,并得到最终生成结果的隐变量;增强最终生成结果在框选的生成区域中的互注意力值;在生成过程即将结束时进行腐蚀‑膨胀操作,消去不连通的小块区域。

    一种神经网络的后训练剪枝方法

    公开(公告)号:CN118246510A

    公开(公告)日:2024-06-25

    申请号:CN202410661740.3

    申请日:2024-05-27

    Applicant: 厦门大学

    Abstract: 本发明涉及一种神经网络的后训练剪枝方法,其采用减少再生长的进化搜索算法来确定神经网络的最优稀疏率;然后利用促进稀疏网络从密集网络学习有效知识的稀疏目标和程;最后,基于前述两种因素结合动态稀疏训练来全面优化稀疏结构,确保训练的稳定性,同时提高剪枝后的稀疏网络的准确率。

    一种适用于超分网络的分布灵活子集量化方法

    公开(公告)号:CN117172301A

    公开(公告)日:2023-12-05

    申请号:CN202311128731.X

    申请日:2023-09-04

    Applicant: 厦门大学

    Abstract: 一种适用于超分网络的分布灵活子集量化方法,涉及人工神经网络的压缩与加速。1)使用L1损失、结构转移损失预训练一个全精度的超分网络;2)统计全精度超分神经网络每一层激活值的分布;3)每层激活值分布进行归一化处理;4)进行k‑means聚类得到量化点,并对激活值进行子集量化。可应用于在图像超分领域上的卷积神经网络,本方法既思想简单,同时节省计算开销,且大大提高性能,同时性能超过各种主流的后训练量化方法,当比特位越低现象越明显。提出利用kmeans实现快速量化点选择。只需要应用本发明设计的量化器,可直接以后训练的方式得到量化模型,开销更小同时性能更高。

Patent Agency Ranking