公开(公告)号：CN119647605A

公开(公告)日：2025-03-18

申请号：CN202510180806.1

申请日：2025-02-19

Applicant: 鹏城实验室

Inventor： 吴泽斌 ,  田永鸿

IPC: G06N5/04 ,  G06N3/082 ,  G06N3/0455

Abstract: 本申请提供了一种基于在线结构剪枝的文本推理方法以及相关设备，方法包括：在接收到文本推理任务时，获取未进行剪枝的文本推理模型，以及获取文本推理模型中多个解码层基于目标结构化剪枝算法进行剪枝时生成的掩模信息和算法参数信息；针对文本推理模型中的每个解码层，分别根据对应的掩模信息对解码层进行权重掩模处理，以及根据对应的算法参数信息对解码层进行输出补偿处理，得到目标剪枝模型；通过目标剪枝模型执行文本推理任务，得到文本推理结果，其中，本申请可以在推理时基于掩模信息和算法参数信息在线生成结构化剪枝的目标剪枝模型，无需保存结构化剪枝后的模型，能够有效降低文本推理方法的存储开销。

公开(公告)号：CN114513664A

公开(公告)日：2022-05-17

申请号：CN202210400964.X

申请日：2022-04-18

Applicant: 鹏城实验室

Inventor： 吴泽斌 ,  郭海峰 ,  郑俊浩 ,  陈鹏

IPC: H04N19/124 ,  H04N19/184 ,  H04N19/146 ,  H04N19/182

Abstract: 本发明公开了视频帧编码方法、装置、智能终端及计算机可读存储介质，其中，所述视频帧编码方法包括：获取当前视频帧以及每帧平均比特；获取当前视频帧对应的累积比特误差，根据累积比特误差和每帧平均比特计算当前帧目标比特，累积比特误差是所有历史编码帧的比特误差之和，比特误差是历史编码帧在编码时消耗的比特数与历史编码帧的目标比特的差值，历史编码帧是当前视频帧之前的已编码帧；根据当前帧目标比特获取当前视频帧对应的视频编码器量化参数；根据视频编码器量化参数，通过视频编码器对当前视频帧进行编码。与现有技术相比，本发明方案有利于更方便简单地实现码率控制，有利于提高码率控制的效率和准确性。