-
公开(公告)号:CN118690761A
公开(公告)日:2024-09-24
申请号:CN202410854813.0
申请日:2024-06-27
Applicant: 鹏城实验室
Abstract: 本申请提供了一种多语言机器翻译模型的参数分配方法、装置、设备和介质,方法包括:对多语言机器翻译模型的每个语言方向,基于预设语言数据集进行参数调整,得到模型参数绝对值排序;进行联合参数调整,得到各语言方向的方向梯度,根据方向梯度确定平均梯度及第一相似系数,进而确定方向剪枝率;通过迭代联合参数调整,根据第二相似系数调整方向剪枝率,得到目标剪枝率,并根据目标剪枝率和绝对值排序对每个语言方向的模型参数进行剪枝处理,其中,本申请可以基于各方向梯度与平均梯度之间的一致性,动态调试各方向的剪枝率,以实现各方向的参数分配优化,有效促进跨语言知识的正向迁移,抑制负向迁移,进而提高模型的整体翻译性能。
-
公开(公告)号:CN116489678A
公开(公告)日:2023-07-25
申请号:CN202310389923.X
申请日:2023-04-04
Applicant: 鹏城实验室
Abstract: 本申请实施例提供了一种深度学习模型的通信优化方法及装置、存储介质,方法包括:对深度学习模型进行切分,得到位于第一通信节点下的第一子模型和位于第二通信节点下的第二子模型;在第一通信节点下,根据稀疏化比例参数和第一子模型传输的前向数据,计算前向数据的稀疏化阈值,并且根据稀疏化阈值和稀疏化比例参数对前向数据进行压缩,得到中间数据;在第二通信节点下,根据量化参数对中间数据进行解压缩,得到后向数据;向第二子模型传输后向数据以进行训练。本申请实施例中,两个子模型所处的两个通信节点之间采用低带宽网络连接,整个通信过程的负载消耗能够得到限制,从而能够在保持深度学习模型的训练精度的前提下,有效地降低通信负载。
-
公开(公告)号:CN119398063A
公开(公告)日:2025-02-07
申请号:CN202411414815.4
申请日:2024-10-11
Applicant: 鹏城实验室
IPC: G06F40/58 , G06F40/51 , G06F40/205
Abstract: 本申请实施例提供了一种文本翻译方法、装置、电子设备以及存储介质,属于机器翻译技术领域。该方法包括:获取源语言下的原始文本;对原始文本进行初步翻译,得到目标语言下的初始翻译文本,并基于原始文本和初始翻译文本确定原始文本中的难点词语,以及难点词语在初始翻译文本中的初始单词译文;单独对原始文本中的难点词语进行单词解释,得到目标语言下的难点单词翻译文本;基于难点单词翻译文本对初始单词译文进行修正,得到修正后的目标单词译文,并基于目标单词译文更新初始翻译文本,得到原始文本在目标语言下的目标文本。本申请能够提高文本翻译结果的准确性。
-
公开(公告)号:CN119204031A
公开(公告)日:2024-12-27
申请号:CN202411097546.3
申请日:2024-08-09
Applicant: 鹏城实验室
Abstract: 本申请实施例提供了一种翻译文本质量评估方法、装置、计算机设备及存储介质。方法包括:获取待评估译文的翻译源文和参考译文,并基于翻译源文对参考译文进行质量评估,得到参考译文的参考质量;通过翻译源文对待评估译文进行质量打分,得到第一质量分数;通过参考译文对待评估译文进行质量打分,得到第二质量分数;根据参考译文的参考质量,对第一质量分数进行权重的调整,得到第一目标质量分数,并对第二质量分数进行权重的调整,得到第二目标质量分数;其中,第一质量分数的权重随着参考质量的增加而减少;基于第一目标质量分数和第二目标质量分数,得到待评估译文的质量评估结果。以此,能够有效提高对翻译文本进行质量评估的准确性。
-
公开(公告)号:CN118820077A
公开(公告)日:2024-10-22
申请号:CN202410793744.7
申请日:2024-06-19
Applicant: 鹏城实验室
Abstract: 本申请公开了模型的在线评测方法、系统、电子设备及介质,方法包括:接收模型评测请求以及模型评测资源,并创建调试任务;根据模型评测资源确定与调试任务对应的目标资源,并根据目标资源确定目标镜像、目标代码以及目标模型;通过目标镜像创建与调试任务对应的调试容器,并在调试容器中挂载目标代码和目标模型,对目标代码进行检测;当完成调试任务且对目标代码的检测通过时,根据目标资源创建推理任务;通过目标镜像创建与推理任务对应的推理容器,并在推理容器中对获取到的评测数据集进行预测,生成推理结果;对推理结果进行在线评测,得到评测结果。在本发明实施例中,无需用户再次上传资源,避免资源重复上传,提高评测效率。
-
公开(公告)号:CN116225387A
公开(公告)日:2023-06-06
申请号:CN202310132331.X
申请日:2023-02-07
Applicant: 鹏城实验室
Abstract: 本发明公开了一种基于昇思框架的低耦合情感分析算法库,所述低耦合情感分析算法库包括:算法模块,与算法模块耦合连接的暴露接口,以及与暴露接口耦合连接的统一调用接口;其中,算法模块用于构建和训练所述低耦合情感分析算法库中的算法;算法模块包括数据模块、模型模块和训练模块;暴露接口用于为所述统一调用接口提供每个算法的调用接口;统一调用接口包括超参数配置信息和调用逻辑。本发明基于国产昇思框架来构建算法库,通过保留每个算法的完整性来降低不同算法之间的耦合度,让每个算法自成一体的同时通过暴露一个接口来实现统一调度,从而实现算法库跨平台、统一架构、统一调用接口和易扩展的特性。
-
-
-
-
-