公开(公告)号：CN119740087A

公开(公告)日：2025-04-01

申请号：CN202411597152.4

申请日：2024-11-08

Applicant: 鹏城实验室

Inventor： 罗景龙 ,  张叶红 ,  徐增林 ,  张嘉琪 ,  王晖 ,  余跃

IPC: G06F18/241 ,  G06F18/213 ,  G06F21/62 ,  G16H50/20 ,  G06N3/0455 ,  G06N3/048 ,  G06N3/08 ,  G06F17/18

Abstract: 本申请提供了一种基于高斯误差线性单元的业务处理方法、装置、设备，属于数据处理技术领域，通过获取高斯误差线性单元对应的目标函数，并获取业务处理模型在高斯误差线性单元之前针对目标数据包含的业务属性处理得到的业务特征元素，将业务特征元素进行拆分，得到第一子业务特征元素和第二子业务特征元素，获取第一服务节点根据目标函数对第一子业务特征元素处理得到的第一子特征，以及获取第二服务节点根据目标函数对第二子业务特征元素处理得到的第二子特征，根据第一子特征和第二子特征，确定目标子业务特征，根据目标子业务特征生成目标业务向量，并根据目标业务向量进行数据分析，能够在保证业务数据安全性的同时，提高业务处理的效率。

公开(公告)号：CN115758064A

公开(公告)日：2023-03-07

申请号：CN202211288739.8

申请日：2022-10-20

Applicant: 鹏城实验室

Inventor： 张叶红 ,  罗景龙 ,  秦爽 ,  张嘉琪 ,  王晖 ,  余跃 ,  徐增林

IPC: G06F17/18 ,  G06F17/16 ,  G06F21/62

Abstract: 本发明公开了基于高斯过程回归的数据隐私保护方法及相关设备，包括：获取训练数据和测试数据；计算协方差矩阵，根据训练数据进行高斯过程回归的训练；生成指数随机数，通过秘密分享技术，根据指数随机数在高斯整数环上进行指数计算；根据乔利斯基分解法将高斯过程回归中的正定矩阵进行分解，通过秘密分享技术，在高斯整数环上对分解后的正定矩阵进行求逆，构建高斯过程回归模型；根据高斯过程回归模型对测试数据进行预测。可以在不泄露输入矩阵隐私的前提下，提高指数运算的效率，实现安全求逆。

公开(公告)号：CN115270820A

公开(公告)日：2022-11-01

申请号：CN202210865989.7

申请日：2022-07-22

Applicant: 鹏城实验室

Inventor： 蒋芳清 ,  余跃 ,  王晖 ,  刘欣 ,  李文龙 ,  张叶红 ,  张艳 ,  李革 ,  陶恒韬

IPC: G06F40/45 ,  G06F40/58 ,  G06N5/04

Abstract: 本发明公开了一种多语言翻译系统的持续学习方法、装置、终端及存储介质，方法包括：根据处理策略对翻译请求进行预处理；根据处理后的翻译请求分发对应的翻译模型，并通过翻译模型对处理后的翻译请求进行翻译推理；根据翻译结果进行置信度评估，并根据置信度评估结果触发请你翻译模式，将处理后的翻译请求调度至在线专家或其他用户侧；接收在线专家或其他用户侧反馈的翻译参考答案，激励翻译模型对反馈的翻译参考答案进行答案融合；接收其他用户侧反馈的翻译结果评分，并根据翻译结果评分及反馈的翻译参考答案对翻译模型进行持续学习，以扩充翻译模型的翻译分析数据和持续学习数据。本发明通过反馈打分和请你翻译的人机协作提高系统翻译性能。

公开(公告)号：CN119990336A

公开(公告)日：2025-05-13

申请号：CN202510466565.7

申请日：2025-04-15

Applicant: 鹏城实验室

Inventor： 罗景龙 ,  张叶红 ,  徐增林 ,  张嘉琪 ,  王晖

IPC: G06N5/04 ,  G06F21/62 ,  G06N3/0455

Abstract: 本申请公开了一种模型的安全推理方法、装置、电子设备及存储介质，涉及模型隐私推理技术领域。在安全推理方法中，云平台无法基于各个隐藏参数集得到模型的参数集；云平台无法基于第二隐藏推理得到原始推理数据；用户端基于第一置换矩阵、第一推理结果与第二推理结果进行恢复重构处理，得到目标推理结果。用户端无法得到模型的参数集，因此用户端无法获取模型开发者端的隐私。且本申请无需采用传统协议将原始推理数据以及模型的参数集转换为密文，而是将模型的参数集与随机生成的置换矩阵进行矩阵乘法处理，节省了密文计算所导致的计算和通信开销，处理速度更快，通信开销更小。

公开(公告)号：CN115423088A

公开(公告)日：2022-12-02

申请号：CN202210986537.4

申请日：2022-08-17

Applicant: 鹏城实验室

Inventor： 易泽轩 ,  张叶红 ,  张艳 ,  王进 ,  颜达森 ,  陶恒韬 ,  王晖 ,  曾炜 ,  余跃

IPC: G06N3/08 ,  G06K9/62

Abstract: 本发明公开了一种跨域数据异构的大模型在线剪枝方法及相关设备，方法包括：获取目标预训练模型和目标数据集；根据目标数据集对目标预训练模型进行预剪枝，得到预剪枝模型；将预剪枝模型的参数发送至云服务器进行处理，得到目标融合参数，将目标融合参数加载至预剪枝模型，得到目标融合模型，将目标预训练模型更新为目标融合模型；重新执行根据目标数据集对目标预训练模型进行预剪枝的步骤，直至完成预设数量的轮数后，将目标融合模型作为目标预剪枝模型；对目标预剪枝模型进行结构剪枝处理，得到目标剪枝模型；根据目标剪枝模型得到目标发布模型。本发明能够在跨域网络环境下，对模型进行在线剪枝，减少模型参数，降低大模型部署对硬件的要求。

公开(公告)号：CN114925591A

公开(公告)日：2022-08-19

申请号：CN202111646797.9

申请日：2021-12-29

Applicant: 鹏城实验室 ,  北京大学深圳研究生院

Inventor： 王进 ,  易泽轩 ,  李革 ,  张叶红 ,  张艳 ,  王晖 ,  曾炜

IPC: G06F30/27 ,  G06K9/62 ,  G06F111/08

Abstract: 本发明公开了基于多面体模型建模的自动并行策略搜索方法及相关设备，所述方法包括：根据用户输入的模型对象得到深度学习算法的模型计算图；对模型计算图进行转换，得到转换后的模型计算图；将转换后的模型计算图进行均衡处理，得到均衡计算图；根据所述均衡计算图，创建多面体模型实例，并根据多面体模型实例输出并行策略；调用底层框架执行并行策略。本发明中通过将模型计算图进行转换及均衡处理，并在多面体模型的框架下创建多面体模型实例后，自动输出并行策略，实现了在多面体模型下将不同的算法逻辑进行建模，并自动输出并行策略过程，提升了并行策略搜索的效率，降低了深度学习算法的分布式训练开发和效率调优难度。

公开(公告)号：CN117390598A

公开(公告)日：2024-01-12

申请号：CN202311399658.X

申请日：2023-10-25

Applicant: 鹏城实验室

Inventor： 慕鑫 ,  王宇 ,  张叶红 ,  张嘉琪 ,  王晖 ,  相洋 ,  余跃

IPC: G06F21/10 ,  G06F18/24 ,  G06N3/123

Abstract: 本发明公开了一种模型溯源方法、装置、设备及存储介质。该方法包括：获取源模型对应的训练数据；根据所述训练数据确定所述源模型对应的源模型DNA以及目标模型对应的目标模型DNA；基于所述源模型DNA和所述目标模型DNA确定组合DNA；将所述组合DNA输入至预设判别器模型，根据所述预设判别器模型输出的判别结果确定模型溯源结果。由于本发明是通过源模型对应的源模型DNA以及目标模型对应的目标模型DNA确定组合DNA，将组合DNA输入至预设判别器模型，得到模型溯源结果。本发明首次引入了机器学习模型DNA的概念。可以实现对模型的追溯，以追踪模型的来源。这有助于确保模型的可信度和安全性。