强化学习模型训练方法及装置
    31.
    发明公开

    公开(公告)号:CN118350483A

    公开(公告)日:2024-07-16

    申请号:CN202410559576.5

    申请日:2024-05-07

    Abstract: 本说明书实施例涉及强化学习模型训练方法及系统,应用于模型训练系统,所述模型训练系统包括至少一个训练进程和至少一个推理进程;所述方法包括:任一推理进程获取模型最新权重,并更新强化学习模型的权重值;然后,根据输入数据使用更新后的强化学习模型生成响应数据,基于输入数据和响应数据形成训练样本,并将训练样本存入目标存储区;任一训练进程从所述目标存储区中获取所述训练样本;然后,根据所述训练样本更新强化学习模型的权重值,并将更新后的模型权重发送给各个推理进程。

    分布式事务的处理方法及装置
    32.
    发明公开

    公开(公告)号:CN116841699A

    公开(公告)日:2023-10-03

    申请号:CN202310814252.7

    申请日:2023-07-04

    Inventor: 张锐

    Abstract: 本说明书实施例提供了分布式事务的处理方法及装置,其中,一种分布式事务的处理方法包括:获取分布式事务的处理请求,并在检测到部署切面程序后的目标程序执行到切点后,在分布式系统通过切点部署的切面程序执行如下操作:首先对分布式事务进行第一阶段的事务预处理,并将预处理结果向事务同步模块发送;其次根据预处理结果执行事务同步模块返回的处理指令对应的第二阶段的处理动作。

    一种数据脱敏方法、装置、可读存储介质以及电子设备

    公开(公告)号:CN115185534A

    公开(公告)日:2022-10-14

    申请号:CN202210845211.X

    申请日:2022-07-18

    Inventor: 张锐

    Abstract: 本说明书公开了一种数据脱敏方法、装置、可读存储介质以及电子设备,根据接收到的脱敏请求,确定脱敏切面程序和脱敏切面程序对应的切点,并通过预先部署的切面底座,将脱敏切面程序部署在业务应用程序中的切点处,当业务应用程序执行业务时,通过脱敏切面程序,确定与敏感特征匹配的业务数据,并进行脱敏处理,其中,该与敏感特征匹配的业务数据中至少包含个人数据,该敏感特征至少可通过机器学习的方式得到。本方法无需对各业务应用程序进行个性化的代码改造,而是通过切面底座,在业务应用程序中注入通用的切面脱敏程序,从而将符合敏感特征的业务数据进行脱敏,以此来保证信息安全,提高了数据脱敏的效率和灵活性。

    一种基于云边端架构的终端保活管理方法及装置

    公开(公告)号:CN113553141A

    公开(公告)日:2021-10-26

    申请号:CN202111094695.0

    申请日:2021-09-17

    Inventor: 张锐

    Abstract: 本说明书一个或多个实施例提供一种基于云边端架构的终端保活管理方法及装置,其中,该云边端架构包括顶层的云端控制中心、位于中间层的多个边缘管理平台和位于底层的已注册终端,每一边缘管理平台分别对所辖域内的已注册终端进行保活管理;该方法应用于任一边缘管理平台,包括:接收所辖域内的已注册终端发送的心跳信息,并根据所述心跳信息对相应的已注册终端的保活状态进行更新;按照预设周期对所辖域内的所有已注册终端的保活状态进行聚合,并将生成的域内聚合结果上传至云端控制中心,以由所述云端控制中心根据各个边缘管理平台分别上传的域内聚合结果对全局所有已注册终端的保活状态进行维护。

    用于大语言模型推理的显存管理方法、设备、介质和产品

    公开(公告)号:CN119443173A

    公开(公告)日:2025-02-14

    申请号:CN202411442369.8

    申请日:2024-10-15

    Inventor: 张锐 赵军平

    Abstract: 本说明书提供了一种用于大语言模型推理的显存管理方法、设备、介质和产品,应用于部署有大语言模型的服务设备;所述方法包括:对所述服务设备上的物理显存资源进行分配,以分别映射至缓存对象为键值缓存的第一显存资源池和缓存对象为中间激活值的第二显存资源池;针对提交至所述大语言模型的推理任务,若判定所述第一显存资源池与所述第二显存资源池中任一显存资源池的空闲显存资源不足以为所述推理任务缓存相应的缓存对象,则将另一显存资源池的至少一部分空闲显存资源临时借调至所述任一显存资源池。

    基于GPU多stream并发的显存复用方法和装置

    公开(公告)号:CN118312333A

    公开(公告)日:2024-07-09

    申请号:CN202410743233.4

    申请日:2024-06-07

    Abstract: 本说明书的实施例提供了一种基于GPU多stream并发的显存复用方法和装置。在该基于GPU多stream并发的显存复用方法中,至少两个GPU stream并发执行,各个GPU stream中包括以执行顺序排列的GPU指令,在默认stream复用模式下,可以根据待分配显存的GPU指令所属的当前GPU stream对应的已释放显存以及当前GPU stream是否为默认stream,判断用于存储已释放显存块的显存池中是否存在候选可复用显存块;若存在候选可复用显存块,从候选可复用显存块中确定出为待分配显存的GPU指令分配的显存块。

    鉴权方法、装置、可读存储介质及电子设备

    公开(公告)号:CN117857051A

    公开(公告)日:2024-04-09

    申请号:CN202311713434.1

    申请日:2023-12-13

    Inventor: 张锐

    Abstract: 本说明书涉及一种鉴权方法、装置、可读存储介质及电子设备,鉴权方法应用于服务端,其第一预设切点处预先注入有第一切面程序,鉴权方法包括:在客户端访问服务端时,接收客户端发送的用于访问服务端的访问请求;其中,访问请求中携带有客户端的身份信息;第一切面程序根据客户端的身份信息确定客户端的身份,并根据客户端的身份确定客户端的访问权限,然后根据客户端的访问权限获取访问数据;将访问数据发送至客户端。本说明书的鉴权方法、装置、可读存储介质及电子设备,通过预先注入在客户端和服务端的预设切点的切面程序实现鉴权功能,以使鉴权功能与服务端的其他功能解耦,避免对其他功能造成干扰,且通过鉴权可避免隐私数据泄露。

    一种安全维护方法、装置、存储介质及电子设备

    公开(公告)号:CN115495343A

    公开(公告)日:2022-12-20

    申请号:CN202211098322.5

    申请日:2022-09-08

    Inventor: 张锐

    Abstract: 本说明书公开了一种安全维护方法、装置、存储介质及电子设备。该安全维护方法包括:确定业务应用程序中的污点数据,通过部署在业务应用程序中的切面程序,对污点数据在业务应用程序中的传播进行跟踪,得到污点数据的传播信息,通过预设的分析程序,对传播信息进行分析,并根据所述分析结果进行安全维护。

    一种安全防护方法、装置、存储介质及电子设备

    公开(公告)号:CN115277142A

    公开(公告)日:2022-11-01

    申请号:CN202210845185.0

    申请日:2022-07-18

    Inventor: 张锐

    Abstract: 本说明书公开了一种安全防护方法、装置、存储介质及电子设备,根据接收到的注入请求,将包含在注入请求中的用于检测入侵攻击的切面程序注入在业务应用程序中。在业务应用程序执行业务过程中,当切面程序检测到入侵攻击,便可获取入侵攻击对应的操作数据,并根据入侵攻击对应的操作数据,将入侵攻击引导至蜜罐系统。本方法并非被动的等待攻击者攻击蜜罐系统,而是通过部署在业务应用系统的切面程序,将入侵攻击引导至蜜罐系统。基于此,本方法能在少量部署蜜罐系统的情况下,就可提高蜜罐系统的捕获率,同时,也节约了部署蜜罐系统的成本。

    异常告警方法和装置
    40.
    发明公开

    公开(公告)号:CN115080356A

    公开(公告)日:2022-09-20

    申请号:CN202210856146.0

    申请日:2022-07-21

    Inventor: 张锐

    Abstract: 本说明书实施例提供了一种异常告警的方法及装置。该方法中,在每一个采样周期均执行:对业务应用关联的监控指标的值进行采样;判断在当前采样周期采样到的当前监控指标值是否大于预先设置的指标阈值;如果大于,则得到N个数组;其中,该N个数组包括:由当前采样周期对应的时间点以及当前监控指标值组成的一个数组,以及在当前采样周期之前和/或之后的N‑1个采样周期对应的时间点以及对应的监控指标值组成的N‑1数组;对所述N个数组进行曲线拟合,得到拟合后的曲线的参数;根据拟合后的曲线的参数确定是否进行异常告警。本说明书实施例的方法及装置能够提高异常告警的准确性,避免误报。

Patent Agency Ranking