一种基于代理模型重排技术的推理查询优化方法及装置

    公开(公告)号:CN116842060A

    公开(公告)日:2023-10-03

    申请号:CN202311107125.X

    申请日:2023-08-30

    Inventor: 杨智慧 王晓阳

    Abstract: 本说明书公开了一种基于代理模型重排技术的推理查询优化方法及装置。方法包括:获取各任务模型,并确定通过各任务模型执行推理查询任务时的不同执行顺序,根据目标准确率,查询各执行顺序对应执行代价的目标取值范围,根据目标取值范围对所述各执行顺序进行过滤,得到各候选执行顺序,基于所述目标准确率,确定在各候选执行顺序下各任务模型所对应不同代理模型的准确率参数的组合,根据每种候选执行顺序下每个候选参数组合对应的执行代价确定目标执行顺序,以及目标参数组合;在接收到查询请求时,根据目标参数组合调用各任务模型对应的代理模型,并按照目标执行顺序,通过各任务模型执行查询请求对应的推理查询任务。

    一种基于无状态运行时的程序分布式执行方法

    公开(公告)号:CN116302564A

    公开(公告)日:2023-06-23

    申请号:CN202310469894.8

    申请日:2023-04-27

    Abstract: 本说明书公开了一种基于无状态运行时的程序分布式执行方法。在本说明书提供的程序分布式执行方法中,获取目标程序,并确定执行所述目标程序时所需要完成的子任务;根据各子任务,确定各子任务的算子集合,其中,一个子任务对应的算子集合中包含了完成该子任务所需的全部算子;针对每个子任务,当接收到执行该子任务的事件时,将该子任务确定为目标子任务;采用预先为所述目标子任务分配的计算节点,采用预先为所述目标子任务分配的计算节点,执行所述目标子任务对应的算子集合,执行过程中所产生的事件触发其他子任务进入预备执行状态,子任务执行完毕进入等待状态,等待下一次触发。

    一种基于代理模型重排技术的推理查询优化方法及装置

    公开(公告)号:CN116842060B

    公开(公告)日:2024-01-09

    申请号:CN202311107125.X

    申请日:2023-08-30

    Inventor: 杨智慧 王晓阳

    Abstract: 本说明书公开了一种基于代理模型重排技术的推理查询优化方法及装置。方法包括:获取各任务模型,并确定通过各任务模型执行推理查询任务时的不同执行顺序,根据目标准确率,查询各执行顺序对应执行代价的目标取值范围,根据目标取值范围对所述各执行顺序进行过滤,得到各候选执行顺序,基于所述目标准确率,确定在各候选执行顺序下各任务模型所对应不同代理模型的准确率参数的组合,根据每种候选执行顺序下每个候选参数组合对应的执行代价确定目标执行顺序,以及目标参数组合;在接收到查询请求时,根据目标参数组合调用各任务模型对应的代理模型,并按照目标执行顺序,通过各任务模型执行查询请求对应的推理查询任务。

    一种基于代理模型近似处理的推理查询优化方法及装置

    公开(公告)号:CN116821193B

    公开(公告)日:2024-01-09

    申请号:CN202311107124.5

    申请日:2023-08-30

    Inventor: 杨智慧 王晓阳

    Abstract: 本说明书公开了一种基于代理模型近似处理的推理查询优化方法及装置。所述方法包括:根据预设的目标准确率,确定各任务模型所对应的不同代理模型的准确率参数组合,作为各参数组合;针对每种参数组合,根据该参数组合中每个代理模型对应的准确率,确定该参数组合对应的执行代价;根据每种参数组合对应的执行代价,确定目标参数组合;在接收到查询请求后,调用目标参数组合对应的各代理模型,并通过各代理模型以及各任务模型,按照目标执行顺序依次执行查询请求对应的推理查询任务。

    一种基于机器学习的数据处理系统

    公开(公告)号:CN116070718A

    公开(公告)日:2023-05-05

    申请号:CN202310186906.6

    申请日:2023-02-20

    Inventor: 杨智慧 王晓阳

    Abstract: 本说明书公开了一种基于机器学习的数据处理系统,该系统中可以存在两种用户类型:专业用户类型以及数据分析用户类型,该数据处理系统可以接收用户的登录请求,根据登录请求,确定该用户的用户类型,根据用户的用户类型,确定与该用户类型相匹配的接口,并展示该用户类型对应的用户界面,以将用户在用户界面中输入的信息作为接口的入参,以执行数据处理任务,数据处理任务包括了训练任务和数据分析任务,若用户类型为专业用户类型,可以为其执行训练任务,若为数据分析用户类型,则可以为其执行数据分析任务,该系统使得专业型用户和非专业型用户可以共同使用该系统分别处理各自所需的任务,从而提高用户通过神经网络模型来进行数据分析的效率。

    一种基于代理模型近似处理的推理查询优化方法及装置

    公开(公告)号:CN116821193A

    公开(公告)日:2023-09-29

    申请号:CN202311107124.5

    申请日:2023-08-30

    Inventor: 杨智慧 王晓阳

    Abstract: 本说明书公开了一种基于代理模型近似处理的推理查询优化方法及装置。所述方法包括:根据预设的目标准确率,确定各任务模型所对应的不同代理模型的准确率参数组合,作为各参数组合;针对每种参数组合,根据该参数组合中每个代理模型对应的准确率,确定该参数组合对应的执行代价;根据每种参数组合对应的执行代价,确定目标参数组合;在接收到查询请求后,调用目标参数组合对应的各代理模型,并通过各代理模型以及各任务模型,按照目标执行顺序依次执行查询请求对应的推理查询任务。

    一种过载场景下数据分类查询的优化方法和装置

    公开(公告)号:CN116595040A

    公开(公告)日:2023-08-15

    申请号:CN202310321242.X

    申请日:2023-03-29

    Abstract: 一种过载场景下数据分类查询的优化方法和装置,通过改进查询流程来优化流数据过载场景的查询结果。本发明提出了一种在线的训练模式,包含一系列概率过滤器,概率过滤器主要基于查询中包含的语义信息来筛选数据(例如文本数据),并使用了参数搜索的方式来获取过滤器的最佳配置,同时用函数拟合的方法来控制查询的延迟。本发明着重于处理流数据场景下包含数据分类任务的查询,并致力于解决发生流数据过载场景时的查询优化问题。本发明较于基于离线场景下的查询优化工作,对查询时间不做限制,在尝试在流数据过载的场景下,给定查询的时间限制,对此类查询进行优化,取得了不错的优化效果。

    一种基于无状态运行时的程序分布式执行方法

    公开(公告)号:CN116302564B

    公开(公告)日:2023-08-11

    申请号:CN202310469894.8

    申请日:2023-04-27

    Abstract: 本说明书公开了一种基于无状态运行时的程序分布式执行方法。在本说明书提供的程序分布式执行方法中,获取目标程序,并确定执行所述目标程序时所需要完成的子任务;根据各子任务,确定各子任务的算子集合,其中,一个子任务对应的算子集合中包含了完成该子任务所需的全部算子;针对每个子任务,当接收到执行该子任务的事件时,将该子任务确定为目标子任务;采用预先为所述目标子任务分配的计算节点,采用预先为所述目标子任务分配的计算节点,执行所述目标子任务对应的算子集合,执行过程中所产生的事件触发其他子任务进入预备执行状态,子任务执行完毕进入等待状态,等待下一次触发。

    物化视图查询方法、系统、设备及存储介质

    公开(公告)号:CN116108076B

    公开(公告)日:2023-07-18

    申请号:CN202310374028.0

    申请日:2023-04-10

    Abstract: 本申请涉及一种物化视图查询方法、系统、设备及存储介质,通过对由多个历史查询的历史最优物化结果合并得到的物化结果集合进行筛选,选取物化结果集合中符合查询条件的最长物化结果组合,对选取的物化结果组合在查询响应时间与查询准确性的维度下对物化结果组合进行评分,并按照分数由高到低的顺序分层输出物化结果组合,通过在不同维度下的评分选取最优的物化结果,以响应查询,使得查询过程无需对全部物化结果进行排序,仅需要对物化结果集合执行一次或几次的前k大分数的求取,使得排序次数与计算时间大大降低,解决了相关技术中物化视图查询速度较低的问题。

    物化视图查询方法、系统、设备及存储介质

    公开(公告)号:CN116108076A

    公开(公告)日:2023-05-12

    申请号:CN202310374028.0

    申请日:2023-04-10

    Abstract: 本申请涉及一种物化视图查询方法、系统、设备及存储介质,通过对由多个历史查询的历史最优物化结果合并得到的物化结果集合进行筛选,选取物化结果集合中符合查询条件的最长物化结果组合,对选取的物化结果组合在查询响应时间与查询准确性的维度下对物化结果组合进行评分,并按照分数由高到低的顺序分层输出物化结果组合,通过在不同维度下的评分选取最优的物化结果,以响应查询,使得查询过程无需对全部物化结果进行排序,仅需要对物化结果集合执行一次或几次的前k大分数的求取,使得排序次数与计算时间大大降低,解决了相关技术中物化视图查询速度较低的问题。

Patent Agency Ranking