-
公开(公告)号:CN101763283A
公开(公告)日:2010-06-30
申请号:CN201010300716.5
申请日:2010-01-26
Applicant: 上海交通大学
Abstract: 本发明涉及的是一种网络技术领域的网格环境下的补偿事务自动产生方法,补偿事务产生器始终监视着子事务的执行,首先根据影响事务系统状态的事件类型创建行级触发器,然后在子事务执行过程中,补偿事务产生器根据子事务中执行中的事件类型调用相应的行级触发器,自动产生补偿操作,最后当子事务提交时,将该子事务执行中所产生的补偿操作组合成补偿事务,这样就完成了自动产生补偿事务。本发明突破自治的网格服务提供者设置特殊补偿要求的限制,并大大减轻了开发事务性网格应用的工作量与复杂性。
-
公开(公告)号:CN101488149A
公开(公告)日:2009-07-22
申请号:CN200910046339.4
申请日:2009-02-19
Applicant: 上海交通大学
IPC: G06F17/30
Abstract: 一种计算机应用领域的普适环境下情境自适应的移动事务处理系统,本发明中,情境信息获取模块将用户、无线网络、移动设备作为普适事务情境的三个实体,动态获取这三个实体的属性信息;普适事务模块存储各子事务、子事务之间的依赖关系和事务状态信息,它基于事件-情境-行动机制来选择将要采取的事务执行行为;动态事务管理模块根据情境信息获取模块和普适事务模块提供的信息,进行情境自适应的动态调整,根据子事务之间的依赖关系选择将要被执行的子事务,根据当前的情境信息,找到能够执行选定子事务的普适移动设备,并由该设备执行该子事务。本发明使移动事务管理过程自动适应高度变化的事务情境及其变化,动态调整事务服务行为。
-
公开(公告)号:CN101118501A
公开(公告)日:2008-02-06
申请号:CN200710045626.4
申请日:2007-09-06
Applicant: 上海交通大学
Abstract: 一种计算机应用领域的基于网格的补偿事务自动产生方法,首先创建针对数据修改事件产生补偿操作的行级触发器,然后由补偿事务产生器始终监视着子事务的执行;其次当影响系统状态的事件发生时,补偿事务产生器根据事件的类型调用相应的行级触发器,自动产生从语义上撤销该事件影响的补偿操作;最后,当子事务提交时,补偿事务产生器将该子事务执行过程中所产生的补偿操作组合成补偿事务,完成自动产生补偿事务。本发明的方法支持网格环境下补偿事务的自动产生,减少网格长事务应用的开发工作量和开发周期近50%。
-
公开(公告)号:CN119902707A
公开(公告)日:2025-04-29
申请号:CN202411962852.9
申请日:2024-12-30
IPC: G06F3/06
Abstract: 本申请提供一种实时量化单元的内存优化方法、系统及电子设备,所述方法包括:在KV缓存量化过程中,获取分组数据方差并基于所述方差获取分组量化系数;在预填充阶段,基于所述分组量化系数分别将所述KV缓存中的K缓存和V缓存量化为对应的数据类型;在解码阶段,K缓存每一次迭代中获取整个分组的数据,从而实现实时量化;为V缓存配置处理窗口,并基于所述处理窗口为所述V缓存进行实时量化。本申请可以支持KV缓存的动态自适应数据类型量化,优化实时量化单元的内存,以提高模型推理的效率。
-
公开(公告)号:CN119047544A
公开(公告)日:2024-11-29
申请号:CN202411088147.0
申请日:2024-08-09
Applicant: 上海交通大学
IPC: G06N3/098 , G06N3/0464 , G06F21/62 , G06F9/50 , G06F9/54
Abstract: 本公开提供一种基于客户端自主性的分布式训练方法、系统、介质及设备,其中,基于客户端自主性的分布式训练方法,包括:确定客户端本地训练的特征,客户端本地训练的特征包括系统特征和统计特征;根据客户端本地训练的特征,采用提前停止策略决策客户端的本地训练进程;根据客户端本地训练的统计特征,采用基于错误反馈的层级提前传输策略优化客户端的本地训练的通信进程。通过本公开,基于客户端本地训练的特征的指导,实现对客户端内的状态变化感知及客户端的自主决策,节省计算资源,提高模型训练效率,增加计算‑通信重叠时间,提升资源利用率。
-
公开(公告)号:CN118473977A
公开(公告)日:2024-08-09
申请号:CN202410602877.1
申请日:2024-05-15
Applicant: 上海交通大学
IPC: H04L43/08 , H04L41/149 , H04L41/0631
Abstract: 一种面向云上黑盒应用的服务质量违反感知与响应系统及方法,包括:离线资料准备模块以及设置于各服务器节点上实时运行的应用分类标记模块、监测采集模块、QoS预测模块和干扰感知模块,本发明在保障公有云环境下黑盒业务的QoS水平,并在关键业务发生QoS违反时做出响应,即时给出共享资源的干扰程度排序的同时定位干扰源,为业务调度提供支持,提高云上服务器的资源利用率。
-
公开(公告)号:CN114691314B
公开(公告)日:2024-07-19
申请号:CN202111199598.8
申请日:2021-10-14
Applicant: 上海交通大学
Abstract: 本发明提供一种基于确定性算子共存的服务调度方法及其应用的GPU,所述基于确定性算子共存的服务调度方法包括:包括:利用一共存感知的延迟预测器预测每一个算子调度组的处理时间;利用一基于余量的请求控制器以轮循的方式调度多个深度学习服务的请求,在每一个轮次中,确定接收到的所有请求的处理顺序,并基于预测的所述每一个算子调度组的处理时间确定最佳的算子调度组;利用一分段模型执行引擎处理接收到的所述算子调度组中各请求的相应算子的计算。本发明保证了多个深度学习服务混合运行的服务质量保证,同时还提高了吞吐,提升了GPU利用率。
-
公开(公告)号:CN114035935B
公开(公告)日:2024-07-19
申请号:CN202111193853.8
申请日:2021-10-13
Applicant: 上海交通大学
Abstract: 本发明提供一种面向多阶段AI云服务的高吞吐异构资源管理方法及器件,所述面向多阶段AI云服务的高吞吐异构资源管理方法包括:利用一服务质量目标分配器基于接收到的LC服务的请求将服务质量目标拆分为CPU侧服务质量目标和GPU侧服务质量目标;利用一异构资源管理器以CPU侧服务质量目标和GPU侧服务质量目标作为初始样本搜索最佳资源分配;利用一服务质量补偿器实时监测CPU阶段的进度,并在用户请求在CPU阶段花费的时间超过其CPU的服务质量目标时,加速其在加速器端的执行。本发明既保证LC服务的服务质量,又极大地提高了异构设备上所有BE应用的综合性能。
-
公开(公告)号:CN118260085A
公开(公告)日:2024-06-28
申请号:CN202410447414.2
申请日:2024-04-15
Applicant: 上海交通大学
Abstract: 一种QoS感知的CPU优化核粒度函数调度系统及方法,包括:核粒度的节点内调度器、函数分析器、频率调节器、延迟预测器、函数分析数据收集器、运行时数据收集器和函数执行器,本发明考虑真实调度过程中存在的开销,能够以CPU核心为调度粒度对函数进行计算资源分配并优化系统的能效表现,基于此实现服务器负载情况与函数处理优先级感知的系统功率调控系统,充分挖掘服务器无感知计算架构下的能效潜力。
-
公开(公告)号:CN117076726B
公开(公告)日:2024-06-07
申请号:CN202311190856.5
申请日:2023-09-14
IPC: G06F16/903 , G06F16/901 , G06F16/906
Abstract: 本申请提供一种基于光线追踪相交的近似近邻搜索方法、系统、介质及设备,所述方法包括过滤搜索点以获取编码本条目与子空间级反向索引;基于光线追踪相交情况筛选所述编码本条目以构建子空间距离查询表;基于所述子空间距离查询表与所述子空间级反向索引查询距离以获取近似近邻搜索结果。本申请通过使用光线追踪相交测试取代子空间距离查询表构建中的距离计算操作,将不同表项子空间中的相交值作为距离进行选择性距离计算,进而提高基于IVFPQ的ANNS的搜索效率。
-
-
-
-
-
-
-
-
-