-
公开(公告)号：CN118760522A
公开(公告)日：2024-10-11
申请号：CN202410863781.0
申请日：2024-06-29
Applicant: 上海交通大学
Abstract: 一种自主设备优化架构生成方法，根据优化指标、推理负载、架构约束和数据流策略进行能量收集建模和自主推理建模，从而刻画AuT供电系统和AuT推理系统的功能和行为；根据建立后的模型进行架构时序仿真，得到满足指定SWaP限制的自主边缘平台架构候选方案；再在其基础上进行基于软硬件配置优化的双层架构优化搜索，得到优化后的自主计算架构方案。本发明能够自动地为不同边缘人工智能应用场景生成一个定制的自主设备方案，包括自主供电系统和智能推理芯片，以提升边缘计算自主性；适用于任何自主设备的场景。
-
公开(公告)号：CN117493043B
公开(公告)日：2024-06-18
申请号：CN202311482405.9
申请日：2023-11-09
Applicant: 上海交通大学
Abstract: 一种基于原数据的SMG实现系统及方法，包括：设置于DSP输入端的原始数据缓存区、数据缓存区创建和控制模块、DSP控制处理模块、多模态选择模块和自适应多模态计算模块，原始数据缓存区临时存储来自传感器的原始模态数据，多模态选择模块通过神经网络判断原始模态数据中模态数据的重要度后，将重要的模态数据输出至DSP进行处理，数据缓存区创建和控制模块为应用实现创建、读、写数据缓存区，DSP控制处理模块提供系统调用，自适应多模态计算模块通过构建并训练神经网络后，在线根据输入的模态进行自适应的模态融合计算并给出计算结果。本发明通过预先进行多模态门控处理，对进入DSP的模态数据进行提前筛选，以保证不需要的模态数据不经过DSP，从而避免DSP造成不必要的能量和执行时间浪费。
-
公开(公告)号：CN117033718B
公开(公告)日：2024-06-07
申请号：CN202311190214.5
申请日：2023-09-14
IPC: G06F16/903 , G06F16/901 , G06F16/906
Abstract: 本申请提供一种基于光线追踪的近似近邻搜索方法、系统、介质及设备，所述方法包括过滤搜索点以获取编码本条目与子空间级反向索引；基于光线追踪单元构建子空间距离查询表；基于所述子空间距离查询表与所述子空间级反向索引查询距离以获取近似近邻搜索结果。本申请通过利用新兴的光线追踪单元的光线追踪技术来进行距离计算，从而取代IVFPQ中的子空间距离查询表构建中的距离计算操作，在保证计算结果正确的前提下，大大地提高基于IVFPQ的ANNS的搜索效率。此外，本申请还提出了一种对于光线追踪单元计算友好的内积近似计算方法，进一步提高了距离计算的效率。
-
公开(公告)号：CN116842994B
公开(公告)日：2024-03-01
申请号：CN202310805891.7
申请日：2023-07-03
Applicant: 上海交通大学
IPC: G06N3/045 , G06N3/0464 , G06N3/042 , G06N3/08 , G06N5/04
Abstract: 一种多神经网络执行效率动态优化方法及系统，在离线阶段针对预设的多神经网络推理负载和异构边缘计算硬件，采用智能搜索算法寻找帕累托最优的调度配置，记录搜索过程中找到的所有候选配置，并为每个候选延迟需求保存对应的低资源占用的调度配置作为最优配置查找表；同时采集每组待部署的神经网络推理负载在不同计算硬件执行状态下的执行延迟并存入执行延迟查找表；在在线阶段根据系统延迟需求，从最优配置查找表中选择匹配的最优调度配置，持续监控执行状态并预测所有神经网络推理负载的剩余总执行时间，通过反馈式频率调节机制确保延迟需求得到满足。本发明既能应对系统所处场景多样性导致的延迟需求变化，也能应对多硬件单元共享内存导致的性能干扰，解决了多个神(56)对比文件Yangjie Zhou, at el..“uGrapher:High-Performance Graph Poerator Computationvia Unified Abstraction for Graph NeuralNetworks”《.Proceeding of the 28th ACMIneternationial Conference onArchitectural Support for ProgrammingLanguages and Operating Systems》.2023,全文.任神河;郑寇全;关冬冬;惠军华.基于IFTS的云计算网络动态负载均衡方法.系统工程理论与实践.2019,(第05期),全文.
-
公开(公告)号：CN116842994A
公开(公告)日：2023-10-03
申请号：CN202310805891.7
申请日：2023-07-03
Applicant: 上海交通大学
IPC: G06N3/045 , G06N3/0464 , G06N3/042 , G06N3/08 , G06N5/04
Abstract: 一种多神经网络执行效率动态优化方法及系统，在离线阶段针对预设的多神经网络推理负载和异构边缘计算硬件，采用智能搜索算法寻找帕累托最优的调度配置，记录搜索过程中找到的所有候选配置，并为每个候选延迟需求保存对应的低资源占用的调度配置作为最优配置查找表；同时采集每组待部署的神经网络推理负载在不同计算硬件执行状态下的执行延迟并存入执行延迟查找表；在在线阶段根据系统延迟需求，从最优配置查找表中选择匹配的最优调度配置，持续监控执行状态并预测所有神经网络推理负载的剩余总执行时间，通过反馈式频率调节机制确保延迟需求得到满足。本发明既能应对系统所处场景多样性导致的延迟需求变化，也能应对多硬件单元共享内存导致的性能干扰，解决了多个神经网络推理负载如何统一进行调度优化的问题。
-
Patent Agency Ranking
公开(公告)号：CN116188239B
公开(公告)日：2023-09-12
申请号：CN202211536501.2
申请日：2022-12-02
Applicant: 上海交通大学
Abstract: 一种多请求并发的GPU图随机游走优化实现方法及系统，在离线阶段对图随机游走请求分类并正对各个请求的GPU资源占用情况，建立基于图随机游走请求类型和资源占用情况的并发效果判断机制；在在线阶段通过调度器预测图随机游走请求执行时间并根据各个图随机游走请求的适合度调整运行优先级和/或运行组合，通过GPU内存存储层级及多加速器端进行图数据切分管理和图随机游走请求执行。本发明能够实现低干扰、低延迟的图数据切分管理及低停顿的图随机游走请求执行，充分挖掘多GPU空分共享同时处理多并发请求的性能潜力，提高GPU上运行图随机游走请求的整体吞吐率，并降低能耗。
-
公开(公告)号：CN116418872A
公开(公告)日：2023-07-11
申请号：CN202310181180.7
申请日：2023-03-01
Applicant: 上海交通大学
Abstract: 一种数据流驱动的工作流服务器无感知分布式调度系统，包括：设置于主节点上的有向无环图解析器和全局调度器以及设置于每个工作节点上的数据流本地调度器和本地存储单元，本发明通过设计基于数据流的调度器和充分利用数据局部性，从而提高端到端时延，提高吞吐量，从而支持乱序执行以及基于数据流架构的工作流服务器。
-
公开(公告)号：CN116414556A
公开(公告)日：2023-07-11
申请号：CN202211548729.3
申请日：2022-12-05
Applicant: 上海交通大学
IPC: G06F9/50
Abstract: 一种基于冗余算力的异构嵌入式设备电力分配系统及方法，包括：实时系统监测模块和实时电力分配模块，实时系统监测模块在嵌入式设备运行过程中监测回收其异构硬件中两类冗余算力以及监测嵌入式设备的实时状态；实时电力分配模块根据嵌入式设备的实时状态通过冗余算力运行强化学习辅助方法进行电力分配模型的学习调优和自适应的电力分配决策。本发明能够监测嵌入式设备任务周期运行过程中的两类未利用算力资源即冗余算力，并且利用两类冗余算力运行强化学习辅助的方法来完成电力分配决策，显著提高嵌入式设备的总体资源利用率和系统能效，保证电力分配的高实时性和自适应性。
-
公开(公告)号：CN116188239A
公开(公告)日：2023-05-30
申请号：CN202211536501.2
申请日：2022-12-02
Applicant: 上海交通大学
Abstract: 一种多请求并发的GPU图随机游走优化实现方法及系统，在离线阶段对图随机游走请求分类并正对各个请求的GPU资源占用情况，建立基于图随机游走请求类型和资源占用情况的并发效果判断机制；在在线阶段通过调度器预测图随机游走请求执行时间并根据各个图随机游走请求的适合度调整运行优先级和/或运行组合，通过GPU内存存储层级及多加速器端进行图数据切分管理和图随机游走请求执行。本发明能够实现低干扰、低延迟的图数据切分管理及低停顿的图随机游走请求执行，充分挖掘多GPU空分共享同时处理多并发请求的性能潜力，提高GPU上运行图随机游走请求的整体吞吐率，并降低能耗。
-
公开(公告)号：CN115586952A
公开(公告)日：2023-01-10
申请号：CN202211100713.6
申请日：2022-09-09
Applicant: 上海交通大学 , 中国人民解放军63921部队
Abstract: 一种空间在轨数据中心的计算流程控制系统，包括：由多条计算通路组成的多模态数据分析集群和包括用于存储计算通路的最优开关配置的配置模块以及用于控制分析节点的开关状态的开关模块的控制优化系统，每条计算通路对应一种数据模态，多条计算通路得到各自对应的中间分析结果，以所有中间分析结果为输入，多模态数据分析集群计算最终输出结果，配置模块基于典型应用性能的历史分析生成最优开关配置以描述关于计算通路优先级的排序；开关模块根据最优开关配置，在实际计算过程中选择开启或者关闭不同的计算通路，实现空间在轨大数据中心吞吐和能效的综合提升。
-
-
-
-
-
-
-
-
-
Search Results
145
records
(took 0.075 seconds)
