-
公开(公告)号:CN110502337B
公开(公告)日:2023-02-07
申请号:CN201910627734.5
申请日:2019-07-12
Applicant: 上海交通大学
Abstract: 本发明提供了一种针对Hadoop MapReduce中混洗阶段的优化系统,该优化系统以守护进程方式运行在Hadoop MapReduce的工作节点以及主节点中,并使用进程间通信以及远程过程调用的方式与Hadoop MapReduce进行通信。同时提供了一种基于上述优化系统实现的优化方法。本发明所提供的优化系统运行后接管Hadoop MapReduce任务运行中的所有中间数据,通过利用预先合并以及预先混洗的方式,一方面合理利用了Map阶段的空闲网络带宽,另一方面在合并同节点中的中间数据后有效减少小文件读写,从而优化了MapReduce任务的完成时间。
-
公开(公告)号:CN119743397A
公开(公告)日:2025-04-01
申请号:CN202411595192.5
申请日:2024-11-08
Abstract: 本申请公开了一种无线自组网拓扑仿真系统及方法,涉及网络仿真领域,该系统中拓扑调整算法仿真单元基于事件驱动进行拓扑调整算法的仿真;分布式拓扑构建算法仿真单元通过分布式任务系统实现拓扑构建算法的分布式计算。本申请能够高效、保真地完成无线自组网拓扑控制算法的仿真,具备较好的可扩展性,满足大规模场景的使用需求。
-
公开(公告)号:CN112463366B
公开(公告)日:2022-12-06
申请号:CN202011300768.2
申请日:2020-11-19
Applicant: 上海交通大学
IPC: G06F9/50 , H04L47/125
Abstract: 本发明提供了一种面向云原生的微服务自动扩缩容和自动熔断方法及系统,设置云原生系统中集群内部的网关规则,接管集群的入口流量;针对每一个微服务,将所有的服务副本集合抽象成一个独立的逻辑概念,其中每一个逻辑概念对应一个子网关服务;流量在进入每一个逻辑概念前,均先通过子网关服务进行L7层面的流量转发;子网关服务根据当前集群的网络状态和流量状态,将当前服务请求发送至对应接口、丢弃后续服务请求和/或对当前服务请求进行扩缩容处理,并结合对当前服务请求的扩缩容处理结果和所转发的L7层面流量,实现L7层面的自动熔断。本发明实现微服务自动扩容/缩容以及基于L7层面的自动熔断,保证了服务的高可用。
-
公开(公告)号:CN119781931A
公开(公告)日:2025-04-08
申请号:CN202411896740.8
申请日:2024-12-23
Applicant: 上海交通大学
Abstract: 一种KUBERNETES环境下的SPARK数据本地性优化系统,包括:Spark驱动模块和Kubernetes网络插件模块,其中:Spark驱动模块根据客户端的计算任务请求,调用系统指令获取HDFS的网络地址IP和集群相关信息并根据该网络地址IP信息计算数据本地性后对计算任务进行节点分配;Kubernetes网络插件模块接收Spark驱动模块的调用并对计算任务指定所在容器的IP网络地址。本发明通过优化Spark驱动模块和调整Kubernetes内网络插件改进在Kubernetes环境中Spark的数据本地性,能够实现Spark作业对HDFS数据IP地址的识别的同时显著降低Spark任务执行过程中的网络传输吞吐开销,进而优化Spark在Kubernetes环境下的作业执行性能。
-
公开(公告)号:CN119484301A
公开(公告)日:2025-02-18
申请号:CN202411595917.0
申请日:2024-11-08
Abstract: 本申请公开了一种面向大规模网络的高精度流量控制协议仿真系统及方法,涉及网络运行仿真服务领域。该系统中,用户流量控制协议集成模块将用户提供的拥塞控制协议算法或流量控制协议自动转换为BPF程序;拥塞控制协议仿真模块将BPF程序编译为Linux内核能够运行的字节码,并挂载到钩子函数处。流量生成器使用挂载的拥塞控制算法或流量控制协议生成流量;数据收集处理模块使用数据库对流量控制协议仿真实验的流量进行收集和处理;实验网络拓扑管理工具生成网络拓扑,基于流量生成器生成的流量进行仿真实验。本申请能够降低仿真开销,完全真实地反映实际网络中的复杂情况,进而不会对仿真结果的适用性和真实性造成限制。
-
公开(公告)号:CN118101661A
公开(公告)日:2024-05-28
申请号:CN202410175114.3
申请日:2024-02-07
Applicant: 上海交通大学
IPC: H04L67/1008 , H04L41/14 , G06F9/50
Abstract: 本发明提供了一种基于CPU负载均衡的流量生成器部署方法,基于流量生成器性能测试,得到可选流量生成器集合;基于已知的同一服务器上一组仿真网络节点的流量时间特征序列,得到一组流量生成请求;顺序处理每个流量生成请求,获取服务器当前的负载容量以及每个CPU的运行和负载情况;根据服务器当前的负载容量、每个CPU的运行和负载情况以及可选流量生成器集合,使用规划模型确定响应该流量生成请求的实际流量生成器组合以及每个流量生成器所被部署到的目标CPU,作为目标部署方案,满足用户在大规模网络仿真场景下进行流量生成时对流量特征模拟的真实性并有效利用CPU资源。
-
公开(公告)号:CN110502337A
公开(公告)日:2019-11-26
申请号:CN201910627734.5
申请日:2019-07-12
Applicant: 上海交通大学
Abstract: 本发明提供了一种针对Hadoop MapReduce中混洗阶段的优化系统,该优化系统以守护进程方式运行在Hadoop MapReduce的工作节点以及主节点中,并使用进程间通信以及远程过程调用的方式与Hadoop MapReduce进行通信。同时提供了一种基于上述优化系统实现的优化方法。本发明所提供的优化系统运行后接管Hadoop MapReduce任务运行中的所有中间数据,通过利用预先合并以及预先混洗的方式,一方面合理利用了Map阶段的空闲网络带宽,另一方面在合并同节点中的中间数据后有效减少小文件读写,从而优化了MapReduce任务的完成时间。
-
公开(公告)号:CN105872082B
公开(公告)日:2018-11-23
申请号:CN201610329233.5
申请日:2016-05-18
Applicant: 上海交通大学
IPC: H04L29/08
Abstract: 一种基于容器集群负载均衡算法的细粒度资源响应系统,包括:请求处理模块、数据支持模块、分析决策模块、服务实例选择模块和请求‐服务实例匹配器,其中:请求处理模块调用数据支持模块和分析决策模块对请求进行分析和分类,并将请求的分类结果发送至请求‐服务实例匹配器;请求‐服务实例匹配器向服务实例选择模块发起选择要求,服务实例选择模块调用数据支持模块和分析决策模块进行服务实例的解析和选择,并将服务实例的选择结果发送至请求‐服务实例匹配器;请求‐服务实例匹配器根据请求的分类结果和服务实例的选择结果,调用分析决策模块依次进行分组匹配和个体匹配,并根据匹配结果将请求分发至对应的服务实例,实现资源的响应;本发明有较好的资源使用率。
-
公开(公告)号:CN112463366A
公开(公告)日:2021-03-09
申请号:CN202011300768.2
申请日:2020-11-19
Applicant: 上海交通大学
IPC: G06F9/50 , H04L12/803
Abstract: 本发明提供了一种面向云原生的微服务自动扩缩容和自动熔断方法及系统,设置云原生系统中集群内部的网关规则,接管集群的入口流量;针对每一个微服务,将所有的服务副本集合抽象成一个独立的逻辑概念,其中每一个逻辑概念对应一个子网关服务;流量在进入每一个逻辑概念前,均先通过子网关服务进行L7层面的流量转发;子网络服务根据当前集群的网络状态和流量状态,将当前服务请求发送至对应接口、丢弃后续服务请求和/或对当前服务请求进行扩缩容处理,并结合对当前服务请求的扩缩容处理结果和所转发的L7层面流量,实现L7层面的自动熔断。本发明实现微服务自动扩容/缩容以及基于L7层面的自动熔断,保证了服务的高可用。
-
公开(公告)号:CN105872082A
公开(公告)日:2016-08-17
申请号:CN201610329233.5
申请日:2016-05-18
Applicant: 上海交通大学
IPC: H04L29/08
Abstract: 一种基于容器集群负载均衡算法的细粒度资源响应系统,包括:请求处理模块、数据支持模块、分析决策模块、服务实例选择模块和请求‐服务实例匹配器,其中:请求处理模块调用数据支持模块和分析决策模块对请求进行分析和分类,并将请求的分类结果发送至请求‐服务实例匹配器;请求‐服务实例匹配器向服务实例选择模块发起选择要求,服务实例选择模块调用数据支持模块和分析决策模块进行服务实例的解析和选择,并将服务实例的选择结果发送至请求‐服务实例匹配器;请求‐服务实例匹配器根据请求的分类结果和服务实例的选择结果,调用分析决策模块依次进行分组匹配和个体匹配,并根据匹配结果将请求分发至对应的服务实例,实现资源的响应;本发明有较好的资源使用率。
-
-
-
-
-
-
-
-
-