-
公开(公告)号:CN119781913A
公开(公告)日:2025-04-08
申请号:CN202411731484.7
申请日:2024-11-28
Applicant: 清华大学
Abstract: 本公开涉及一种异构集群调度方法及装置、电子设备和存储介质,该方法包括:获取满足应答条件的至少一个第一内核的资源占用情况;基于各资源占用情况,对各所述第一内核进行排序,得到内核调度顺序;获取客户端提交的至少一个待完成任务,基于执行各待完成任务的资源需求,对各待完成任务进行排序,得到任务执行顺序;基于所述内核调度顺序、所述任务执行顺序,确定各待完成任务对应的目标第一内核;将各待完成任务分配给各自对应的目标第一内核。使用本公开的方法可以提高集群计算资源的利用率,降低任务阻塞的概率。使得机器学习的训练和推理过程,可以不依赖特定的芯片,提高了机器模型的灵活性和可移植性,也使得集群的负载更加均衡。
-
公开(公告)号:CN119002817A
公开(公告)日:2024-11-22
申请号:CN202411147652.8
申请日:2024-08-20
Applicant: 清华大学
IPC: G06F3/06 , G06F12/0802 , G06F16/21
Abstract: 本公开涉及一种基于持久缓存和持久内存的数据存储优化方法及装置。该方法包括:响应于针对持久内存的访问行为,确定与访问行为对应的目标地址的访问频率信息,访问频率信息表示该目标地址被访问的频率;响应于目标地址的访问频率信息满足预设条件且访问行为是写入操作,对目标数据执行刷写操作,刷写操作包括将目标数据由缓存写入持久内存的目标地址的操作和内存屏障操作。根据本申请实施例,可以实现针对写入PM的数据选择性地执行刷写操作,在保证数据持久性和正确性的同时减少对持久内存的写入次数,使应用持久内存的数据库系统在动态变化的负载下仍能保持稳定的性能,从而提升了数据库系统的性能和吞吐能力。
-
公开(公告)号:CN111858527B
公开(公告)日:2023-07-07
申请号:CN202010576181.8
申请日:2020-06-22
Applicant: 清华大学深圳国际研究生院
IPC: G06F16/18 , G06F16/182 , G06F16/901
Abstract: 本发明提供一种日志数据建模分析方法及计算机可读存储介质,方法包括:根据自定义的日志关键信息抽取每条日志数据中的关键信息;关键信息包括至少一种信息;根据关键信息构建所述日志之间的日志子图,日志子图是可扩展的属性图;日志子图包括顶点和所述顶点的属性边;顶点是所述关键信息中的一种信息,顶点的属性边根据顶点的属性在两个存在关联关系的顶点之间构建;每个顶点和属性边从属至少一个日志子图;所有日志子图组成第一集合并存储;接收用户的访问请求,根据访问请求对第一集合进行建模分析生成与访问请求对应的分析结果。提出可扩展的属性图的结构,大大提升了日志图这样天然的异构图的表达分析能力。
-
公开(公告)号:CN118069672A
公开(公告)日:2024-05-24
申请号:CN202410288639.8
申请日:2024-03-13
Applicant: 清华大学
Abstract: 本公开涉及数据共识方法及分布式系统、电子设备和存储介质,所述方法包括:分布式系统中的各个节点当前处于第一工作模式,第一工作模式包括:每个节点响应于接收到客户端发送的数据操作请求,检测待完成的数据操作中是否存在相互冲突的数据操作;在不存在相互冲突的数据操作的情况下,执行待完成的数据操作;在存在相互冲突的数据操作的情况下,各个节点切换到第二工作模式,第二工作模式包括:主节点将主节点日志同步给从节点;从节点根据主节点日志,执行从节点待完成的数据操作;在执行完相互冲突的数据操作的情况下,主节点及从节点切换回第一工作模式。由此,能够针对分布式系统实现快速有效的数据一致性复制,并降低了时延、提高了吞吐量。
-
公开(公告)号:CN117807325A
公开(公告)日:2024-04-02
申请号:CN202311629911.6
申请日:2023-11-30
Applicant: 清华大学
IPC: G06F16/9536 , G06F16/9538 , G06F16/901
Abstract: 本发明提供了一种图数据的查询方法、系统及装置,所述查询方法包括:将图数据划分为多个分片存储,且对于每个分片,配置一个独立的处理单元;根据用户提供的查询请求,将图查询分解为对分片数据和状态访问的遍历操作,其中,该遍历操作由分片对应的处理单元执行;根据所有遍历操作的汇总结果,向用户返回最终的查询结果。本发明可以降低图数据查询的延迟,提高可扩展性和可使用性。
-
公开(公告)号:CN119149170A
公开(公告)日:2024-12-17
申请号:CN202411170524.5
申请日:2024-08-23
Applicant: 清华大学
Abstract: 本公开涉及一种云平台容器管理方法、装置和存储介质。该方法包括:基于一个或多个类别的函数生成快照,快照表示对应函数初始化后的内存状态;基于快照为各函数的进程生成内存模板,内存模板用于将函数的进程的虚拟地址映射至物理地址;响应于存在目标函数运行请求,为目标函数运行请求分配目标容器;根据目标函数对应的快照和内存模块,对目标容器进行恢复,恢复后的目标容器用于在云平台中执行目标函数运行请求。根据本申请实施例,可以快速实现内存状态的恢复,降低了隔离环境的创建开销,减小了冷启动带来的计算资源开销和延迟。降低了容器的内存占用率,优化了内存资源占用,减少内存重复提高了内存利用率。
-
公开(公告)号:CN110704693A
公开(公告)日:2020-01-17
申请号:CN201910924175.4
申请日:2019-09-27
Applicant: 清华大学
IPC: G06F16/901
Abstract: 分布式图计算系统和方法,系统包括多个计算机和数据库,每台计算机上具有一个或多个计算结点,首先进行初始化,各个计算结点分别从数据库中读取不相交的原图的一部分边;主体计算流程,采用以子图为中心的迭代化计算方法,同时加入图缩减和重新划分过程以加速收敛,其中每轮迭代包含以下步骤:重新划分步骤,在每轮迭代的开始,首先对当前计算的图进行重新划分;本地计算步骤;缩减步骤,每个计算结点本地计算完成后,删除被判定无用的部分点/边,对原图进行重构;判断剩下的所有边是否能够存储在单个计算结点,为是的情况下,迭代结束,否则返回到重新划分步骤。本发明图计算方技术可以有效减少算法收敛所需的迭代轮数,提高计算效率。
-
公开(公告)号:CN119299403A
公开(公告)日:2025-01-10
申请号:CN202411283742.X
申请日:2024-09-12
Applicant: 清华大学
IPC: H04L49/201 , H04L49/113 , H04L49/90 , H04L12/18 , G06F15/173
Abstract: 本公开涉及一种基于RDMA可靠连接模式的单边组播数据传输方法、装置及电子设备,该方法包括:响应于计算节点的目标组单边组播请求,利用目标组播组中的领导内存节点,基于RDMA的RC模式接收来自计算节点的目标数据;利用领导内存节点的空闲网卡资源,将目标数据单边并行复制至每个子内存节点,并更新领导内存节点的完成状态表;响应于计算节点的单边读取请求,确定目标组单边组播请求对应的响应结果,并将响应结果返回计算节点。本公开实施例,可以在RC模式下实现RDMA单边组播,充分利用内存节点的空闲网卡资源,提高数据传输效率和数据中心吞吐量,降低计算节点的网络资源负担,并避免增加内存节点的CPU负担。
-
公开(公告)号:CN103679038A
公开(公告)日:2014-03-26
申请号:CN201310659010.1
申请日:2013-12-06
Applicant: 清华大学
CPC classification number: G06F8/70 , G06F11/3632 , G06F21/577 , G06F11/3604
Abstract: 本发明提出一种并行程序共享数据类漏洞的检测方法,包括以下步骤:为软件不变量中的各条指令的动态实例定义瞬时Fetter集,其中,软件不变量是指程序中执行顺序预先固定的指令集合;获取瞬时Fetter集的包含集和义务集;将包含集和义务集进行剪枝以获取剪枝后的结果,并将剪枝后的结果存储在不变量数据库中;利用检测组件检测各个瞬时Fetter集是否出现不满足对应的包含集和义务集的第一瞬时Fetter集,如果是,则判断第一瞬时Fetter集包含漏洞,检测组件生成违例报告;暂停当前运行的线程以阻止检测到的漏洞的运行。本发明的方法,可以自动地检测以及防止程序中潜在的共享数据类漏洞。本发明还提出一种并行程序共享数据类漏洞的检测系统。
-
公开(公告)号:CN118585323A
公开(公告)日:2024-09-03
申请号:CN202410659025.6
申请日:2024-05-24
Applicant: 清华大学
IPC: G06F9/50
Abstract: 本发明属于分布式内存管理系统技术领域,公开一种基于引用计数的自动分布式内存管理方法包括:内存分配路径包括快速路径与慢速路径;快速路径中,客户端从页面中分配一个本地的空闲块,如果不存在本地空闲块,将进入慢速路径分配内存;内存分配时,对内存池进行访问的客户端在内存分配页面中分配一个存储对象并标示为已使用,然后为客户端或访问的储存对象的待分配数据信息查找空闲块,将空闲块的地址写入存储对象中。本发明通过将远程分布式共享内存进行不断划分的方式,对其进行了分层,用于存储分配给客户端的空间以及用以加速分配的相关信息。用户可以直接访问到分配的空间,而中间的对象和结构对其透明。
-
-
-
-
-
-
-
-
-