-
公开(公告)号：CN118113471A
公开(公告)日：2024-05-31
申请号：CN202410256022.8
申请日：2024-03-06
Applicant: 华中科技大学
Abstract: 本发明涉及一种面向服务器无感知推理负载的GPU共享方法及装置，该GPU共享方法需要拦截并转发推理任务的GOU API调用至代理进程，由API代理进程管理和分配GPU资源，包括：在CPU与多个GPU通过总线连接的情况下，多个GPU仅通过CPU端的API代理与CPU进行通信，以通过API代理进程管理和分配GPU资源，其中，由CPU拦截来自同一个推理应用的每一个函数触发的GPU API；由CPU将被拦截的GPU API转发到指定的同一个GPU运行时内执行，且将每一个函数触发的GPU API指定到针对同一个推理应用预先分配的stream池，使得同一个推理应用的多个函数能够在推理应用执行过程中共享同一个GPU运行时。本发明解决了传统GPU运行时在服务器无感推理系统中过于笨重的问题，提升了服务器无感推理系统GPU资源利用率。
-
公开(公告)号：CN111324360B
公开(公告)日：2022-04-01
申请号：CN202010013040.5
申请日：2020-01-09
Applicant: 华中科技大学
IPC: G06F8/61 , G06F8/71 , G06F16/13 , G06F16/14 , G06F16/176 , G06F16/172
Abstract: 本发明涉及一种面向边缘计算的容器镜像构建方法和系统，容器镜像构建方法至少包括如下步骤：镜像重构模块将旧容器镜像重构以获取包含彼此对应的索引和备用文件的新容器镜像，并且将索引和备用文件按照彼此单独存储的方式分别存储于镜像仓库与备用文件存储模块中；下载引擎模块将用于更新索引的配置信息从镜像仓库抓取至边缘端相应的容器中，以使得镜像文件查询模块基于配置信息查询本地文件共享模块以获取配置信息对应的本地共享文件，镜像文件查询模块能够从备用文件存储模块中下载基于配置信息检索到的本地共享文件中不存在的缺省文件，服务处理器将基于配置信息记录到的本地共享文件和缺省文件上传至镜像重构模块，以匹配生成索引。
-
公开(公告)号：CN111324360A
公开(公告)日：2020-06-23
申请号：CN202010013040.5
申请日：2020-01-09
Applicant: 华中科技大学
IPC: G06F8/61 , G06F8/71 , G06F16/13 , G06F16/14 , G06F16/176 , G06F16/172
Abstract: 本发明涉及一种面向边缘计算的容器镜像构建方法，容器镜像构建方法至少包括如下步骤：镜像重构模块将旧容器镜像重构以获取包含彼此对应的索引和备用文件的新容器镜像，并且将索引和备用文件按照彼此单独存储的方式分别存储于镜像仓库与备用文件存储模块中；下载引擎模块将用于更新索引的配置信息从镜像仓库抓取至边缘端相应的容器中，以使得镜像文件查询模块基于配置信息查询本地文件共享模块以获取配置信息对应的本地共享文件，镜像文件查询模块能够从备用文件存储模块中下载基于配置信息检索到的本地共享文件中不存在的缺省文件，服务处理器将基于配置信息记录到的本地共享文件和缺省文件上传至镜像重构模块，以匹配生成索引。
-
公开(公告)号：CN118395421A
公开(公告)日：2024-07-26
申请号：CN202410256023.2
申请日：2024-03-06
Applicant: 华中科技大学
IPC: G06F21/52 , G06F21/62 , G06F9/50 , G06F12/1009 , G06F12/0811
Abstract: 本发明涉及一种基于多内核页表模板的内核数据隔离方法及系统。该方法通过在一个内核中创建多个内核页表模板，并绑定特定应用在相对应模板中运行，使得应用内部进程的内核地址空间与模板保持一致，不同应用间的内核地址空间由于不同模板的存在而相互隔离。该系统包括模板管理模块和结合二级缓存设计、堆叠式管理方式和辅助模板设计的私有内存管理模块。本发明能够以极低的开销在同一个内核中以应用为粒度保护应用私有数据以免受内核地址空间任意读攻击或提权攻击所引发的数据泄露。本发明所配置的模板管理模块和私有内存管理模块，可用于维护内核地址空间级别的特权级别划分，并保证应用间私有内存的透明性和私有内存的正常IO功能。
-
-
-
Search Results
4
records
(took 0.02 seconds)
