-
公开(公告)号:CN116069438A
公开(公告)日:2023-05-05
申请号:CN202111295318.3
申请日:2021-11-03
Applicant: 上海宝信软件股份有限公司
Abstract: 本发明提供了一种基于容器集群的模型引擎构建方法和系统,包括:获取任务要求信息;对任务所需数据集的标注信息进行导出;将任务所需数据集创建为可挂载进入任务容器的持久卷;在引擎依赖算法库中寻找算法所需预置文件,并创建为可挂载进入任务容器的持久卷;从任务要求信息中获取所需参数,作为容器环境变量予以配置;在容器上暴露相应接口并通过集群出口对外提供服务;在任务启动后记录任务相应信息;对任务产生结果,对日志进行归档存储,并更新任务状态,同时关闭模型任务并释放任务所需系统资源,将资源用于其他模型任务。本发明采用容器技术对AI任务环境进行标准化封装,解决了AI模型研发过程中环境搭建复杂的问题。
-
公开(公告)号:CN115719026A
公开(公告)日:2023-02-28
申请号:CN202110970350.0
申请日:2021-08-23
Applicant: 上海宝信软件股份有限公司
IPC: G06F30/27 , G06F18/214 , G06F8/61 , G06F8/60
Abstract: 本发明提供了一种适用于人工智能中台的系统,包括:模型引擎模块:模型引擎管理模型任务,并对接异构计算资源的容器集群;模型工厂模块:提供模型开发流水线,流水线用于指引模型开发者准备模型训练与推理所需的内容,并向模型引擎模块申请执行任务;模型市场模块:与对接中台的AIBox模块协作,形成云边协同方案,帮助模型开发者在市场上线已研发完成的模型,对训练完成后的模型发布至模型市场模块进行共享和展示,或是选购他人研发模型。本发明以模型研发为核心,形成模型引擎模块、模型工厂模块和模型市场模块,实现对AI资源灵活调度与流水线式模型生产,用于支撑企业机器学习、深度学习模型研发。
-