公开(公告)号：CN117608591A

公开(公告)日：2024-02-27

申请号：CN202311377892.2

申请日：2023-10-23

Applicant: 华南理工大学

Inventor： 谭明奎 ,  陈耀佛 ,  黎浩坤 ,  许守凯 ,  温志全 ,  庄壮伟 ,  陈国昊 ,  罗海林

IPC: G06F8/60 ,  H04L67/10 ,  G06F8/20 ,  G06N3/096

Abstract: 本发明公开了一种云边端协同大模型轻量化部署平台系统及方法，其中系统包括：用户模块和管理员模块；所述用户模块包括专业用户模块和普通用户模块，普通用户模块包括用户基础功能模块、数据管理模块、部署管理模块和部署结果分析模块，专业用户模块比普通用户模块多增加一个模型与算法管理模块；所述管理员模块包括管理员基础功能模块和文档管理模块。本发明通过云边端协同集群，将预训练大模型与下游场景部署算法解耦，用户仅需按照给定格式准备数据，并选择大模型和部署算法即可完成预训练大模型的迁移部署，极大地降低了大模型部署的人力资源成本。本发明可广泛应用于大模型部署的技术领域。