-
公开(公告)号:CN119449624A
公开(公告)日:2025-02-14
申请号:CN202411690071.9
申请日:2024-11-25
Applicant: 西南交通大学
IPC: H04L41/14 , H04L41/0823 , H04L67/1023
Abstract: 本发明隶属新一代信息技术领域,具体地说,是一种在边缘算力网络中低成本部署混合专家大模型的方法,包括以下步骤:一、问题定义与初始化;二、首个专家模型部署方法;包括成本计算及首个专家模型部署操作;三、后续专家模型部署方法;包括已部署节点集更新、成本更新、后续专家模型部署及路由操作;四、重复与终止;五、输出。本发明通过降低单次专家模型的平均部署成本,实现了降本增效的目标,为大模型服务供应商提供了资源节约且效益更高的混合专家模型在边缘计算网络中的部署方案。
-
公开(公告)号:CN119603028A
公开(公告)日:2025-03-11
申请号:CN202411721802.1
申请日:2024-11-28
Applicant: 西南交通大学
Abstract: 本发明公开了一种在零信任接入网络中提示链的低成本部署方法,包括:引入验证成本平衡VCB因子减少零信任ZT的验证次数;基于验证成本平衡VCB因子提出子提示链分支限界SCB算法,逐步选择最优PES节点部署提示链,从而实现最小化的服务成本;本发明不仅解决了提示链在ZT网络中部署成本与验证成本的冲突问题,还提供了一个经济高效、适应性强的部署方法,从而增强ZT网络中生成式人工智能应用的服务质量和资源利用效率。
-