一种电力图文大模型装置及其分层部署方法

    公开(公告)号:CN119397340A

    公开(公告)日:2025-02-07

    申请号:CN202411673871.X

    申请日:2024-11-21

    Abstract: 本发明属于电力图文大模型技术领域,公开了一种电力图文大模型装置及其分层部署方法;其中,所述电力图文大模型装置包括:用于部署于边缘设备的边缘模型以及用于部署于云端的云端模型;边缘模型包括对原始电力图文大模型的视觉编码层进行知识蒸馏后的蒸馏后视觉编码层,以及添加于蒸馏后视觉编码层上的头部层;云端模型包括原始电力图文大模型中的文本编码层和模态交互层。本发明技术方案能够进一步发挥云端大模型潜能,提升复杂场景的识别能力;另外,可降低模型的计算复杂度并确保核心性能,使得模型能够在计算能力有限的边缘设备上高效部署和运行,可解决频繁数据传输导致的一系列技术问题。

Patent Agency Ranking