公开(公告)号：CN119544036A

公开(公告)日：2025-02-28

申请号：CN202411669334.8

申请日：2024-11-21

Applicant: 复旦大学

Inventor： 高跃 ,  朱文俊 ,  陈哲 ,  邱堃 ,  罗汉东 ,  赵致远

IPC: H04B7/185 ,  H04B17/391 ,  H04B17/309 ,  H04L41/04 ,  H04L41/0823 ,  H04L41/14

Abstract: 本发明提供了一种卫星互联网数字孪生系统，所述系统采用微服务架构，包括物理层模块、拓扑模块、路径计算模块以及可视化界面模块，使用NS‑3进行包级别仿真，各个模块间通过API接口进行通信；所述物理层模块用于仿真星地链路信道，包括波束增益计算模块、波束干扰计算模块、信道容量计算模块；所述拓扑模块用于根据卫星与地面站位置实时更新动态的网络拓扑；所述路径计算模块用于根据网络拓扑进行实时路径分析；所述可视化界面模块用于输入仿真参数和输出仿真结果。本发明卫星互联网数字孪生系统能够实现卫星网络端到端仿真，基于模块化的微服务架构进行设计，系统灵活性强、可维护性高。

公开(公告)号：CN117650833A

公开(公告)日：2024-03-05

申请号：CN202311687480.9

申请日：2023-12-11

Applicant: 复旦大学

Inventor： 高跃 ,  陈哲 ,  林政 ,  方子涵 ,  胡渲杰

IPC: H04B7/185 ,  G06N3/098

Abstract: 本发明将联邦学习模型与低地球轨道卫星网络进行了结合，提出了一种在低地球轨道卫星网络上实现联邦学习的通用联邦学习框架FedSN。FedSN由两个主要组成部分组成：子结构方案和伪同步模型聚合。子结构方案包括子结构定制化、分发和聚合方法，分别解决资源限制、训练不平衡和组内模型陈旧等问题。伪同步模型聚合策略将模型权重之间的差异纳入到权重函数中，并开发基于缓冲区的聚合方法，以减轻组间模型陈旧问题。广泛的实验结果表明，FedSN框架优于最先进的基准。本发明展示提升了在LEO卫星网络上部署FedSN的潜力。

公开(公告)号：CN118504526A

公开(公告)日：2024-08-16

申请号：CN202410573471.5

申请日：2024-05-10

Applicant: 复旦大学

Inventor： 高跃 ,  陈哲 ,  林政 ,  方子涵 ,  胡渲杰

IPC: G06F40/16 ,  G06N3/0495 ,  G06N3/098 ,  G06N3/063

Abstract: 本发明提供一种参数高效大语言微调联邦学习框架，包括以下步骤：对不同边缘云的LoRA适配器进行建模；根据不同的权重在LoRA适配器上具有不同的平均性能，所以利用奇异值来量化权重的重要性，因此在每轮使用N个边缘云独立训练LoRA适配器之前，对每个可训练权重的LoRA适配器中的BA矩阵使用矩阵奇异值进行分解；根据权重的重要性对异构LoRA适配器进行配置；使用不同的量化位数对预训练模型进行量化，并且仅在执行矩阵乘法时对预训练模型进行高精度的反量化，其中，根据边缘云的内存预算将预训练模型量化为最大量化位数；本发明具有以下有益效果：本发明确定出了最佳的微调模型结构，以提高微调LLM的性能，并适应异构和资源受限的边缘云。

公开(公告)号：CN114149527B

公开(公告)日：2023-08-04

申请号：CN202111505175.4

申请日：2021-12-10

Applicant: 复旦大学

Inventor： 潘翔城 ,  陈哲

IPC: C08F120/54 ,  C08F120/14 ,  C08F293/00 ,  C08F220/28 ,  C08F4/12

Abstract: 本发明涉及高分子合成技术领域，尤其是涉及一种在空气氛围中实现可控自由基聚合的方法及其应用。本发明在完全暴露于空气的环境中，烷基硼胺络合物在加热的条件下，B‑N配位键断裂释放出烷基硼化合物，烷基硼化合物自氧化产生烷基自由基引发聚合反应。本发明中烷基硼胺络合物作为引发剂应用于可逆加成‑断裂链转移聚合(RAFT)中实现在空气氛围中进行可控自由基聚合。本发明的一种在空气氛围中实现可控自由基聚合的方法聚合效率高、聚合反应时间短、无明显的聚合诱导期、反应温度适用区间广、反应条件和设备要求简单、无须除氧环节，是适宜于工业化生产的可控自由基聚合的方法。

公开(公告)号：CN114149527A

公开(公告)日：2022-03-08

申请号：CN202111505175.4

申请日：2021-12-10

Applicant: 复旦大学

Inventor： 潘翔城 ,  陈哲

IPC: C08F120/54 ,  C08F120/14 ,  C08F293/00 ,  C08F220/28 ,  C08F4/12

Abstract: 本发明涉及高分子合成技术领域，尤其是涉及一种在空气氛围中实现可控自由基聚合的方法及其应用。本发明在完全暴露于空气的环境中，烷基硼胺络合物在加热的条件下，B‑N配位键断裂释放出烷基硼化合物，烷基硼化合物自氧化产生烷基自由基引发聚合反应。本发明中烷基硼胺络合物作为引发剂应用于可逆加成‑断裂链转移聚合(RAFT)中实现在空气氛围中进行可控自由基聚合。本发明的一种在空气氛围中实现可控自由基聚合的方法聚合效率高、聚合反应时间短、无明显的聚合诱导期、反应温度适用区间广、反应条件和设备要求简单、无须除氧环节，是适宜于工业化生产的可控自由基聚合的方法。

公开(公告)号：CN119578545A

公开(公告)日：2025-03-07

申请号：CN202411629653.6

申请日：2024-11-15

Applicant: 复旦大学

Inventor： 高跃 ,  陈哲 ,  林政 ,  方子涵 ,  胡渲杰

IPC: G06N5/04 ,  G06N3/096 ,  G06N3/098 ,  G06N3/082 ,  G06N3/084

Abstract: 本发明公开了一种基于参数高效微调的大型语言模型训练方法。大型语言模型训练方法包括：针对训练对象的大型语言模型，将大型语言模型划分为客户端预训练模型和服务器端预训练模型两部分；联合客户端预训练模型和服务器端预训练模型共同进行并行协作训练，在训练过程中，采用参数高效微调技术来对客户端预训练模型和服务器端预训练模型进行并行训练；待训练完成后，采用模型聚合的方法，将客户端预训练模型和服务器端预训练模型合并起来；重复上述步骤，直至作为训练对象的大型语言模型收敛为止。本发明的大型语言模型训练方法基于分割联邦学习框架，并且结合了FL的并行训练优势和SL的模型分割优势，大大提高了训练效率。