公开(公告)号：CN118938970A

公开(公告)日：2024-11-12

申请号：CN202410997661.X

申请日：2024-07-24

Applicant: 厦门大学

Inventor： 喻骁 ,  谢晶晶 ,  兰维瑶

IPC: G05D1/485 ,  G05D101/10

Abstract: 本申请公开了一种水下机器人协同包围目标控制方法，其不依赖水下机器人群体间的任何通信，各水下机器人仅依据自身坐标系下测量到的与邻居水下机器人的相对状态信息和/或与目标间的距离计算驱动扭矩和驱动力，并据此对自身进行控制，实现了多水下机器人围绕以固定的目标为圆心并以设定半径为半径的圆以相同的设定角速度转动且任意两个机器人之间形成设定的分离角的控制目的。

公开(公告)号：CN118246510B

公开(公告)日：2024-10-22

申请号：CN202410661740.3

申请日：2024-05-27

Applicant: 厦门大学

Inventor： 曹刘娟 ,  纪荣嵘 ,  谢晶晶 ,  林明宝

IPC: G06N3/082 ,  G06N3/086 ,  G06N3/0495

Abstract: 本发明涉及一种神经网络的后训练剪枝方法，其采用减少再生长的进化搜索算法来确定神经网络的最优稀疏率；然后利用促进稀疏网络从密集网络学习有效知识的稀疏目标和程；最后，基于前述两种因素结合动态稀疏训练来全面优化稀疏结构，确保训练的稳定性，同时提高剪枝后的稀疏网络的准确率。

公开(公告)号：CN119445288A

公开(公告)日：2025-02-14

申请号：CN202411556564.3

申请日：2024-11-04

Applicant: 厦门大学

Inventor： 曹刘娟 ,  谢晶晶 ,  张玉鑫 ,  纪荣嵘

IPC: G06V10/774 ,  G06V10/764 ,  G06V10/44 ,  G06V10/52 ,  G06V10/80 ,  G06V10/86

Abstract: 本发明公开了一种预训练的视觉语言模型的少样本微调方法、装置及可读介质，包括：构建微调数据集、构建预训练的视觉语言模型以及特征对齐模块和局部缓存模块，预训练的视觉语言模型包括图像编码器、文本编码器和特征聚合模块；基于微调数据集并通过特征对齐模块和局部缓存模块对预训练的视觉语言模型进行微调，得到对比预训练的视觉语言模型和最后一次更新后的存储矩阵。先通过特征对比模块将全局特征和局部特征转换到文本嵌入空间，通过局部缓存模块封装从图像分支的局部特征中提取细粒度的语义信息，之后这些细粒度的语义信息会与相应的文本嵌入进行拼接，随后通过特征聚合模块融合全局和局部信息，以增强文本分支的表示能力。

公开(公告)号：CN119089967A

公开(公告)日：2024-12-06

申请号：CN202411002426.0

申请日：2024-07-25

Applicant: 厦门大学

Inventor： 曹刘娟 ,  谢晶晶 ,  张玉鑫 ,  林明宝 ,  纪荣嵘

IPC: G06N3/084 ,  G06N3/0495

Abstract: 本发明公开一种用于量化的多模态大模型的指令微调方法，包括：步骤1、量化感知的尺度学习；步骤2、用于尺度学习的多模态热身策略；步骤3、使用量化后的多模态大模型进行特定任务学习。本发明采用量化感知的尺度学习，能够自适应地最小化异常位置的量化误差，尤其在某些位置激活表现为异常值特征的情况下能够有效地减少了每个量化组内的量化误差，从而解决现有技术对于离群点造成的量化误差无法有效处理的问题；本发明通过均匀量化的方法，采用权重裁剪来缓解语言任务中发生的量化困难；本发明在迭代达到一定次数后，将多模态指令数据集替换为混合数据集，有助于在保持多模态任务性能的同时，逐步引入语言数据，避免过度拟合。

公开(公告)号：CN118246510A

公开(公告)日：2024-06-25

申请号：CN202410661740.3

申请日：2024-05-27

Applicant: 厦门大学

Inventor： 曹刘娟 ,  纪荣嵘 ,  谢晶晶 ,  林明宝

IPC: G06N3/082 ,  G06N3/086 ,  G06N3/0495

Abstract: 本发明涉及一种神经网络的后训练剪枝方法，其采用减少再生长的进化搜索算法来确定神经网络的最优稀疏率；然后利用促进稀疏网络从密集网络学习有效知识的稀疏目标和程；最后，基于前述两种因素结合动态稀疏训练来全面优化稀疏结构，确保训练的稳定性，同时提高剪枝后的稀疏网络的准确率。

公开(公告)号：CN117172301A

公开(公告)日：2023-12-05

申请号：CN202311128731.X

申请日：2023-09-04

Applicant: 厦门大学

Inventor： 纪荣嵘 ,  钟云山 ,  谢晶晶 ,  林明宝

IPC: G06N3/082 ,  G06N3/0464 ,  G06F18/23213 ,  G06T3/40

Abstract: 一种适用于超分网络的分布灵活子集量化方法，涉及人工神经网络的压缩与加速。1)使用L1损失、结构转移损失预训练一个全精度的超分网络；2)统计全精度超分神经网络每一层激活值的分布；3)每层激活值分布进行归一化处理；4)进行k‑means聚类得到量化点，并对激活值进行子集量化。可应用于在图像超分领域上的卷积神经网络，本方法既思想简单，同时节省计算开销，且大大提高性能，同时性能超过各种主流的后训练量化方法，当比特位越低现象越明显。提出利用kmeans实现快速量化点选择。只需要应用本发明设计的量化器，可直接以后训练的方式得到量化模型，开销更小同时性能更高。