公开(公告)号：CN117574961A

公开(公告)日：2024-02-20

申请号：CN202410051188.6

申请日：2024-01-15

Applicant: 成都信息工程大学

Inventor： 栗荣成 ,  冯翱 ,  高正杰 ,  吴锡 ,  雷超 ,  李林襁

IPC: G06N3/0455 ,  G06N3/084 ,  G06F16/35 ,  G06N3/048

Abstract: 本发明涉及一种将适配器注入预训练模型的参数高效化方法和装置，通过将一个可以用于适配各种下游任务的适配器模块注入预训练模型，所述适配器模块设置在靠近输出端，由于在训练过程中，除适配器层外的所有参数会被冻结，而适配器模块的参数靠近输出端，这样使得反向传播的距离大大减小，不仅使得计算梯度的时间大大减小，而且用于存储梯度信息所消耗的显存也会大大减小。从而使得本发明方法能够以极低的成本去适配下游任务，解决以往参数高效化方法虽然可以极大地减少参数，但其训练的时间和硬件成本并没有大幅度减小的问题。

公开(公告)号：CN116628755A

公开(公告)日：2023-08-22

申请号：CN202310773918.9

申请日：2023-06-28

Applicant: 成都信息工程大学

Inventor： 许嘉杰 ,  李林襁 ,  陈超 ,  范锦茜 ,  代盈盈 ,  杨子毅 ,  柴欣

IPC: G06F21/62 ,  G06F21/60 ,  G06F21/31 ,  G06N20/00

Abstract: 本发明涉及用户隐私保护技术领域，且公开了一种基于隐私保护的个性化联邦学习方法包括S1、建立模型；S2、选择模型；S3、模型加密；S4、建立隐私算法；S5、隐私风险分析；S6、建立使用者身份再验证；S7、训练并优化模型S8、部署模型。该基于隐私保护的个性化联邦学习方法，通过建立全局模型或全局模型集合，对全局模型加用户隐私保护用的噪声算法，对全局模型或全局模型集合中的用户数据添加噪声，添加噪声后，对其进行风险分析和验证，经过验证后的全局模型或全局模型合集对其进行部署，在部署之前，对使用者的身份进行再次验证，确保已认证用户的真实性，避免用户信息在上传时用户的隐私受到侵犯，导致用户信JIANLI息在模型上过程中遭受泄露。

公开(公告)号：CN117574961B

公开(公告)日：2024-03-22

申请号：CN202410051188.6

申请日：2024-01-15

Applicant: 成都信息工程大学

Inventor： 栗荣成 ,  冯翱 ,  高正杰 ,  吴锡 ,  雷超 ,  李林襁

IPC: G06N3/0455 ,  G06N3/084 ,  G06F16/35 ,  G06N3/048

Abstract: 本发明涉及一种将适配器注入预训练模型的参数高效化方法和装置，通过将一个可以用于适配各种下游任务的适配器模块注入预训练模型，所述适配器模块设置在靠近输出端，由于在训练过程中，除适配器层外的所有参数会被冻结，而适配器模块的参数靠近输出端，这样使得反向传播的距离大大减小，不仅使得计算梯度的时间大大减小，而且用于存储梯度信息所消耗的显存也会大大减小。从而使得本发明方法能够以极低的成本去适配下游任务，解决以往参数高效化方法虽然可以极大地减少参数，但其训练的时间和硬件成本并没有大幅度减小的问题。

公开(公告)号：CN222672593U

公开(公告)日：2025-03-25

申请号：CN202421384616.9

申请日：2024-06-18

Applicant: 成都信息工程大学

Inventor： 李勇 ,  许翔燕 ,  李林襁

IPC: G09F15/00

Abstract: 本实用新型公开一种校园廉洁文化展示架，涉及校园展示架技术领域。该校园廉洁文化展示架包括柱形架体和设置在柱形架体上卡接的展示海报，展示海报的两侧设有卡接条，卡接条活动卡接在柱形架体上，柱形架体上设有用于对卡接条限位的锁紧机构，柱形架体的底部设有地面固定座，地面固定座的侧面活动卡接有多组抽拉凳。该校园廉洁文化展示架由于柱形架体和地面固定座采用柱形设计，抗风能力强，安全性好，并且利用地面固定座上设置的多组抽拉凳设计，使得学生在经过此区域时，方便将抽拉凳进行抽出休息使用，不使用抽拉凳时，方便将抽拉凳复位收纳，保持抽拉凳的干净整洁，使用稳定。