基于逐层参数编辑的大语言模型的优化方法

    公开(公告)号:CN118536550B

    公开(公告)日:2025-04-18

    申请号:CN202410615279.8

    申请日:2024-05-17

    Abstract: 本发明公开了一种基于逐层参数编辑的大语言模型的优化方法,所述大语言模型由多层Transformer解码器组成,所述Transformer解码器包括前馈网络模块,所述优化方法包括:在Transformer解码器中,从第一关键层至最后关键层,对每一关键层进行参数编辑;每一关键层的参数编辑方法包括如下步骤:1)估计大语言模型已编码的知识的键C0,2)前馈网络模块上的批量目标知识表征作为值V1;3)进入前馈网络模块之前的批量目标知识的隐藏状态作为键K1;4)更新前馈网络模块的输出权重矩阵。本发明逐层完成参数更新,实现大语言模型的精准参数编辑,消除知识传播带来的信息丢失问题。

    基于麒麟移动操作系统的外置存储设备加解密系统及方法

    公开(公告)号:CN114117476B

    公开(公告)日:2025-01-10

    申请号:CN202111340155.6

    申请日:2021-11-12

    Abstract: 本发明公开了一种基于麒麟移动操作系统的外置存储设备加解密系统及方法,系统包括:Web交互模块、Web渲染引擎模块和外置存储设备管理模块,Web渲染引擎模块提供加解密接口,Web交互模块调用该接口将操作指令发送给外置存储设备管理模块,外置存储设备管理模块确定目标外置存储设备后配置对应的虚拟设备,并生成加密密钥或解密密钥,然后通过所述虚拟设备对目标外置存储设备中的数据加密或解密,并生成对应的反馈信息后,将反馈信息通过Web渲染引擎模块的加解密接口发送给Web交互模块。本发明实现麒麟移动操作系统对外置存储设备加解密的功能,提高了麒麟移动操作系统终端对于外置存储设备数据访问的安全性。

    一种基于软件事务内存的并发编程方法及装置

    公开(公告)号:CN119002932A

    公开(公告)日:2024-11-22

    申请号:CN202411499104.1

    申请日:2024-10-25

    Abstract: 本发明公开了一种基于软件事务内存的并发编程方法及装置。属于计算机编程技术领域。本申请设计的一种基于软件事务内存的并发编程方法,基于支持可交换更新感知的高速缓存硬件结构,支持可交换更新操作的事务处理,通过动态维护子事务串行执行图,在事务提交节点判断子事务的可串行性,增强了事务执行过程中的并发性;且基于Future异步编程的特性并发执行子事务和父事务,减少父子事务执行之间的强关联性,降低了事务回滚的可能性和事务执行失败的情况;此外,提供多种父事务的提交策略,阻塞等待策略可以避免全局观察不一致的问题;独立提交策略则可以提升事务执行效率,降低了事务回滚的影响范围。

    一种多模态认知信息与知识库动态整合方法及系统

    公开(公告)号:CN118627489A

    公开(公告)日:2024-09-10

    申请号:CN202410515063.4

    申请日:2024-04-26

    Abstract: 本发明公开了一种多模态认知信息与知识库动态整合方法及系统,本发明方法包括将多模态认知信息利用动态集成多模式认知信息提取网络DIMC以提取融合特征g:将提及表示、句子表示拼接后输入文本编码器再经过多头注意力提取文本特征#imgabs0#;将图像输入图像编码器再经过多头注意力提取图像特征#imgabs1#,将图像输入专家模型提取信息后经文本编码器得到专家特征#imgabs2#;将文本特征#imgabs3#、图像特征#imgabs4#以及专家特征#imgabs5#融合得到融合特征#imgabs6#并分别计算与知识库中实体的文本特征的相似度,将相似度最高的实体作为预测结果输出。本发明旨在实现对多模态认知实体信息的动态性收集,将知识库中的实体与现实世界的信息进行动态化的整合和链接。

    一种基于云边端协同的任务负载均衡调度方法

    公开(公告)号:CN118394520A

    公开(公告)日:2024-07-26

    申请号:CN202410602801.9

    申请日:2024-05-15

    Abstract: 本发明涉及一种基于云边端协同的任务负载均衡调度方法,包括以下步骤:S1、由终端发起任务调度请求;S2、任务传输到负责该终端的边缘基站,边缘基站周边设置多个边缘服务器;S3、每个智能体收集所在域任务所需时延与资源需求;每个智能体观测所在域的资源使用情况,并与其他智能体进行通信,以制定任务调度策略;在制定调度策略的过程中,每个智能体根据上一个周期收到的奖励信号进行学习更新,其目标是最小化负载标准差;S4、根据最终完成的智能体的任务调度策略指定云边端中的某个服务器,将任务传输到指定的云边端中的服务器中进行处理。针对包含多个任务和多个云边端设备的复杂环境本发明能够实现较好的负载均衡效果。

Patent Agency Ranking