基于轻量化Transformer网络的语音识别系统及方法

    公开(公告)号:CN116013309B

    公开(公告)日:2025-03-21

    申请号:CN202310065728.1

    申请日:2023-01-14

    Applicant: 西南大学

    Abstract: 本发明涉及人工智能领域中的语音识别技术,具体公开了一种基于轻量化Transformer网络的语音识别系统及方法,系统包括预处理模块、第一前向传播模块、多头注意力模块、卷积模块、第二前向传播模块和全连接层模块,该系统通过模块化硬件设计且将部分参数利用忆阻交叉阵列予以实现,不仅具有较轻的网络模型,而且在不同的硬件规模下具有良好的识别精度,能有效地减少电路的能耗和面积开销,可以在功耗低、结构轻的边缘设备上实现语音识别任务,并具有较好的稳定性和抗噪性。

    一种基于双域交互Transformer的增强条件扩散模型的图像复原方法

    公开(公告)号:CN118537249A

    公开(公告)日:2024-08-23

    申请号:CN202410652803.9

    申请日:2024-05-24

    Applicant: 西南大学

    Abstract: 本发明公开了一种基于双域交互Transformer的增强条件扩散模型的图像复原方法,该方法包括:进行扩散训练,即对干净图像x0进行正向加噪和反向去噪处理,并在反向去噪过程中使用退化图像#imgabs0#作为条件进行引导;进行增强训练,即将高斯噪声#imgabs1#利用噪声估计网络进行去噪,最终得到干净图像#imgabs2#并重新设计目标函数,进一步优化参数θ;利用训练好的噪声估计网络,将待复原的退化图像进行图像复原。本发明的方法能够显著提高图像复原性能。

    一种基于忆阻器的文本情感检测系统及方法

    公开(公告)号:CN115994221A

    公开(公告)日:2023-04-21

    申请号:CN202310091466.6

    申请日:2023-02-06

    Applicant: 西南大学

    Abstract: 本发明涉及文本情感识别技术领域,具体公开了一种基于忆阻器的文本情感检测系统及方法,该系统包括预处理模块、注意力计算模块和情感分类模块。本系统中的线性映射和矩阵乘法操作采用忆阻交叉阵列构建,而其余电路模块也采用CMOS技术组建。与传统的计算架构(GPU)相比,本发明所设计的硬件方案具有更低的功耗,同时减少了因内存和计算单元分离而造成的额外电路面积开销;本发明提出了名为MLA‑DSCN的轻量级网络模型来实现文本情感检测任务,通过将深度分离卷积模块融合到网络中,改进后的网络模型MLA‑DSCN不仅可以关注输入文本信息的全局信息,还可以提高其在局部层面的信息提取能力,在不牺牲精度的前提下,将网络参数的数量降低了3倍。

    一种异质结自整流忆阻器及其制备方法

    公开(公告)号:CN114883489A

    公开(公告)日:2022-08-09

    申请号:CN202210589118.7

    申请日:2022-05-27

    Applicant: 西南大学

    Abstract: 本发明涉及半导体器件技术领域,具体涉及一种异质结自整流忆阻器及其制备方法。其中,一种异质结自整流忆阻器,包括依次叠加的第一电极层、具有忆阻特性的异质结层和第二电极层,所述第一电极层、具有忆阻特性的异质结层和第二电极层的势垒能够通过能带工程进行调控。其方法包括以下步骤:取基底、第一电极层材料、具有忆阻特性的异质结层材料和第二电极层材料;在所述基底上依次叠加进行第一电极层材料、具有忆阻特性的异质结层材料和第二电极层材料的溅射镀膜,镀膜后形成异质结自整流忆阻器。本发明的目的是解决现有的忆阻器会产生潜行电流,使其电阻值会发生变化,导致其储存的数据失效的问题。

    一种基于类脑视觉Transformer的图像修复方法及ADAS边缘设备

    公开(公告)号:CN117392020B

    公开(公告)日:2025-03-04

    申请号:CN202311466352.1

    申请日:2023-11-07

    Applicant: 西南大学

    Abstract: 本发明涉及图像修复技术领域,具体公开了一种基于类脑视觉Transformer的图像修复方法及ADAS边缘设备,创建了一种U型结构的图像修复网络(LSFormer),在该网络中,提出了线性稀疏Transformer块(LSTB),在LSTB中设计了聚焦线性稀疏注意力块(FLSA)降低计算复杂性,有助于减轻与Softmax相关的异常值问题;在FLSA中还设计了多尺度前馈网络(MSFF),以通过使用不同深度卷积核大小来增强局部表示;在LSFormer还提出了小波注意力块(WAB),来改进输出图像。此外,本发明提供了基于忆阻器类脑计算系统的硬件实施方案,用于智能车辆中应用ADAS。本发明还评估了提出的网络在多个数据集上的性能,包括低照度增强、图像去雨和图像去雾等任务,结果表明,LSFormer在这三个任务中均优于最先进的网络。

    一种改性丝素蛋白及其制备方法、忆阻器和应用

    公开(公告)号:CN115403784B

    公开(公告)日:2023-10-27

    申请号:CN202211023368.0

    申请日:2022-08-25

    Applicant: 西南大学

    Abstract: 本发明公开了一种改性丝素蛋白及其制备方法、忆阻器和应用,其属于光电材料技术领域,该改性丝素蛋白的制备方法包括以下步骤:将5,6‑二羟基吲哚、聚甘油‑3和丝素蛋白溶液进行混合,得到前驱体溶液;将前驱体溶液进行热处理,得到改性丝素蛋白。本发明通过采用5,6‑二羟基吲哚和聚甘油‑3对丝素蛋白进行改性,可以显著提高丝素蛋白的柔韧性和介电性能;将该改性丝素蛋白作为忆阻器的基底,可以根据改性丝素蛋白的正负光电导效应,模拟人脑视皮层给光型和撤光型双极细胞,其具有较强的图像感知、原位存储、预处理和识别方面的能力。

    一种陶土发电器件及其制作方法、忆阻器自驱动系统

    公开(公告)号:CN116846253A

    公开(公告)日:2023-10-03

    申请号:CN202310802631.4

    申请日:2023-07-03

    Applicant: 西南大学

    Abstract: 本申请适用于电子技术领域,提供了一种陶土纳米发电器件及其制作方法、忆阻器自驱动系统;其中,所述陶土纳米发电机的制作方法包括:在内置陶土粉末的装置的两端插入金属丝,以作为电极;在所述内置陶土粉末的装置的一端放入经酸溶液处理后的棉线,以使去离子得以通过所述棉线渗透入所述内置陶土粉末的装置内,得陶土发电器件。所制作得到的单个陶土纳米发电器件可以产生1.5μA左右的电流,0.5V左右的电压,在270小时内保持稳定,并且具有制备方法简单、成本低的优点。通过将陶土纳米发电器件与忆阻器集成在一起,实现对忆阻器的自驱动系统。

    基于轻量化Transformer网络的语音识别系统及方法

    公开(公告)号:CN116013309A

    公开(公告)日:2023-04-25

    申请号:CN202310065728.1

    申请日:2023-01-14

    Applicant: 西南大学

    Abstract: 本发明涉及人工智能领域中的语音识别技术,具体公开了一种基于轻量化Transformer网络的语音识别系统及方法,系统包括预处理模块、第一前向传播模块、多头注意力模块、卷积模块、第二前向传播模块和全连接层模块,该系统通过模块化硬件设计且将部分参数利用忆阻交叉阵列予以实现,不仅具有较轻的网络模型,而且在不同的硬件规模下具有良好的识别精度,能有效地减少电路的能耗和面积开销,可以在功耗低、结构轻的边缘设备上实现语音识别任务,并具有较好的稳定性和抗噪性。

    基于忆阻细胞神经网络的电子鼻气体分类方法

    公开(公告)号:CN112433028B

    公开(公告)日:2021-08-17

    申请号:CN202011239242.8

    申请日:2020-11-09

    Applicant: 西南大学

    Abstract: 本发明涉及电子鼻技术领域,具体公开了一种基于忆阻细胞神经网络的电子鼻气体分类方法,在硬件层面上使用了多类嗅觉传感器阵列来获取样本数据,然后再使用具有自适应约束条件的忆阻细胞神经网络(M‑CeNN)来提取数据特征,并在此基础上,采用结合增量式量化(INQ)方案的启发式优化算法来降低硬件层面计算和存储的资源损耗并尽可能提升软件层面的分类器精度和实时性,从而达到在一定程度上提升M‑CeNN模板参数的硬件友好性并保证模板精度的效果,处理精度高且应用门槛低,可应用于边缘计算,能够满足日常生活甚至是工业级强度的应用和精度需求。

    基于多流聚合双注意力稠密连接网络的图像复原方法

    公开(公告)号:CN115082353B

    公开(公告)日:2024-10-22

    申请号:CN202210845156.4

    申请日:2022-07-19

    Applicant: 西南大学

    Abstract: 本发明涉及图像复原技术领域,具体公开了一种基于多流聚合双注意力稠密连接网络的图像复原方法,使用同一种网络模型同时处理图像去雨、图像去雾、低照度增强三个任务。首先,为了充分提取图像上下文信息,本方法设计了多流细节上下文聚合模块,利用不同等级的感受野提取多级结构化、互补化的高阶抽象特征。然后,为了增强信息流在深层网络中的传递,同时缓解梯度消失问题,本方法引入了稠密连接模块,实现多级特征信息跨模块的融合及复用。接着,由极化自注意力模块及监督校准模块组成的双注意力模块依次从通道维度、空间维度中对关键特征进行深入调整。其效果是,在图像去雨、图像去雾、低照度图像复原任务中表现出了具有竞争力的结果。

Patent Agency Ranking