-
公开(公告)号：CN117273098A
公开(公告)日：2023-12-22
申请号：CN202311165021.4
申请日：2023-09-11
Applicant: 中国科学院自动化研究所
Abstract: 本发明提供一种自注意力运算方法、装置、电子设备及存储介质，应用于数据处理技术领域，该方法包括：获取第一脉冲矩阵、第二脉冲矩阵以及第三脉冲矩阵；对所述第一脉冲矩阵和所述第二脉冲矩阵进行第一注意力运算处理，得到第四脉冲矩阵；对所述第三脉冲矩阵和所述第四脉冲矩阵进行第二注意力运算处理，得到第五脉冲矩阵，所述第五脉冲矩阵的矩阵维度与所述第三脉冲矩阵的矩阵维度相同；其中，所述第一注意力运算和所述第二注意力运算均为全加法运算。
-
公开(公告)号：CN119649082A
公开(公告)日：2025-03-18
申请号：CN202411478479.X
申请日：2024-10-22
Applicant: 中国科学院自动化研究所
IPC: G06V10/764 , G06V10/82 , G06N3/049 , G06N3/084 , G06N3/0895
Abstract: 本发明提供一种基于时域多样性脉冲神经网络的图像分类方法及装置，包括：获取目标图像；将目标图像输入图像分类模型，得到图像分类模型输出的分类结果；其中，图像分类模型基于带有分类标签的样本图像训练得到，图像分类模型包括编码器和解码器，编码器采用时域多样性脉冲神经网络，时域多样性脉冲神经网络中的部分脉冲神经元为周期性开关时间动态的脉冲神经元。采用上述技术方案，解决了现有技术中脉冲神经网络在处理图像分类任务时，推理开销大的问题。
-
公开(公告)号：CN119360180A
公开(公告)日：2025-01-24
申请号：CN202411143802.8
申请日：2024-08-20
Applicant: 中国科学院自动化研究所
IPC: G06V10/82 , G06V10/77 , G06V10/764 , G06N3/0464
Abstract: 本发明提供一种基于脉冲驱动的目标检测模型的应用方法，所述目标检测模型为脉冲驱动目标检测模型，方法包括：基于YOLOv8模型构建目标检测模型，所述目标检测模型的网络架构中，采用两种不同的SNN特征提取模块替换YOLOv8模型中的C2F特征提取模块；获取待处理图像，将待处理图像中的静态图像数据复制多份输入所述目标检测模型中，且将待处理图像中的神经形态数据按帧聚合输入所述目标检测模型中；应用所述目标检测模型分别对所述静态图像数据和所述神经形态数据进行处理，以得到所述待处理图像的目标检测结果。通过上述方法，解决在脉冲神经网络领域中，由于目标检测模型性能较低，难以被直接应用于实际的图像检测场景的问题。
-
公开(公告)号：CN118228774A
公开(公告)日：2024-06-21
申请号：CN202410281281.6
申请日：2024-03-12
Applicant: 中国科学院自动化研究所
IPC: G06N3/0464 , G06N3/063 , G06F17/16 , G06F17/15
Abstract: 本发明提供一种基于脉冲神经网络的残差网络优化方法、装置及电子设备。该方法包括：在每个卷积层的输入端设置有LIF神经元的激活函数的情况下，对卷积模块的输出矩阵和/或跳跃连接模块的输出矩阵进行脉冲化处理，得到第一脉冲矩阵；将第一脉冲矩阵转换为第一膜电位矩阵；将第一膜电位矩阵传递至加法模块进行相加，得到残差块的输出矩阵；在每个批标准化层的输出端设置有LIF神经元的激活函数的情况下，对卷积模块的输出矩阵和跳跃连接模块的输出矩阵进行转换处理，分别得到第二膜电位矩阵和第三膜电位矩阵；将第二膜电位矩阵和第三膜电位矩阵传递至加法模块进行相加，得到第四膜电位矩阵；对第四膜电位矩阵进行脉冲化处理，得到残差块的输出矩阵。
-
公开(公告)号：CN118015325A
公开(公告)日：2024-05-10
申请号：CN202311758021.5
申请日：2023-12-19
Applicant: 中国科学院自动化研究所
IPC: G06V10/764 , G06V10/766 , G06V10/44 , G06V10/82 , G06V10/80 , G06N3/049 , G06N3/0464 , G06N3/045 , G06N3/0455
Abstract: 本发明提供一种脉冲驱动的目标检测方法、装置、电子设备及介质。该方法包括：获取待检测图像；将待检测图像输入至目标检测网络中进行目标检测，确定待检测图像中的目标对象的类别信息、类别信息对应的置信度信息以及目标对象在待检测图像中的位置信息；目标检测网络基于主干网络、基于特征金字塔网络的第一脉冲神经网络模块、基于区域候选网络的第二脉冲神经网络模块和候选框回归模块构建；主干网络由依次连接的基于卷积的第一脉冲神经网络块、基于卷积的第二脉冲神经网络块、基于Transformer结构的第三脉冲神经网络块和基于Transformer结构的第四脉冲神经网络块组成。本发明提供的脉冲驱动的目标检测方法，极大地降低了目标检测网络运行的能耗。
-
Patent Agency Ranking
公开(公告)号：CN118886467A
公开(公告)日：2024-11-01
申请号：CN202410839742.7
申请日：2024-06-26
Applicant: 中国科学院自动化研究所
IPC: G06N3/08 , G06N3/084 , G06N3/049 , G06N3/0464
Abstract: 本发明提供一种基于脉冲发放率的脉冲神经网络训练方法及装置，其中，上述方法包括：确定预设的脉冲神经网络模型的脉冲神经元所发放的多个脉冲的脉冲发放率；基于所述脉冲发放率进行前向传递与反向传递，得到更新后的脉冲神经网络模型；基于所述更新后的脉冲神经网络模型将所述多个脉冲转换为对应多个仿真时间步的脉冲序列；基于重参数化后的权重对所述多个仿真时间步的脉冲序列进行加权求和，得到下一层神经元的输入值，通过本发明解决了相关技术中的脉冲神经网络的训练方法存在训练速度慢的技术问题。
-
公开(公告)号：CN118862975A
公开(公告)日：2024-10-29
申请号：CN202410860601.3
申请日：2024-06-28
Applicant: 中国科学院自动化研究所
IPC: G06N3/048 , G06N3/0442 , G06N3/08
Abstract: 本发明提供一种线性复杂度的最少参数注意力逼近的Logos大模型，包括Token混合层和通道混合层；Token混合层用于：将t时刻输入的第一token经可重参数化矩阵分别映射得到查询值、键值、动态衰减值和门控状态；基于键值和动态衰减值确定t时刻的记忆状态，并基于t时刻的记忆状态和查询值得到中间值；将中间值和门控状态进行矩阵运算后经可重参数化矩阵映射得到t时刻的第一输出矩阵；基于所有时刻的第一输出矩阵得到第二token；通道混合层用于：将第二token经可重参数化矩阵映射得到第一矩阵和第二矩阵；将第一矩阵与非线性激活函数进行矩阵运算后与第二矩阵进行矩阵运算，得到通道矩阵；将通道矩阵经可重参数化矩阵映射得到第二输出矩阵。
-
公开(公告)号：CN116645566B
公开(公告)日：2023-10-31
申请号：CN202310899447.6
申请日：2023-07-21
Applicant: 中国科学院自动化研究所
Abstract: 本发明涉及图像处理技术领域，提供一种基于全加法脉冲式Transformer的分类方法，包括：获取待分类的图像；基于分类模型的预处理模块，对图像进行特征提取，得到基本特征图，并对基本特征图进行相对位置编码，得到位置编码结果；基于分类模型的编码模块，对位置编码结果进行脉冲序列转化，得到脉冲特征图，并对脉冲特征图的脉冲矩阵进行脉冲驱动注意力运算，得到输出膜电势；基于分类模型的分类模块，应用输出膜电势进行图像分类，得到图像的图像类别。本发明提供的基于全加法脉冲式Transformer的分类方法，可以提高图像分类处理效率、降低处理功耗。
-
公开(公告)号：CN118036662A
公开(公告)日：2024-05-14
申请号：CN202311721664.2
申请日：2023-12-14
Applicant: 中国科学院自动化研究所
IPC: G06N3/0455 , G06N3/0464 , G06N3/063 , G06N3/08 , G06V10/42 , G06V10/44 , G06V10/764 , G06V10/80 , G06V10/82
Abstract: 本发明提供一种面向硬件实现的脉冲驱动元脉冲神经网络建立及应用方法，属于计算机视觉技术领域，方法包括：根据待处理图像的视觉任务构建基于卷积的第一脉冲神经网络块、基于卷积的第二脉冲神经网络块、基于Transformer的第一卷积神经网络块、基于Transformer的第二卷积神经网络块、第一下采样模块、第二下采样模块、第三下采样模块、第四下采样模块以及输出层；根据上述组成部分确定脉冲驱动元脉冲神经网络，所述脉冲驱动元脉冲神经网络用于进行视觉任务识别。本发明能够解决现有技术中脉冲神经网络的输出容易出现信息丢失，且在计算机视觉领域精度不高的缺陷。
-
公开(公告)号：CN117876676A
公开(公告)日：2024-04-12
申请号：CN202311821758.7
申请日：2023-12-27
Applicant: 中国科学院自动化研究所
IPC: G06V10/26 , G06V10/44 , G06V10/80 , G06V10/82 , G06N3/0464
Abstract: 本发明提供一种脉冲驱动的基于FPN的语义分割系统、方法、电子设备，该系统包括Neck脉冲神经网络模块，用于提取主干网络对输入图像进行下采样过程中得到的不同通道数和不同分辨率下的特征图的特征，还用于将所述不同通道数和不同分辨率下的特征图的通道数调整为相同维度，获得具有相同通道数且不同分辨率的特征图，还用于提取所述具有相同通道数且不同分辨率的特征图的特征；FPN脉冲神经网络模块，用于对所述具有相同通道数且不同分辨率的特征图进行上采样，获得至少一组具有相同通道数和分辨率的特征图，还用于基于所述至少一组具有相同通道数和分辨率的特征图，获得语义分割掩膜，可以实现高精度的语义分割。
-
-
-
-
-
-
-
-
-
Search Results
12
records
(took 0.041 seconds)
