-
公开(公告)号:CN118673999A
公开(公告)日:2024-09-20
申请号:CN202411141783.5
申请日:2024-08-20
Applicant: 中国科学院自动化研究所
IPC: G06N3/09 , G06N3/045 , G06N3/042 , G06N3/0499
Abstract: 本申请提供一种大模型微调方法、装置、设备、介质及程序产品,涉及人工智能技术领域。所述方法包括:对大模型中的每个自注意力层,构建重参数化因子;重参数化因子的数量为多个;重参数化因子为多头权重;基于重参数化因子,构建静态多头自注意力权重;基于静态多头自注意力权重与初始自注意力图,确定第一微调模块;基于目标前馈神经网络层与低秩适配器参数,确定第二微调模块;低秩适配器参数包括多个低秩矩阵;基于第一微调模块与第二微调模块,在训练数据上进行大模型部分参数的调整。本申请提供的大模型微调方法、装置、设备、介质及程序产品,可以将线性层的重参数化手段和注意力机制的微调结合起来,能够全面又高效地进行大模型微调。
-
公开(公告)号:CN118411546A
公开(公告)日:2024-07-30
申请号:CN202410344613.0
申请日:2024-03-25
Applicant: 中国科学院自动化研究所
IPC: G06V10/764 , G06N3/0895 , G06V10/82 , G06N3/0455
Abstract: 本发明提供一种基于掩码图像建模预训练加速模型的图像分类方法和装置,其中方法包括:将待分类图像输入至掩码图像建模预训练加速模型,得到掩码图像建模预训练加速模型输出的待分类图像的图像类别;掩码图像建模预训练加速模型是在视觉转换网络的基础上,应用样本图像集中的多个样本图像进行多阶段的自监督训练得到的,每个阶段的自监督训练过程中所应用的样本图像是从上一阶段的自监督训练过程中所应用的样本图像中筛选得到的,克服了传统方案中因复杂度和数据量提升,导致训练耗费的计算资源、占用的存储空间,以及花费时间增加,模型的训练开销太大的缺陷,减少了训练过程中计算量和数据量的需求,缩减了资源消耗,兼顾了模型性能和训练效率。
-
公开(公告)号:CN113591601B
公开(公告)日:2024-02-02
申请号:CN202110773694.2
申请日:2021-07-08
Applicant: 北京大学第三医院(北京大学第三临床医学院) , 中国科学院自动化研究所
IPC: G06V20/69 , G06V40/18 , G06V10/774 , G06N20/00
Abstract: 本发明提供一种角膜共聚焦图像中菌丝识别方法及装置,该方法包括:获取待识别的角膜共聚焦图像;将所述角膜共聚焦图像输入到菌丝‑神经纤维分割模型,根据所述菌丝‑神经纤维分割模型输出预分割结果图;对预分割结果图进行自动修正得到最终分割结果图;根据所述最终分割结果图判断是否存在菌丝。本发明提供的角膜共聚焦图像中菌丝识别方法及装置,通过将角膜共聚焦图像输入到菌丝‑神经纤维分割模型,根据菌丝‑神经纤维分割模型输出预分割结果图,对预分割结果图进行自动修正得到最终分割结果图,根据最终分割结果图判断是否存在菌丝,实现对图像中菌丝和神经纤维的准确区分,由此可以实现角膜共聚焦图像中菌丝的自动化(56)对比文件吕健;陈琦;张凯;蒋莉;唐芬;陈青;蓝倩倩;李兰建;曾思明;徐帆.基于深度学习算法在角膜共聚焦显微镜图像中炎症细胞智能识别的研究.中国临床新医学.2020,(第02期),第1-4页.
-
公开(公告)号:CN111460978B
公开(公告)日:2023-06-23
申请号:CN202010237340.1
申请日:2020-03-30
Applicant: 中科南京人工智能创新研究院 , 中国科学院自动化研究所
IPC: G06V20/52 , G06V40/20 , G06V20/40 , G06V10/774 , G06V10/82 , G06N3/0464 , G06N3/0442 , G06N3/08
Abstract: 本发明提出了一种基于动作判定传感器和深度学习技术的幼儿行为监控系统及其判定方法,监控系统包含图像处理和步态识别两种模式,上述两种模式相互融合提高幼儿行为的判定准确度。图像处理基于深度学习技术,通过对分类好的幼儿图片使用CNN进行训练,得到相应的分类模型,在空间上监测点在t时刻的幼儿动作变化数据,从而更好地预测下一帧的动作,相比于传统的单帧识别判断,本发明具有良好地预判性。为应对图像处理时可能造成的误判,本发明将步态识别融入其中,感知幼儿的行为实际动作,在幼儿行为图片学习的基础之上结合幼儿行为产生的加速度变化差和压感变化差进行反馈学习。上述两种方式相结合有效提高了幼儿行为监控的准确度和预判能力。
-
公开(公告)号:CN115690092A
公开(公告)日:2023-02-03
申请号:CN202211567875.0
申请日:2022-12-08
Applicant: 中国科学院自动化研究所 , 北京大学第三医院(北京大学第三临床医学院)
IPC: G06T7/00 , G06T7/73 , G06V10/26 , G06V10/764 , G06V10/774
Abstract: 本发明提供了一种角膜共聚焦图像中阿米巴包囊的识别与计数方法及装置,其方法包括:获取待识别的共聚焦图像集,并对所述待识别的共聚焦图像集进行筛选及标注,得到包含阿米巴包囊的共聚焦图像;构建阿米巴包囊实例分割和密度图估计的联合模型,并基于预设模型权值对所述联合模型进行训练;基于训练后的联合模型对所述包含阿米巴包囊的共聚焦图像进行推理识别,确定所述共聚焦图像中阿米巴包囊的个数和密度。通过构建联合模型,有效地区分了图像中容易混淆的阿米巴包囊和炎性细胞,使用训练好的联合模型对待识别图像进行推理,精准地完成了对阿米巴包囊的自动计算个数和密度,节省了医生的时间,帮助医生进行快速准确的诊断。
-
公开(公告)号:CN113657421A
公开(公告)日:2021-11-16
申请号:CN202110671327.1
申请日:2021-06-17
Applicant: 中国科学院自动化研究所
Abstract: 本发明提供一种卷积神经网络压缩方法和装置、图像分类方法和装置,其中卷积神经网络压缩方法包括:对预训练的卷积神经网络中的各个卷积操作层分别进行卷积核聚类,得到各个卷积操作层对应的卷积核类簇;对各个卷积操作层对应的每一卷积核类簇进行卷积核剪枝;对卷积核剪枝后的卷积神经网络进行重训练,得到压缩后的卷积神经网络。本发明实现了高效的卷积核剪枝,同时,上述方式不再受卷积核分布导致的剪枝敏感度不同的限制,从而极大的节省了卷积核剪枝的计算资源和时间资源的消耗。
-
公开(公告)号:CN113592783A
公开(公告)日:2021-11-02
申请号:CN202110772766.1
申请日:2021-07-08
Applicant: 北京大学第三医院(北京大学第三临床医学院) , 中国科学院自动化研究所
Abstract: 本发明提供一种角膜共聚焦图像中细胞基础指标的精准量化方法,包括:获取待识别的角膜共聚焦图像并输入到细胞边界分割模型,根据细胞边界分割模型输出细胞边界概率图;其中,细胞边界分割模型是以角膜共聚焦图像样本作为输入、以角膜共聚焦图像样本中每个像素点是否为细胞边界的标注结果作为输出标签,通过机器学习训练得到的;对细胞边界概率图进行预设后处理,得到细胞边界分割图;基于细胞边界分割图,获取角膜共聚焦图像的细胞区域,根据角膜共聚焦图像的细胞区域计算角膜细胞的基础指标。本发明提供的角膜共聚焦图像中细胞基础指标的精准量化方法及装置,可实现角膜共聚焦图像中细胞边界的自动化高效分割及角膜细胞基础指标的精准量化。
-
公开(公告)号:CN109325530B
公开(公告)日:2021-05-04
申请号:CN201811046300.8
申请日:2018-09-07
Applicant: 中国科学院自动化研究所
Abstract: 本发明属于深度神经网络技术领域,具体涉及一种基于少量无标签数据的深度卷积神经网络的压缩方法,旨在解决在已有全精度网络模型基础上,对深度卷积神经网络所有层进行压缩,且不进行基于原始有标注训练数据进行再训练时,性能损失较大的问题,包括:获取原始深度卷积神经网络;对原始深度卷积神经网络中各层的权值张量进行稀疏化操作,得到多个含有较多0元素的权值张量;在已压缩的权值张量基础之上,通过少量无标注数据对压缩后的深度卷积神经网络中的批数据归一化层中的统计量进行更新,获得新的深度卷积神经网络。通过本发明实施例,实现了在仅依赖于少量无标注数据的大型深度卷积神经网络的压缩,降低了性能损失。
-
公开(公告)号:CN107437110B
公开(公告)日:2021-04-02
申请号:CN201710560643.5
申请日:2017-07-11
Applicant: 中国科学院自动化研究所
Abstract: 本发明涉及深度神经网络领域,提出了一种卷积神经网络的分块卷积优化方法及装置,旨在解决神经网络中卷积运算在硬件处理系统中的处理瓶颈问题,该优化方法包括:选择待分块卷积的卷积层,并确定其分块尺寸上限;根据分块尺寸的上限,确定输入特征图的分块数、分块尺寸;基于分块数、分块尺寸、卷积核尺寸、输入特征图尺寸、输入特征图边界填充尺寸,计算分块特征图的分块边界填充尺寸;基于分块数、分块尺寸、分块边界填充尺寸,构建基于分块边界填充的卷积,并替换原始卷积。本发明大大缓解了卷积神经网络在嵌入式硬件平台运行的资源受限问题,并在读写存储器时最大限度的提高突发长度,提高吞吐量,降低延时,提高效率。
-
公开(公告)号:CN112183637A
公开(公告)日:2021-01-05
申请号:CN202011049667.2
申请日:2020-09-29
Applicant: 中科方寸知微(南京)科技有限公司 , 中国科学院自动化研究所南京人工智能芯片创新研究院
Abstract: 本发明提出了一种基于神经网络的单光源场景光照重渲染方法及系统,包括以下步骤:对已有的图像场景光照数据集进行预处理;设计光照信息分类网络;设计内容自重建网络,为内容编码器单独构造一个完整的自编码网络;构建光照重渲染网络,光照重渲染网络由训练好的光照信息分类编码器、内容编码器和解码器组成,解码器将同时结合内容编码器和光照信息分类编码器所提供地特征进行图像特征还原;使用数据集对光照重渲染网络进行训练。基于该方法能提取处出所需的光照信息,而自重建网络使得其内部的内容编码器可以学习到足够多的图像内容特征,所以可以将准确的光照信息与图像信息相结合得到接近真实的效果,从而解决了在场景图像中的光照重渲染问题。
-
-
-
-
-
-
-
-
-