-
公开(公告)号:CN101377776A
公开(公告)日:2009-03-04
申请号:CN200710121079.3
申请日:2007-08-29
Applicant: 中国科学院自动化研究所
IPC: G06F17/30
Abstract: 本发明基于移动虚拟分类面的交互式图像检索方法,采用移动虚拟分类面选取图像的数据点;对图像数据点进行逐一标注;利用前一个标注的图像数据点选取下一个图像数据点;利用标注的图像数据点查找访问图像,完成交互式图像检索。在图像检索的相关反馈过程中,主动学习常常被用来减轻人工标注的数据量,其主要思想是每次仅仅选取信息量最大的数据进行标注。传统的成批标注的方法忽略了数据点之间的关系,因此不够高效。本发明提出移动虚拟分类面选点策略,利用前一个标注的数据去为下一个数据的选取提供指导,从而在不增加标注数据量的条件下提高了所标注数据总的信息量。移动虚拟分类面选点策略使主动学习算法性能得到了显著提高。
-
公开(公告)号:CN119249360B
公开(公告)日:2025-05-20
申请号:CN202411767208.6
申请日:2024-12-04
Applicant: 中科南京人工智能创新研究院 , 中国科学院自动化研究所
Abstract: 本发明公开了一种离线强化学习和持续在线微调的决策方法和模型,该方法包括获取原始文本‑图像对数据和历史轨迹数据,通过特征匹配验证和标准化处理得到增强状态序列;利用多层级注意力机制进行序列预测,并通过知识蒸馏和任务适应性增强得到预训练模型参数;基于稳定性评估和可塑性控制对模型进行在线知识迁移,结合经验回放优化得到优化后模型参数;最后进行多维度性能评估和资源优化。本发明通过多模态特征融合、动态知识迁移和自适应优化机制,有效解决了特征表示不充分、灾难性遗忘和优化效率低等问题,提高了模型的学习效率和泛化能力。
-
公开(公告)号:CN119576555A
公开(公告)日:2025-03-07
申请号:CN202411655388.9
申请日:2024-11-19
Applicant: 中科南京人工智能创新研究院 , 中国科学院自动化研究所
Abstract: 本发明提供一种面向决策大模型的多级异构内存协同调度方法,包括获取异构内存系统的硬件配置信息和初始状态信息,基于爱尔朗分布族构建突发访存模型,结合自适应分层采样获取动态访存特征;采用多维效能度量和层级亲和度矩阵表征内存系统状态;接着基于广义极值理论预测负载特征,构建增广拉格朗日优化模型生成资源分配方案;通过帕累托优化算法制定数据迁移策略;引入汤普森采样的动态参数调整和基于组合预警指标的异常处理机制。本发明能够精确刻画访存特征、优化资源分配、降低迁移开销,提升决策大模型训练效率。
-
公开(公告)号:CN119006959B
公开(公告)日:2025-01-21
申请号:CN202411455251.9
申请日:2024-10-17
Applicant: 中国科学院自动化研究所
IPC: G06V10/774 , G06N3/045 , G06N3/0464 , G06N3/08 , G06V10/82
Abstract: 本公开涉及人工智能领域,提供一种基于卷积的大模型微调加速方法及装置,所述方法包括:获取经过预训练的大模型和微调训练数据;在所述大模型的自注意力模块中引入卷积模块,得到初始微调模型;在固定所述大模型的参数的条件下,利用所述微调训练数据,对所述初始微调模型进行训练,得到微调训练模型;基于所述微调训练模型,得到经过微调的大模型。本公开可以解决对大模型进行微调训练可能会遇到训练内存占用高、训练速度慢、预训练知识遗忘的问题,实现模型对微调训练数据的加速学习,优化模型在微调训练数据所属的任务或领域中的表现。
-
公开(公告)号:CN118643878B
公开(公告)日:2024-11-15
申请号:CN202411097720.4
申请日:2024-08-12
Applicant: 中科南京人工智能创新研究院 , 中国科学院自动化研究所
IPC: G06N3/0495 , G06N3/0464 , G06N3/084
Abstract: 本发明公开了一种面向轻量卷积神经网络的训练后量化方法、装置,该方法包括读取图像数据;构建浮点模型和量化后模型,基于随机预处理和打乱顺序后的图像批次,逐块地对浮点模型和量化后模型中的每个模型块进行输出特征图的重建,并计算输出特征图重建的损失;基于特征图重建的损失,对量化后模型的每个模型块的批归一化参数和量化参数进行梯度更新和学习。本发明通过对图像数据进行逐块地预处理和随机打乱顺序,提高了模型对输入数据的泛化能力,避免了模型过拟合;通过逐块学习并更新批归一化层参数、权重缩放因子和激活缩放因子,可以在量化过程中细致调整模型参数,在低比特量化下仍保持较高的模型精度。
-
公开(公告)号:CN118643878A
公开(公告)日:2024-09-13
申请号:CN202411097720.4
申请日:2024-08-12
Applicant: 中科南京人工智能创新研究院 , 中国科学院自动化研究所
IPC: G06N3/0495 , G06N3/0464 , G06N3/084
Abstract: 本发明公开了一种面向轻量卷积神经网络的训练后量化方法、装置,该方法包括读取图像数据;构建浮点模型和量化后模型,基于随机预处理和打乱顺序后的图像批次,逐块地对浮点模型和量化后模型中的每个模型块进行输出特征图的重建,并计算输出特征图重建的损失;基于特征图重建的损失,对量化后模型的每个模型块的批归一化参数和量化参数进行梯度更新和学习。本发明通过对图像数据进行逐块地预处理和随机打乱顺序,提高了模型对输入数据的泛化能力,避免了模型过拟合;通过逐块学习并更新批归一化层参数、权重缩放因子和激活缩放因子,可以在量化过程中细致调整模型参数,在低比特量化下仍保持较高的模型精度。
-
公开(公告)号:CN110929762B
公开(公告)日:2023-05-12
申请号:CN201911048238.0
申请日:2019-10-30
Applicant: 中科南京人工智能创新研究院 , 中国科学院自动化研究所
IPC: G06V10/764 , G06V10/774 , G06V10/82 , G06N3/0464 , G06N3/08 , G06N3/0442
Abstract: 本发明提出了一种基于深度学习的肢体语言检测与行为分析方法及系统。通过对目标的行为视频、图片以及语音进行提取,分别获取目标在不同情绪下的面部表情以及四肢行为的图片及视频,获取在相应情绪下的语音数据,丰富数据集,予以标注后制作成训练集。后使用CNN训练图片及视频帧数据,关键点为面部表情,头部动作,四肢动作,整体动作频率,这4点训练成一个集成模型,其次使用LSTM训练语音数据,最后将两个模型进行集成训练,合成集成模型,最终会产生3个模型,保证模型支持语音或图片单独检测的能力。上述过程使得本发明拥有较强的主动学习能力,并不断优化数据库,使得准确率能够随着识别次数的增加不断提升。
-
公开(公告)号:CN109829366B
公开(公告)日:2021-04-30
申请号:CN201811565384.6
申请日:2018-12-20
Applicant: 中国科学院自动化研究所南京人工智能芯片创新研究院
Abstract: 本申请涉及一种车道检测方法、装置、设备及计算机可读存储介质,该方法包括:获取包含有车道线的影像的待处理图像;对待处理图像按照预设图像处理方式进行预处理;对预处理后图像中车道线的影像进行曲线离散化处理;提取曲线离散化处理后的图像中的所有霍夫直线;利用所有霍夫直线复原待处理图像中的车道线。该方法可以缓解现有技术中存在的对弯曲道路进行车道检测,得到的车道检测结果的准确性较低的技术问题,达到了提高弯曲道路车道检测结果的准确性的技术效果。
-
公开(公告)号:CN111783961A
公开(公告)日:2020-10-16
申请号:CN202010660722.5
申请日:2020-07-10
Applicant: 中国科学院自动化研究所
Abstract: 本发明属于数据处理领域,具体涉及了一种基于激活定点拟合的卷积神经网络训练后量化方法及系统,旨在解决现有技术无法通过更加高效的低比特量化方法实现卷积神经网络训练后量化的问题。本发明包括:对原卷积神经网络各层权值矩阵进行低比特定点量化;获取一组校验数据,构造输入激活到输出激活的优化目标函数,迭代进行定点权值矩阵和权值量化尺度因子的优化,获得权值定点量化卷积神经网络;基于校验数据及权值定点量化卷积神经网络,求解激活量化尺度因子,获得权值-激活定点卷积神经网络。本发明直接学习由输入激活到输出激活之间的低比特映射函数,保障权值量化前后卷积输出的相似,量化后的模型精度高,并且量化过程无需使用数据重新训练。
-
公开(公告)号:CN111582220A
公开(公告)日:2020-08-25
申请号:CN202010419839.4
申请日:2020-05-18
Applicant: 中国科学院自动化研究所
Abstract: 本发明公开了一种基于移位图卷积神经网络骨骼点行为识别系统包括:图像获取模块、图像处理模块、提取模块和行为识别模块,其中图像获取模块用于获取行为图像;图像处理模块用于处理图像获取模块获取的行为图像进行图像处理;提取模块用于提取图像处理模块处理后图像的骨骼点;行为识别模块用于识别提取模块提取骨骼点行为特征的。本发明设计行为识别模块进行对骨骼点行为识别,减小图卷积计算量的新型图卷积,与传统图卷积不同,移位图卷积不是通过扩大卷积核来扩展感受范围,而是通过新型移位操作来使得图特征进行移位拼接,在显著减少计算量提高计算速度的情况下达到同样甚至更高的识别精度,避免传统图卷积的计算量会随着卷积核增大而增大。
-
-
-
-
-
-
-
-
-