公开(公告)号：CN117521758A

公开(公告)日：2024-02-06

申请号：CN202311472001.1

申请日：2023-11-07

Applicant: 厦门大学

Inventor： 纪荣嵘 ,  张雷 ,  郑侠武 ,  晁飞

IPC: G06N3/08 ,  G06N3/084 ,  G06F18/243

Abstract: 一种基于混合性能估计的网络结构搜索方法，涉及神经架构搜索。将不同的性能评估方法重新考虑为不同的二分类器，其中最优的架构作为正例，其余架构归为负例。提出使用最小保持率MKR替代指标Kendall’sτ来明确地评估PE策略。提出使用混合性能评估策略，结合不同性能估计策略的优势，高效定位最优网络结构。将NAS建模为逐渐缩减搜索空间的过程，对给定的搜索空间先通过代价低的性能评估策略进行快速评估结构，将整个搜索空间缩减为一个小区域，再在剩下的小区域内用代价稍高但更准确的性能估计策略进一步缩减空间；如此逐步改变性能评估策略并缩减空间，最终得到最优的网络结构。在搜索速度和搜索结果上都具有显著优势。

公开(公告)号：CN114896436B

公开(公告)日：2024-04-30

申请号：CN202210671640.X

申请日：2022-06-14

Applicant: 厦门大学

Inventor： 纪荣嵘 ,  郑侠武 ,  晁飞 ,  费翔 ,  张雷

IPC: G06F16/53 ,  G06N3/0464 ,  G06N3/047 ,  G06N3/08 ,  G06V10/762 ,  G06V10/774

Abstract: 一种基于表征互信息的网络结构搜索方法，涉及人工智能技术领域。在神经网络搜索空间中，随机采样n个神经网络，利用RMI联合分类损失函数训练网络，计算n个网络的RMI分数、q分位数τ，训练拟合随机森林分类器π；从整个神经网络搜索空间随机抽取一批新的网络，从中找到概率最大的一个网络，利用损失函数训练网络，计算其RMI分数，重新拟合训练新的随机森林模型π，判断随机森林训练样本中新网络数量是否达到N，将得到的所有优秀网络样本集中网络结构的众数作最终输出的最优网络结构，利用优秀网络结构集上的统计规律，获得最可能的最优架构。高效、快速，并可推广到不同的搜索空间。使用RMI和随机森林有效探索整个搜索空间。

公开(公告)号：CN114896436A

公开(公告)日：2022-08-12

申请号：CN202210671640.X

申请日：2022-06-14

Applicant: 厦门大学

Inventor： 纪荣嵘 ,  郑侠武 ,  晁飞 ,  费翔 ,  张雷

IPC: G06F16/53 ,  G06N3/04 ,  G06N3/08 ,  G06V10/762 ,  G06V10/774

Abstract: 一种基于表征互信息的网络结构搜索方法，涉及人工智能技术领域。在神经网络搜索空间中，随机采样n个神经网络，利用RMI联合分类损失函数训练网络，计算n个网络的RMI分数、q分位数τ，训练拟合随机森林分类器π；从整个神经网络搜索空间随机抽取一批新的网络，从中找到概率最大的一个网络，利用损失函数训练网络，计算其RMI分数，重新拟合训练新的随机森林模型π，判断随机森林训练样本中新网络数量是否达到N，将得到的所有优秀网络样本集中网络结构的众数作最终输出的最优网络结构，利用优秀网络结构集上的统计规律，获得最可能的最优架构。高效、快速，并可推广到不同的搜索空间。使用RMI和随机森林有效探索整个搜索空间。