基于神经网络中动态计算图的内存优化方法及电子设备

    公开(公告)号:CN116166425A

    公开(公告)日:2023-05-26

    申请号:CN202211692183.9

    申请日:2022-12-28

    Abstract: 本发明提供一种基于神经网络中动态计算图的内存优化方法及电子设备,所述方法包括:识别神经网络动态计算图中前向兼容算子,并计算前向算子的前向计算结果;根据张量‑算子对标记状态和前向算子类型确定当前的执行模态;在执行模态的输入张量为前向兼容类型时,对当前前向节点执行前向自动微分的求导过程,输出求导结果;在执行模态的后续算子为非前向兼容算子时,保存前一个前向节点执行前向自动微分的求导结果,更新前一个前向节点后向参数,输出后向处理结果;基于前向计算结果,求导结果和后向处理结果更新动态计算图的参数。本发明通过在动态计算图运行过程中动态切换使用前向自动微分来有效降低大部分神经网络中激活函数的内存占用。

    基于神经网络中静态计算图的内存优化方法及电子设备

    公开(公告)号:CN116185610A

    公开(公告)日:2023-05-30

    申请号:CN202211692197.0

    申请日:2022-12-28

    Abstract: 本发明提供一种基于神经网络中静态计算图的内存优化方法及电子设备,所述方法包括:识别神经网络静态计算图中前向兼容算子;消除与所述前向兼容算子对应的与后向自动微分相关的子图;生成与所述前向兼容算子对应的前向求导子图,并输出当前的神经网络静态计算图。本发明能够在不引入额外计算开销的情况下,通过自动优化静态计算图有效降低大部分神经网络激活函数的内存占用;本发明为大模型在内存受限设备上进行训练提供了有效支持,为新型激活函数的大规模应用铺平了道路,为大型神经网络基于静态计算图的训练节约了大量内存资源。

    基于距离阈值的近似近邻搜索方法、系统、介质及设备

    公开(公告)号:CN117194737B

    公开(公告)日:2024-06-07

    申请号:CN202311190218.3

    申请日:2023-09-14

    Abstract: 本申请提供一种基于距离阈值的近似近邻搜索方法、系统、介质及设备,所述方法包括过滤搜索点以获取编码本条目与子空间级反向索引;基于所述距离阈值筛选所述编码本条目以构建子空间距离查询表;基于所述子空间距离查询表与所述子空间级反向索引查询距离以获取近似近邻搜索结果。本申请基于距离阈值进行近似近邻搜索,显著降低其中子空间距离查询表构建和距离计算中不必要的查询、计算操作,进而在保证搜索质量的前提下显著提高了基于反向索引的乘积量化的近似近邻搜索的搜索效率。

    基于距离阈值的近似近邻搜索方法、系统、介质及设备

    公开(公告)号:CN117194737A

    公开(公告)日:2023-12-08

    申请号:CN202311190218.3

    申请日:2023-09-14

    Abstract: 本申请提供一种基于距离阈值的近似近邻搜索方法、系统、介质及设备,所述方法包括过滤搜索点以获取编码本条目与子空间级反向索引;基于所述距离阈值筛选所述编码本条目以构建子空间距离查询表;基于所述子空间距离查询表与所述子空间级反向索引查询距离以获取近似近邻搜索结果。本申请基于距离阈值进行近似近邻搜索,显著降低其中子空间距离查询表构建和距离计算中不必要的查询、计算操作,进而在保证搜索质量的前提下显著提高了基于反向索引的乘积量化的近似近邻搜索的搜索效率。

    基于光线追踪的近似近邻搜索方法、系统、介质及设备

    公开(公告)号:CN117033718A

    公开(公告)日:2023-11-10

    申请号:CN202311190214.5

    申请日:2023-09-14

    Abstract: 本申请提供一种基于光线追踪的近似近邻搜索方法、系统、介质及设备,所述方法包括过滤搜索点以获取编码本条目与子空间级反向索引;基于光线追踪单元构建子空间距离查询表;基于所述子空间距离查询表与所述子空间级反向索引查询距离以获取近似近邻搜索结果。本申请通过利用新兴的光线追踪单元的光线追踪技术来进行距离计算,从而取代IVFPQ中的子空间距离查询表构建中的距离计算操作,在保证计算结果正确的前提下,大大地提高基于IVFPQ的ANNS的搜索效率。此外,本申请还提出了一种对于光线追踪单元计算友好的内积近似计算方法,进一步提高了距离计算的效率。

    基于光线追踪的近似近邻搜索方法、系统、介质及设备

    公开(公告)号:CN117033718B

    公开(公告)日:2024-06-07

    申请号:CN202311190214.5

    申请日:2023-09-14

    Abstract: 本申请提供一种基于光线追踪的近似近邻搜索方法、系统、介质及设备,所述方法包括过滤搜索点以获取编码本条目与子空间级反向索引;基于光线追踪单元构建子空间距离查询表;基于所述子空间距离查询表与所述子空间级反向索引查询距离以获取近似近邻搜索结果。本申请通过利用新兴的光线追踪单元的光线追踪技术来进行距离计算,从而取代IVFPQ中的子空间距离查询表构建中的距离计算操作,在保证计算结果正确的前提下,大大地提高基于IVFPQ的ANNS的搜索效率。此外,本申请还提出了一种对于光线追踪单元计算友好的内积近似计算方法,进一步提高了距离计算的效率。

    一种静电微量润滑有效性的评价方法及监测装置

    公开(公告)号:CN115144029B

    公开(公告)日:2025-05-23

    申请号:CN202210766883.1

    申请日:2022-07-01

    Abstract: 本发明涉及一种静电微量润滑有效性的评价方法及监测装置,评价方法:采集切削液的pH值pH、流量q、温度T、浓度值#imgabs0#电阻率ρ、TDS值TDS、余氧量RO、浊度NTU,及静电微量润滑电压V、切削液气雾浓度值ω后,将参数分别代入公式计算冷却、润滑失效系数,当对应系数超过1时,判断冷却或润滑失效;反之,未失效;监测装置包括静电电压传感器、切削液气雾浓度值传感器及包含pH值传感器、流量传感器、温度传感器、浓度值传感器、电阻率传感器、TDS值传感器、余氧量传感器和浊度传感器的监测传感器箱;本发明的评价方法,能够评估静电微量润滑的有效性,确保加工效果;本发明的装置,能够保证静电微量润滑的可靠性。

Patent Agency Ranking