PyTorch框架中加速库的高效调用方法及装置

    公开(公告)号:CN117608797A

    公开(公告)日:2024-02-27

    申请号:CN202311650471.2

    申请日:2023-12-05

    Applicant: 南开大学

    Abstract: 本发明公开一种PyTorch框架中加速库的高效调用方法及装置,涉及加速库高效调用技术领域,在绑定句柄时,预先基于单例模式创建句柄绑定类,仅在第一次绑定时生成句柄实例,后续则直接取出句柄实例,在计算显存空间时,创建第一高速缓存Cache类,仅在第一次计算时计算卷积核参数类的显存空间,后续则直接取出卷积核参数类的显存空间,在选取卷积算法时,创建第二高速缓存Cache类,仅在第一次选取时选取卷积核参数类的卷积算法,后续则直接取出卷积核参数类的卷积算法,能够在支持OpenCL的计算设备上,实现PyTorch框架中加速库的高效调用,有利于将PyTorch框架转码到支持OpenCL的计算设备上。

Patent Agency Ranking