公开(公告)号：CN117608797A

公开(公告)日：2024-02-27

申请号：CN202311650471.2

申请日：2023-12-05

Applicant: 南开大学

Inventor： 张玉志 ,  王昊天 ,  孙羽菲 ,  隋轶丞 ,  石昌青 ,  张志强

IPC: G06F9/48 ,  G06N3/0464 ,  G06F9/445 ,  G06F12/0811

Abstract: 本发明公开一种PyTorch框架中加速库的高效调用方法及装置，涉及加速库高效调用技术领域，在绑定句柄时，预先基于单例模式创建句柄绑定类，仅在第一次绑定时生成句柄实例，后续则直接取出句柄实例，在计算显存空间时，创建第一高速缓存Cache类，仅在第一次计算时计算卷积核参数类的显存空间，后续则直接取出卷积核参数类的显存空间，在选取卷积算法时，创建第二高速缓存Cache类，仅在第一次选取时选取卷积核参数类的卷积算法，后续则直接取出卷积核参数类的卷积算法，能够在支持OpenCL的计算设备上，实现PyTorch框架中加速库的高效调用，有利于将PyTorch框架转码到支持OpenCL的计算设备上。