公开(公告)号：CN114358859B

公开(公告)日：2022-07-01

申请号：CN202210277082.9

申请日：2022-03-21

Applicant: 北京大学

Inventor： 崔斌 ,  苗旭鹏 ,  梁宇轩 ,  石屹宁 ,  张海林

IPC: G06Q30/02 ,  G06Q10/04 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公布了一种用于点击率预测的基于图的大规模embedding模型训练方法及系统，系统包括密集参数模块和客户端模块，采用混合通信架构，将点击率预测输入数据集分配给不同工作节点，每个工作节点维护一个客户端，本地模型参数均直接存储在GPU内存中；每个工作节点均持有模型参数副本，并在训练时进行同步。本发明采用Embedding模型参数表示点击率预测输入数据对应类别特征值的重要性，将点击率预测数据和embedding模型向量表示为二元图模型，利用图局部性和度数偏斜特性执行模型并行训练；设计基于图的分区和有界同步，提高训练大型embedding模型的可扩展性和并行计算效率。

公开(公告)号：CN101906105A

公开(公告)日：2010-12-08

申请号：CN200910074653.3

申请日：2009-06-08

Applicant: 河北医科大学 ,  北京大学

Inventor： 张海林 ,  祁金龙 ,  张嫡群 ,  王克威 ,  张凡 ,  付焱 ,  米毅 ,  许文 ,  杜肖娜 ,  吴一兵 ,  贾庆忠 ,  杨双革

IPC: C07D487/04 ,  A61K31/519 ,  A61P25/08 ,  A61P25/22 ,  A61P25/04

CPC classification number: C07D487/04

Abstract: 本发明公开了一种新的吡唑并[1，5-a]嘧啶酮衍生物及以该发明化合物为活性成分，同时含有一种或多种药学上可以接受的载体或稀释剂的药物组合物。同时公开了该类化合物制备KCNQ钾通道开放剂中的应用；在制备抗癫痫药物制剂中的应用；制备抗焦虑药物制剂中的应用；在制备镇痛药物制剂中的应用。

公开(公告)号：CN116128019A

公开(公告)日：2023-05-16

申请号：CN202211441633.7

申请日：2022-11-17

Applicant: 北京大学

Inventor： 崔斌 ,  苗旭鹏 ,  王驭捷 ,  姜友和 ,  石淳安 ,  聂小楠 ,  张海林

IPC: G06N3/0455 ,  G06N3/08

Abstract: 本发明提供一种Transformer模型的并行训练方法及装置，涉及计算机技术领域；其中所述Transformer模型的并行训练方法包括：基于M种预设并行训练策略，确定初始Transformer模型的并行训练策略搜索空间；基于各预设并行训练策略，构建至少一棵决策树；决策树用于从并行训练策略搜索空间中确定初始Transformer模型的并行训练策略集合；基于训练策略集合，确定目标并行训练策略组合；利用目标并行训练策略组合对初始Transformer模型进行训练，得到目标Transformer模型。利用吞吐率最高的目标并行训练策略组合对初始Transformer模型进行训练，提高了对模型的训练效率。

公开(公告)号：CN114358859A

公开(公告)日：2022-04-15

申请号：CN202210277082.9

申请日：2022-03-21

Applicant: 北京大学

Inventor： 崔斌 ,  苗旭鹏 ,  梁宇轩 ,  石屹宁 ,  张海林

IPC: G06Q30/02 ,  G06Q10/04 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公布了一种用于点击率预测的基于图的大规模embedding模型训练方法及系统，系统包括密集参数模块和客户端模块，采用混合通信架构，将点击率预测输入数据集分配给不同工作节点，每个工作节点维护一个客户端，本地模型参数均直接存储在GPU内存中；每个工作节点均持有模型参数副本，并在训练时进行同步。本发明采用Embedding模型参数表示点击率预测输入数据对应类别特征值的重要性，将点击率预测数据和embedding模型向量表示为二元图模型，利用图局部性和度数偏斜特性执行模型并行训练；设计基于图的分区和有界同步，提高训练大型embedding模型的可扩展性和并行计算效率。

公开(公告)号：CN101906105B

公开(公告)日：2013-01-16

申请号：CN200910074653.3

申请日：2009-06-08

Applicant: 河北医科大学 ,  北京大学

Inventor： 张海林 ,  祁金龙 ,  张嫡群 ,  王克威 ,  张凡 ,  付焱 ,  米毅 ,  许文 ,  杜肖娜 ,  吴一兵 ,  贾庆忠 ,  杨双革

IPC: C07D487/04 ,  A61K31/519 ,  A61P25/08 ,  A61P25/22 ,  A61P25/04

CPC classification number: C07D487/04

Abstract: 本发明公开了一种新的吡唑并[1，5-a]嘧啶酮衍生物及以该发明化合物为活性成分，同时含有一种或多种药学上可以接受的载体或稀释剂的药物组合物。同时公开了该类化合物制备KCNQ钾通道开放剂中的应用；在制备抗癫痫药物制剂中的应用；制备抗焦虑药物制剂中的应用；在制备镇痛药物制剂中的应用。