一种基于机器阅读到序列模型的迁移学习方法

    公开(公告)号:CN109508457A

    公开(公告)日:2019-03-22

    申请号:CN201811284309.2

    申请日:2018-10-31

    Applicant: 浙江大学

    Abstract: 本发明公开了一种基于机器阅读到序列模型的迁移学习方法,包括以下步骤:(1)预训练一个机器阅读模型,所述机器阅读模型包含基于循环神经网络的编码层和模型层;(2)建立一个序列模型,所述序列模型包含基于循环神经网络的编码器和解码器;(3)提取训练好的机器阅读模型中编码层和模型层的参数,迁移到待训练的序列模型中,作为训练序列模型时的部分初始化参数;(4)训练序列模型,直到模型收敛;(5)使用训练好的序列模型进行文本序列预测任务。利用本发明,能够更加深入地挖掘文本蕴含信息,提升生成文本序列的质量。

    一种基于注意力机制的知识图谱嵌入方法

    公开(公告)号:CN108763237A

    公开(公告)日:2018-11-06

    申请号:CN201810235088.3

    申请日:2018-03-21

    Applicant: 浙江大学

    Abstract: 本发明公开一种基于注意力机制的知识图谱嵌入方法,包括以下步骤:(1)输入需要补全的知识图谱数据集,基于注意力机制对知识图谱数据集进行初始化;(2)基于注意力机制对嵌入表示进行更新,得到嵌入表示结果和注意力机制参数;(3)根据嵌入表示结果和注意力机制参数,补全知识图谱数据集。利用本发明能更好的处理以前算法不能很好处理的复杂关系,如一对多,多对一和多对多的关系,得到的实体向量能很好的反应类别信息,并且在关系判断时可以将注意力集中在与关系相关的部分维度上,提高判断的准确性。

    一种基于连词标记和强化学习的自然语言推理方法

    公开(公告)号:CN108717574A

    公开(公告)日:2018-10-30

    申请号:CN201810252473.9

    申请日:2018-03-26

    Applicant: 浙江大学

    Abstract: 本发明提供了一种基于连词标记和强化学习的自然语言推理方法,包括以下步骤:(1)在连词预测任务上训练一个连词预测模型;(2)在自然语言推理模型中,输入前提和猜想文本并使用编码器对其编码,得到表达矩阵;(3)将连词预测模型的编码器嵌入到自然语言推理模型中,将步骤(2)编码过程中得到的前提和猜想的词向量送入预训练好的编码器并输出表达向量;(4)将自然语言推理模型的编码器和嵌入的连词预测模型中的编码器在注意力机制中交互,得到一个注意力向量;(5)将注意力向量转化为概率分布并输出结果。利用本发明,通过迁移其他监督学习任务所学到的知识,大大提升了在大规模数据集上进行自然语言推理任务的准确率。

    一种基于语法分析树上注意力机制的深度学习视频问答方法及系统

    公开(公告)号:CN108549658A

    公开(公告)日:2018-09-18

    申请号:CN201810201163.4

    申请日:2018-03-12

    Applicant: 浙江大学

    Inventor: 薛弘扬 蔡登 赵洲

    Abstract: 本发明公开了一种基于语法分析树上注意力机制的深度学习视频问答方法及系统,包括以下步骤:(1)对输入的视频序列进行采样,得到一系列视频帧,然后用预训练的卷积神经网络抽取并保存每帧视频的特征;(2)对输入的自然语言问句,利用语法树分析工具建立语法树;(3)根据语法树的结构,确定深度神经网络的结构;(4)对深度神经网络进行自底向上的计算得到最终的输出结果;(5)将建立的深度神经网络在数据集上进行训练;(6)利用训练好的模型,按步骤1至4输入数据得到输出结果,在答案库中选择问题的答案作为输出。利用本发明可以大大提高视频问答结果的准确率,尤其可以提升在复杂及较长问句上的结果。

    一种利用排序标准网络学习解决社区问答任务的方法

    公开(公告)号:CN108388568A

    公开(公告)日:2018-08-10

    申请号:CN201810008072.9

    申请日:2018-01-04

    Applicant: 浙江大学

    Abstract: 本发明公开了一种利用排序标准网络学习解决社区问答任务的方法。主要包括如下步骤:1)针对于一组用户、问题数据集,构建用户、问题之间相互关系的网络,并且针对于形成的网络,利用排序标准网络学习形成问题及用户的最终表达。2)根据得到的用户及问题的最终表达,对于某一问题推荐其最佳用户。相比于一般的问题推荐解决方案,本发明同时利用问题的语义表达信息与社区网站中的异构社区问答网络结构,并结合使用随机游走的方法来学习出社区问答网站中的问题及用户的表达。本发明在社交问答网站问题答案预测中所取得的效果相比于传统的方法更好。

    一种利用排序度量的双层注意力网络进行用户关系预测的方法

    公开(公告)号:CN108256678A

    公开(公告)日:2018-07-06

    申请号:CN201810008475.3

    申请日:2018-01-04

    Applicant: 浙江大学

    Abstract: 本发明公开了一种利用排序度量的双层注意力网络进行用户关系预测的方法。主要包括如下步骤:1)针对于一组用户数据集,构建用户之间相互关系的网络。并且针对于形成的用户社交网络,利用多步骤推理更新后的排序度量的双层注意力网络形成社交网路节点路径集的映射表达。2)对于得到的用户社交网络节点路径集的映射表达,产生对于用户关系的推荐。相比于一般的用户关系推荐解决方案,本发明利用了双层注意力网络并结合多步推理来获取节点集的映射,能够更好地体现用户节点之间存在联系的可能性。本发明在用户关系预测问题中所取得的效果相比于传统的方法更好。

    一种利用包含社会地理信息的多媒体网络学习最大边界多媒体网络表达的方法

    公开(公告)号:CN108170712A

    公开(公告)日:2018-06-15

    申请号:CN201711230595.X

    申请日:2017-11-29

    Applicant: 浙江大学

    Abstract: 本发明公开了一种利用包含社会地理信息的多媒体网络进行最大边界多媒体网络表达学习的方法。主要包括如下步骤:1)针对于一组社交网络用户及感兴趣地点和感兴趣地点的类别信息,构建包含用户、感兴趣地点和感兴趣地点类别信息之间相互关系的网络。2)卷积神经网络及单词映射网络获取感兴趣地点的综合表达,之后利用最大边界网络训练的方法结合用户及感兴趣地点的映射表达进行训练,得到令损失函数最小的用户及感兴趣地点的表达。相比于一般的用户可能感兴趣地点推荐解决方案,本发明利用了多媒体网络的特性及用户之间的相互关系与感兴趣地点的种类信息。本发明在用户可能感兴趣的地点的预测问题中所取得的效果相比于传统的方法更好。

    一种利用多模态网络学习进行基于社交关系的电影推荐的方法

    公开(公告)号:CN107918652A

    公开(公告)日:2018-04-17

    申请号:CN201711129690.0

    申请日:2017-11-15

    Applicant: 浙江大学

    Abstract: 本发明公开了一种利用多模态网络学习进行基于社交关系的电影推荐的方法。主要包括如下步骤:1)针对于一组视频、用户,构建含有其相关关系的SMR网络。并且针对于形成的SMR网络构建采样路径,并针对于采样路径中的电影及用户节点形成电影的综合表达与用户的映射表达,随后针对于预定义的损失函数进行更新,求得最终的用户表达与电影综合表达。2)对于得到的用户表达及电影的综合表达,产生对于用户的电影推荐。相比于一般的电影推荐解决方案,本发明提取了电影的多模态信息并且针对于用户形成了最终的有效用户表达,则能够更准确地反映用户与电影的特性,并产生更加符合要求的电影推荐。本发明在电影推荐问题中所取得的效果相比于传统的方法更好。

    一种基于文本驱动的高效弱监督语义分割方法及装置

    公开(公告)号:CN115937852B

    公开(公告)日:2025-04-25

    申请号:CN202211597202.X

    申请日:2022-12-12

    Applicant: 浙江大学

    Abstract: 本发明公开了一种基于文本驱动的高效弱监督语义分割方法及装置,包括如下步骤:(1)将图片和对应的类别名输入预训练好的视觉‑语言模型,使用基于梯度的类激活映射得到初始的类激活图;(2)基于视觉transformer中的多头自注意力机制对初始的类激活图进行改进;(3)使用条件随机场对改进后的类激活图进行后处理,得到语义分割的伪标签;(4)利用生成的伪标签训练语义分割模型,并利用训练好的语义分割模型对待分割的图片进行语义分割。本发明通过引入基于视觉transformer架构的视觉‑语言模型来高效地为语义分割生成高质量的伪标签,从而提高语义分割模型的分割效率和效果。

    一种定位时动态物体检测与过滤方法

    公开(公告)号:CN119295736A

    公开(公告)日:2025-01-10

    申请号:CN202411415622.0

    申请日:2024-10-11

    Applicant: 浙江大学

    Abstract: 本发明公开了一种定位时动态物体检测与过滤方法,包括以下步骤:(1)通过相机与激光雷达的外参,将激光点云投影到相机像素平面;(2)通过目标检测算法检测相机图像中潜在动态物体,并将潜在动态物体对应检测框中的点云标记为潜在动态点;计算潜在动态点在整体点云中的比例,并将其余点加入静态点云;(3)设置动态点云阈值,基于目标检测框物体类别,动态设置质心欧式距离的阈值;(4)根据步骤(2)中潜在动态点云在整体点云中的比例,自适应进行不同策略的潜在动态点云过滤,获取静态点云;(5)利用过滤得到的静态点云进行定位。利用本发明,可以提高定位与建图效果,具有鲁棒性强、检测精度高、实时性好等优点。

Patent Agency Ranking