一种基于策略梯度方法改进的神经机器翻译方法

    公开(公告)号:CN116663578A

    公开(公告)日:2023-08-29

    申请号:CN202310716988.0

    申请日:2023-06-16

    Applicant: 东北大学

    Abstract: 本发明涉及深度学习和自然语言处理技术领域,提供了一种基于策略梯度方法改进的神经机器翻译方法,用以解决深度学习模型中超参数自适应设计的问题,提高了机器翻译模型结果的准确率。该方法首先对输入神经机器翻译模型的平行语料库进行数据预处理,获取标准格式的文本数据;然后构建用于输出Transformer模型参数的控制器模型,采样输出Transformer模型参数;训练Transformer模型至收敛,选择Transformer模型验证集上的最小损失计算得到策略梯度算法的奖励和控制器模型的损失,更新控制器模型参数;最后进行控制器模型测试,采样得到Transformer模型参数并训练,并在待翻译的测试集上进行测试Transformer模型性能。实验结果表明所提方法在Multi30k的德英数据集和IWSLT英德数据集上取得了良好的结果。

    基于深度学习和智能优化融合的蛋白质性质预测方法

    公开(公告)号:CN118366550A

    公开(公告)日:2024-07-19

    申请号:CN202410489336.2

    申请日:2024-04-23

    Applicant: 东北大学

    Abstract: 本发明提供一种基于深度学习和智能优化融合的蛋白质性质预测方法,涉及蛋白质性质预测技术领域。该方法首先获取蛋白质序列数据,并转换为数字表示形式,使用卷积神经网络提取蛋白质序列特征;然后将蛋白质序列根据氨基酸的分类以及等电点和亲水性指数编码为蛋白质音乐,生成对应的Mel声谱图,输入到VGG16网络中提取其频率特征;将蛋白质的序列特征和频率特征结合,实现蛋白质性质预测;同时引入了带有精英保留策略的遗传算法对蛋白质性质预测模型的参数进行自动搜索,选择L1和L2正则化的系数为待搜索参数并设置其范围,随机初始化种群,之后依次计算种群的适应度值以及进行种群的选择、交叉和变异操作,迭代至满足终止条件;最后进行模型测试。

Patent Agency Ranking