公开(公告)号：CN115392259B

公开(公告)日：2023-04-07

申请号：CN202211321734.0

申请日：2022-10-27

Applicant: 暨南大学

Inventor： 黄斐然 ,  刘文骁 ,  刘炜麟 ,  支庭荣

IPC: G06F40/30 ,  G06N3/044 ,  G06N3/0464 ,  G06F18/214 ,  G06F16/35 ,  G06F40/289

Abstract: 本发明涉及自然语言处理的情感分析技术领域，公开了一种基于对抗训练融合BERT的微博文本情感分析方法及系统，包括：S1文本预处理步骤：读取原始微博文本数据集，进行数据扩充，得到预处理文本数据；S2预训练步骤：将预处理文本数据输入增量BERT模型中进行训练，得到增量预训练模型；S3下游微调步骤：将增量预训练模型结合预处理文本数据集进行微调，并结合对抗训练的方法，对Embeddings的权重矩阵进行扰动，输出保存为情感分类预测模型；通过所述情感分类预测模型执行目标任务，输出目标微博文本数据情感分析结果。本发明融合对抗训练和增加外部数据，提升了模型预测的精确性与鲁棒性，可以使BERT在微博情感分类领域的发挥更好的作用。

公开(公告)号：CN113742482A

公开(公告)日：2021-12-03

申请号：CN202110813433.9

申请日：2021-07-19

Applicant: 暨南大学

Inventor： 刘文骁 ,  黄唯畅 ,  黄斐然 ,  刘炜麟 ,  黄忠财 ,  黄凯 ,  冯俊杰 ,  陈锌鸿

IPC: G06F16/35 ,  G06K9/62

Abstract: 本发明公开了基于多重词特征融合的情感分类方法、介质，包括：对训练样本集中各文本数据进行文本预处理，得到文本数据转换到的字向量、文本向量、位置向量和词性向量；建立基于Transformer模型的Encoder网络，在Encoder网络的编码层加入词性向量层；将训练样本集中各文本数据对应字向量、文本向量、位置向量和词性向量输入到Transformer模型的Encoder网络中；进行预训练任务，得到情感分类模型；基于情感分类模型对需要进行分类的文本数据进行分类。本发明利用Transformer健壮的网络结构使得信息能够得到充分的利用，在模型编码层创新性的加入词性层，在情感分析领域，得到了很好的效果。

公开(公告)号：CN113742482B

公开(公告)日：2024-05-31

申请号：CN202110813433.9

申请日：2021-07-19

Applicant: 暨南大学

Inventor： 刘文骁 ,  黄唯畅 ,  黄斐然 ,  刘炜麟 ,  黄忠财 ,  黄凯 ,  冯俊杰 ,  陈锌鸿

IPC: G06F16/35 ,  G06F18/25 ,  G06F18/24 ,  G06F18/214

Abstract: 本发明公开了基于多重词特征融合的情感分类方法、介质，包括：对训练样本集中各文本数据进行文本预处理，得到文本数据转换到的字向量、文本向量、位置向量和词性向量；建立基于Transformer模型的Encoder网络，在Encoder网络的编码层加入词性向量层；将训练样本集中各文本数据对应字向量、文本向量、位置向量和词性向量输入到Transformer模型的Encoder网络中；进行预训练任务，得到情感分类模型；基于情感分类模型对需要进行分类的文本数据进行分类。本发明利用Transformer健壮的网络结构使得信息能够得到充分的利用，在模型编码层创新性的加入词性层，在情感分析领域，得到了很好的效果。

公开(公告)号：CN115392259A

公开(公告)日：2022-11-25

申请号：CN202211321734.0

申请日：2022-10-27

Applicant: 暨南大学

Inventor： 黄斐然 ,  刘文骁 ,  刘炜麟 ,  支庭荣

IPC: G06F40/30 ,  G06N3/04 ,  G06F16/35 ,  G06F40/289

Abstract: 本发明涉及自然语言处理的情感分析技术领域，公开了一种基于对抗训练融合BERT的微博文本情感分析方法及系统，包括：S1文本预处理步骤：读取原始微博文本数据集，进行数据扩充，得到预处理文本数据；S2预训练步骤：将预处理文本数据输入增量BERT模型中进行训练，得到增量预训练模型；S3下游微调步骤：将增量预训练模型结合预处理文本数据集进行微调，并结合对抗训练的方法，对Embeddings的权重矩阵进行扰动，输出保存为情感分类预测模型；通过所述情感分类预测模型执行目标任务，输出目标微博文本数据情感分析结果。本发明融合对抗训练和增加外部数据，提升了模型预测的精确性与鲁棒性，可以使BERT在微博情感分类领域的发挥更好的作用。

公开(公告)号：CN113919944A

公开(公告)日：2022-01-11

申请号：CN202111043921.2

申请日：2021-09-07

Applicant: 暨南大学

Inventor： 黄斐然 ,  梁中铭 ,  罗颂宽 ,  刘炜麟 ,  刘旭扬 ,  刘文骁

IPC: G06Q40/04 ,  G06Q30/02 ,  G06N20/00

Abstract: 本发明涉及深度强化学习和金融量化交易领域，为基于强化学习算法与时间序列模型的股票交易方法及系统，其方法包括步骤：数据预处理，对收集的股票数据按类别进行整理，过滤错误数据、重复数据，数据归一化，预处理完成后得到得到股票数据集；建立时间序列模型预测股票价格，对股票基础价格数据集进行划分，建立并训练可用于股票基础价格数据的时间序列GRU模型，输出股票预测价格；股票交易强化学习模型输出决策，应用PPO算法训练智能体得到应用于股票交易的强化学习模型以输出股票交易的行动决策。本发明可以充分挖掘潜藏于股票基础数据中的信息，在股票交易环境中作出合理交易决策，为现实股票交易相关人员提供参考。