基于BERT模型和关键词提取的法律判决预测方法

    公开(公告)号:CN119539192A

    公开(公告)日:2025-02-28

    申请号:CN202411701241.9

    申请日:2024-11-25

    Abstract: 本发明涉及自然语言处理技术与法律判决预测(LJP)领域,提出了一种基于BERT模型、关键词提取和交叉注意力机制的方法。具体而言,该方法包括:首先,将案件事实描述输入到基于Transformer的关键词提取模型中,提取出法律事实关键词,并将其输入BERT模型以获得向量表示;接着,利用交叉注意力机制将法典语义融入模型,从而对罪名预测、法条预测(分类任务)以及刑期预测(回归任务)进行预测。本发明通过提取上下文相关的关键词并嵌入BERT模型,同时采用交叉注意力机制纳入法典语义,有效解决了传统方法难以准确捕捉关键事件信息的问题,从而提升了LJP各子任务的预测准确性。

    一种结合知识图谱与注意力机制的虚假新闻识别方法

    公开(公告)号:CN119537609A

    公开(公告)日:2025-02-28

    申请号:CN202411691328.2

    申请日:2024-11-25

    Abstract: 本发明属于自然语言处理技术与虚假新闻的事实核查领域,具体涉及到知识图谱辅助和注意力机制的新型虚假新闻检测的方法,该方法包括:首先从目标新闻文本中抽取数据,识别关键实体并将其链接到知识图谱,通过门控机制得到基于知识图谱的实体嵌入向量;接着,将目标文本中的句子、主题和实体作为输入向量,利用Transformer编码器提取其高阶知识表示;然后,通过多头注意力机制获取更深层次的文本嵌入,包括句子‑实体和句子‑主题的嵌入表示;最后,对比所获取的所有高级知识表示,并将它们一同输入模型,以预测新闻的真实度评分,从而有效甄别潜在的虚假新闻报道。

Patent Agency Ranking