一种基于时空注意力机制的大语言模型预测方法及装置

    公开(公告)号:CN117786061A

    公开(公告)日:2024-03-29

    申请号:CN202311675342.9

    申请日:2023-12-06

    Abstract: 本说明书公开了一种基于时空注意力机制的大语言模型预测方法及装置,可以用于处理目标实体及部分关联实体的下游预测任务,包括:通过将目标实体及关联实体的初始特征和动态知识图谱输入到空间注意力网络中得到空间拓扑特征;将空间拓扑特征输入到时序注意力网络中得到时空特征;利用目标实体及部分关联实体的时空特征生成隐式提示,并将目标实体的显式的事件文本合并生成提示信息;将提示信息输入给大语言模型,保持大语言模型的参数固定不变,利用下游预测任务的标注信息和损失函数来训练空间注意力网络和时序注意力网络;最后根据训练好的网络来处理目标实体及部分关联实体的下游预测任务。

    一种基于时空注意力机制的大语言模型预测方法及装置

    公开(公告)号:CN117786061B

    公开(公告)日:2024-06-04

    申请号:CN202311675342.9

    申请日:2023-12-06

    Abstract: 本说明书公开了一种基于时空注意力机制的大语言模型预测方法及装置,可以用于处理目标实体及部分关联实体的下游预测任务,包括:通过将目标实体及关联实体的初始特征和动态知识图谱输入到空间注意力网络中得到空间拓扑特征;将空间拓扑特征输入到时序注意力网络中得到时空特征;利用目标实体及部分关联实体的时空特征生成隐式提示,并将目标实体的显式的事件文本合并生成提示信息;将提示信息输入给大语言模型,保持大语言模型的参数固定不变,利用下游预测任务的标注信息和损失函数来训练空间注意力网络和时序注意力网络;最后根据训练好的网络来处理目标实体及部分关联实体的下游预测任务。

    审计疑点追踪排查方法、系统、计算机设备和存储介质

    公开(公告)号:CN117172720A

    公开(公告)日:2023-12-05

    申请号:CN202311388196.1

    申请日:2023-10-24

    Abstract: 本申请涉及一种审计疑点追踪排查方法、系统、计算机设备和存储介质。所述方法包括:获取审计疑点的排查方向并选择排查策略;若选择定制化排查策略,则基于大模型提示词样例,确定审计疑点的排查方向对应的定制化排查步骤,基于审计工具链表依次执行定制化排查步骤直至排查次数达到设定阈值,输出排查结果;若选择自动化排查策略,则利用大模型对审计疑点的排查方向进行拆解得到对应的自动化排查步骤;基于审计工具链表依次执行自动化排查步骤直至依次执行时返回的中间结果与预设结果相匹配或排查次数达到设定阈值,输出排查结果。采用本方法能够实现对用户无感且步骤可控的审计疑点排查,提高审计疑点的排查效率和排查透明性。

Patent Agency Ranking