大模型幻觉检测方法、装置、存储介质及电子设备

    公开(公告)号:CN119990124A

    公开(公告)日:2025-05-13

    申请号:CN202510089598.4

    申请日:2025-01-20

    Abstract: 本说明书实施例公开了一种大模型幻觉检测方法、装置、存储介质及电子设备。首先,获取待检测文本,并在待检测文本中插入扰动字符,生成多个扰动文本。然后,将多个扰动文本并行输入目标大模型中,得到各扰动文本在目标大模型每层输出的表征向量,并由每层输出的各表征向量组成对应层的向量集合。进一步地,将各向量集合进行中心化处理,得到与各向量集合对应的一致性值,其中一致性值用于衡量各向量集合中不同表征向量之间的相关性。最后,根据各一致性值计算得到目标大模型在输入扰动下的稳定度得分,并根据稳定度得分判断得到目标大模型的幻觉检测结果。

    一种数据处理方法、装置及设备

    公开(公告)号:CN119026636B

    公开(公告)日:2025-02-28

    申请号:CN202411514637.2

    申请日:2024-10-28

    Abstract: 本说明书实施例公开了一种数据处理方法、装置及设备,该方法包括:获取用于对图神经网络模型进行模型训练的图结构数据,所述图结构数据中包括节点、边和节点特征;根据预先设定的隐私数据遗忘要求,对所述图结构数据中包含的隐私数据进行定位,并根据定位结果确定所述图结构数据中位于所述隐私数据对应的遗忘范围内的目标子图数据;通过与所述隐私数据遗忘要求对应的类型相匹配的对冲规则,调整所述目标子图数据中的数据生成所述目标子图数据对应的对冲子图数据;基于所述目标子图数据和所述对冲子图数据,通过对比学习的方式对所述图神经网络模型进行模型训练,得到训练后的图神经网络模型。

    一种决策模型的训练方法、小程序巡检方法及装置

    公开(公告)号:CN117725975B

    公开(公告)日:2024-12-06

    申请号:CN202410177223.9

    申请日:2024-02-08

    Inventor: 王可 孟昌华

    Abstract: 本说明书一个或多个实施例公开了一种决策模型的训练方法,包括:获取用户的意图标签,以及用户基于所述意图标签所描述的意图与网页进行交互的交互动作序列;获取用户在执行所述交互动作序列的过程中所交互的网页图像样本;将所述网页图像样本和所述意图标签输入生成模型,得到决策结果;基于所述决策结果和决策标签确定损失函数,来更新所述生成模型的参数,以得到目标决策模型。该方法提供的决策模型能够针对不同的小程序进行自动化决策,以快速生成巡检路径。相应地,本说明书还公开了决策模型的训练装置、小程序巡检方法及装置。

    一种数据处理方法、装置及设备

    公开(公告)号:CN119026636A

    公开(公告)日:2024-11-26

    申请号:CN202411514637.2

    申请日:2024-10-28

    Abstract: 本说明书实施例公开了一种数据处理方法、装置及设备,该方法包括:获取用于对图神经网络模型进行模型训练的图结构数据,所述图结构数据中包括节点、边和节点特征;根据预先设定的隐私数据遗忘要求,对所述图结构数据中包含的隐私数据进行定位,并根据定位结果确定所述图结构数据中位于所述隐私数据对应的遗忘范围内的目标子图数据;通过与所述隐私数据遗忘要求对应的类型相匹配的对冲规则,调整所述目标子图数据中的数据生成所述目标子图数据对应的对冲子图数据;基于所述目标子图数据和所述对冲子图数据,通过对比学习的方式对所述图神经网络模型进行模型训练,得到训练后的图神经网络模型。

    一种模型训练的方法、实体识别的方法、装置及电子设备

    公开(公告)号:CN117951527A

    公开(公告)日:2024-04-30

    申请号:CN202410194929.6

    申请日:2024-02-21

    Abstract: 本说明书公开了一种模型训练的方法、实体识别的方法、装置及电子设备,具体包括:通过将第一文本数据输入到原始实体识别模型中,得到第一识别结果,根据第一识别结果与第一标注数据进行训练时各模型参数的变化幅度,确定各模型参数的重要程度值,根据各重要程度值对模型参数的学习率进行调整。将第二文本数据输入到原始实体识别模型中得到第二识别结果,以最小化第二识别结果与第二标注数据的偏差为优化目标,按照调整后的学习率进行训练。将训练后的实体识别模型用于对文本数据进行实体识别,根据识别结果执行目标任务。通过本说明书中的方法可有效提高针对实体识别模型的训练效率,使得后续根据识别结果执行目标任务的执行效率也获得了提升。

Patent Agency Ranking