大模型检测方法及相关设备
    4.
    发明公开

    公开(公告)号:CN119513592A

    公开(公告)日:2025-02-25

    申请号:CN202411438209.6

    申请日:2024-10-15

    Abstract: 本申请提供一种大模型检测方法及相关设备。所述方法包括:对获取的大模型中的敏感数据进行二进制编码,得到编码结果;基于所述编码结果,将获取的第一标签拆分成至少一个子标签;所述第一标签用于标注所述敏感数据;对所述子标签进行无规则排序,并根据排序结果生成第二标签;基于所述第二标签对所述大模型进行检测。在本申请实施例中,通过对敏感标签对应的敏感内容进行了双重拆分,同时依据单词长度+单词内容的编码组合的方式,从而生成了更多未被标注的敏感标签以及对应的敏感内容,使得敏感标签的内容更加丰富,避免了无法对符号、字符或者标注等进行有效识别的情况,同时增加了对于敏感数据的识别能力。

Patent Agency Ranking