-
公开(公告)号：CN119622001A
公开(公告)日：2025-03-14
申请号：CN202510156421.1
申请日：2025-02-12
Applicant: 之江实验室
IPC: G06F16/36 , G06F16/353 , G06F40/279 , G06F40/30
Abstract: 本说明书公开了一种大模型幻觉测评数据生成方法。在此方法中，可以通过实体识别和关系抽取技术，从预先构建的针对不同领域范围的知识库中提取出结构化的知识图谱，进而可以根据知识图谱中各节点之间的连接关系，结合大语言模型生成幻觉测评数据，以对待测试模型针对非直观或模糊信息时的表现进行测评。同时，以原始实体在知识库中对应的文本数据为依据，提供详尽的参考答案，形成文本对。最终得到一套全面的幻觉测评数据集，用以评估待测试模型的理解力和输出信息的准确性。
-
公开(公告)号：CN118195023A
公开(公告)日：2024-06-14
申请号：CN202311843820.2
申请日：2023-12-27
Applicant: 之江实验室
IPC: G06N20/00 , G06F21/62 , G06F18/214
Abstract: 本说明书公开了一种基于区块链的车联网去中心化联邦学习方法，区块链选择初始节点并初始化模型，初始节点随机选择邻近节点将模型传播；参与节点接收到模型后，先与本地模型进行融合，再使用本地数据进行训练，再将更新的模型随机传播给邻近节点，同时发送至委员会；委员会对收到的模型进行质量检测、共识上链；智能合约周期性自动触发执行并行序列模型聚合；任务发布者检测模型是否收敛，若未达到收敛要求，则重复执行上述步骤；学习任务结束，需求方可直接从区块链将模型下载至本地，利用本地数据完成预测。与传统联邦学习相比，本发明具有更好的隐私保护性、更低的通信和储存成本，能够更好地适配快速变化的车联网网络。
-
公开(公告)号：CN117576522B
公开(公告)日：2024-04-26
申请号：CN202410076456.X
申请日：2024-01-18
Applicant: 之江实验室
IPC: G06V10/774
Abstract: 本说明书公开了一种基于拟态结构动态防御的模型训练方法及装置。所述任务执行方法包括：获取预训练模型，将训练预训练模型所使用的第一图像输入到预训练模型中，得到第一图像对应的识别结果。根据第一图像对应的识别结果以及第一图像对应的实际标签，确定出第二图像。将第二图像输入到预训练模型中，以通过预训练模型中的权重网络层，确定预训练模型中设置的各子识别网络对应的权重，以及通过每个子识别网络，分别对第二图像进行识别，得到各识别结果，并根据确定出的各子识别网络对应的权重，对各识别结果进行加权，得到最终识别结果，以最小化最终识别结果与实际标签之间的偏差为优化目标，对预训练模型进行训练。
-
公开(公告)号：CN117910594A
公开(公告)日：2024-04-19
申请号：CN202410030557.3
申请日：2024-01-08
Applicant: 之江实验室
Abstract: 本说明书公开了一种联邦学习训练方法、装置、介质及设备，客户端获取中心服务器发送的待训练模型和隐私预算。通过本地数据对待训练模型进行训练，得到待训练模型的模型更新。根据预设的裁剪因子对模型更新进行调整，得到裁剪后的模型更新。根据预设的敏感度、隐私预算以及裁剪后的模型更新，确定噪声分布。根据裁剪后的模型更新，对噪声分布进行截断，得到截断后的噪声分布，并对更新后的模型更新进行加噪，得到加噪后的模型更新。将加噪后的模型更新返回中心服务器，使中心服务器更新待训练模型，并继续下发至客户端，直至完成对待训练模型的训练，降低了引入的噪声对联邦学习训练模型的可用性的影响，获得更好的模型精度。
-
公开(公告)号：CN116523032B
公开(公告)日：2023-09-29
申请号：CN202310235411.8
申请日：2023-03-13
Applicant: 之江实验室
IPC: G06N3/094 , G06N3/096 , G06V30/19 , G06N3/0464
Abstract: 本发明公开了一种图像文本双端迁移攻击方法、装置和介质，该方法的步骤包括分析攻击目标模型、本地替代模型训练、对抗样本生成和对抗样本迁移，其中，分析攻击目标模型，即对比语言图像预训练模型，其可以接受图像与文本两端输入，之后根据输出向量的相似度进行结果预测；本地替代模型训练为根据目标模型的骨干网络训练替代模型，用于迁移攻击；对抗样本生成为对本地替代模型的进行攻击，进而获得图像和文本的对抗样本；对抗样本迁移为对抗样本输入对比语言图像预训练模型，最终导致网络无法正常工作，网络预测分类错误。本发明从图像和文本两个输入端口进行攻击，同时在本地训练相关模型进行迁移攻击，大幅提高了攻击成功率。
-
Patent Agency Ranking
公开(公告)号：CN116089955B
公开(公告)日：2023-09-26
申请号：CN202211528529.1
申请日：2022-12-01
Applicant: 之江实验室
Abstract: 本发明公开了一种基于windows操作系统的系统调用去噪方法及装置，该方法基于提取到的系统调用参数，构造进程‑线程亲子关系图谱和时序图，对线程进行行为分析和过滤，保留在磁盘/内存/注册表/网络层面产生增、删、改行为的线程，并对这些进程产生的系统调用生成了系统调用描述文件。该方法能够有效减少在系统调用分析中原始数据的噪声，同时保留系统调用原有的亲缘和时序关系，使得计算机产生的系统调用能够以文本的形式进行描述和比较。
-
公开(公告)号：CN115953590B
公开(公告)日：2024-01-30
申请号：CN202211597576.1
申请日：2022-12-12
Applicant: 之江实验室
IPC: G06V10/424 , G06V10/764 , G06V10/82 , G06F40/30 , G06F40/289 , G06N3/0442 , G06N3/047 , G06N3/084
Abstract: 本发明公开了一种分段式细粒度的商品图像描述生成方法、装置和介质，该方法包括以下步骤：首先构造一个粗粒度的商品图像描述生成框架，由图像特征提取器、文本解码器、映射网络三部分组成；然后针对图像特征提取器以及文本解码器进行预训练，之后通过映射网络对齐语义空间，生成粗粒度的图像描述；其次在公开的商品描述数据集上微调已有的大型文本生成网络；再将粗粒度的图像描述输入微调后的文本生成网络，生成细粒度的商品图像描述；最后可将上述生成的商品描述再次输入网络，直至生成满意的商品图像描述。本发明的商品图像描述生成方法能够提高商品描述的丰富度和细腻度，自动化批量生成细粒度的商品图像描述。
-
公开(公告)号：CN117061254B
公开(公告)日：2024-01-23
申请号：CN202311319155.7
申请日：2023-10-12
Applicant: 之江实验室
IPC: H04L9/40 , H04L67/1396
Abstract: 本申请涉及一种异常流量检测方法、装置和计算机设备。所述方法包括：获取待检测流量数据，其中，待检测流量数据包括用户数据以及待检测流量信息；基于待检测流量信息进行特征提取处理，得到哈希结果，并基于哈希结果与预设的基因库进行匹配处理，得到流量检测结果；基于预设的用户行为模型中的用户数据统计结果对用户数据进行检测，得到用户行为检测结果；基于流量检测结果以及用户行为检测结果，得到针对待检测流量数据的异常检测结果。采用本方法能够解决现有技术中针对异常流量检测灵活度以及效率较低的问题。
-
公开(公告)号：CN117369783A
公开(公告)日：2024-01-09
申请号：CN202311665188.7
申请日：2023-12-06
Applicant: 之江实验室
Abstract: 在本说明书提供的一种安全代码生成模型的训练方法及装置中，根据第一业务需求指令与第一安全代码，确定思维链提示文本，以及将安全提示词、第二业务需求指令以及该思维链提示文本，输入安全代码生成模型，生成第二安全代码。根据第二业务需求指令，通过该安全代码生成模型，生成业务代码，根据该业务代码与该第二安全代码的差异，确定损失，并以损失最小为优化目标训练该安全代码生成模型。通过引入思维链提示文本，使生成的第二安全代码兼顾了安全风险，及以该第二安全代码与业务代码的损失最小为优化目标训练模型，使训练完的安全代码生成模型仅根据业务需求指令，就可生成满足该业务需求且兼顾安全风险的安全代码，节约了代码开发的成本。
-
公开(公告)号：CN119622749B
公开(公告)日：2025-05-02
申请号：CN202510156422.6
申请日：2025-02-12
Applicant: 之江实验室
Abstract: 本说明书公开了一种红队测试指令生成方法、装置、存储介质。在此方法中，可以借助大型语言模型的强大逻辑推理与内容生成能力，基于不同的目标进化策略以及少量的候选测试指令，从广度方面或从深度方面批量生成多样化的能够生成不同领域范围下能够覆盖更多潜在威胁场景的红队测试指令，以减少对安全专家手工编写测试指令的需求，极大提高了测试效率，并降低测试成本。
-
-
-
-
-
-
-
-
-
Search Results
30
records
(took 0.031 seconds)
