-
公开(公告)号：CN116704178A
公开(公告)日：2023-09-05
申请号：CN202310361842.9
申请日：2023-04-04
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06V10/26 , G06V10/40 , G06V10/22 , G06V10/30 , G06V10/82 , G06V10/80 , G06V10/28 , G06V10/774 , G06V10/764 , G06N3/0455 , G06N3/08
Abstract: 本说明书公开了一种图像的实例分割方法、装置、存储介质和电子设备，获取待分割图像以及若干待调整定位框；将所述待分割图像输入所述编码端，以提取所述待分割图像的多尺度特征，将多尺度特征输入所述解码端，以检测所述待分割图像中的各目标，针对每个目标，将各待调整定位框作为包含噪声的定位框输入所述解码端，对各待调整定位框进行去噪，得到用于定位该目标的标准定位框，所述噪声为导致各待调整定位框相对于该目标的标准定位框存在差异的噪声，根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标。本方法通过除去图像噪声，实现对图像进行实例分割。
-
公开(公告)号：CN118093988A
公开(公告)日：2024-05-28
申请号：CN202311211874.7
申请日：2023-09-19
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/9535 , G06F18/214
Abstract: 本说明书公开了一种安全检测的方法及装置，涉及人工智能领域，可用于隐私保护，可以从预设的诱导信息库中获取诱导信息，所述诱导信息用于诱导生成模型生成存在风险的内容，而后，将诱导信息输入到预先训练的诱导信息补充模型中，得到用于获取诱导信息的相关内容的询问语句，将询问语句输入到待检测的生成模型中，得到生成内容，通过预先训练的风险识别模型，对生成内容进行风险识别，得到识别结果，以通过识别结果，对待检测的生成模型进行安全检测，可以看出，本方法可以自动化地对生成模型进行安全检测，从而相比于现有技术，能够提高对生成模型安全检测的效率。
-
公开(公告)号：CN117315674A
公开(公告)日：2023-12-29
申请号：CN202311145850.6
申请日：2023-09-06
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06V30/164 , G06V30/18 , G06T11/60
Abstract: 本说明书一个或多个实施例公开了一种图像文本编辑的方法、装置及电子设备。所述方法包括：对原始文本图像进行针对被替换文本的OCR检测，确定所述被替换文本的位置信息，所述位置信息用于指示所述被替换文本在所述原始文本图像中出现的位置；对所述原始文本图像进行添加噪声处理，得到所述原始文本图像对应的噪声图像；在通过扩散模型对所述噪声图像进行降噪处理时，将替换文本和所述原始文本图像作为所述扩散模型的生成内容引导、将所述位置信息作为所述替换文本的生成位置引导，以生成将所述原始文本图像的被替换文本替换为所述替换文本的目标文本图像。
-
公开(公告)号：CN118672902A
公开(公告)日：2024-09-20
申请号：CN202410697648.2
申请日：2024-05-31
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种测试用例的生成方法、装置、存储介质及电子设备，首先获取评测种子数据，然后结合训练好的生成大模型，设计并选取至少一种诱导攻击手法，通过对评测种子数据进行变形处理生成多样化的测试用例集，同时自动生成测试用例集中各个测试用例的用例标注。
-
公开(公告)号：CN117313739A
公开(公告)日：2023-12-29
申请号：CN202311149563.2
申请日：2023-09-06
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F40/30 , G06F40/289 , G06F18/214
Abstract: 本申请公开了一种语言模型的训练方法、装置、设备及存储介质，通过确定预训练后的语言模型对应的待定模板，再对第一原始文本进行数据增强，得到增强文本，并将增强文本和待定模板进行组合后得到的第一组合结果输入语言模型中，得到增强文本的输出结果，最后再根据增强文本的输出结果和第一原始文本的标注之间的差距，来调整该语言模型对应的待定模板，以将调整完成的待定模板作为该语言模型匹配的目标模板。本申请通过对第一原始文本进行数据增强来确定增强文本，并通过增强文本对该语言模型对应的待定模板进行调整，使得该语言模型可通过调整完成的待定模板基于原始文本和增强文本都可准确执行自然语言处理任务，保证了语言模型的鲁棒性。
-
Patent Agency Ranking
公开(公告)号：CN116702131A
公开(公告)日：2023-09-05
申请号：CN202310648022.8
申请日：2023-06-02
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F21/55 , G06F18/214
Abstract: 本说明书实施例公开了一种数据处理方法、装置及设备，该方法包括：获取能够实现对目标模型进行迁移攻击的代理模型，以及所述代理模型的原始样本；对所述代理模型进行结构重参数化处理，得到重参数化代理模型和所述重参数化代理模型的第一模型权重；基于预设的优化搜索规则、所述重参数化代理模型和所述重参数化代理模型的第一模型权重，确定所述重参数化代理模型对应的对抗迁移性评估结果优于预设评估基准的第二模型权重，基于所述第二模型权重更新所述重参数化代理模型，得到更新后的代理模型；基于所述原始样本，通过所述更新后的代理模型，生成用于攻击所述目标模型的对抗样本。
-
公开(公告)号：CN116579415A
公开(公告)日：2023-08-11
申请号：CN202310258491.9
申请日：2023-03-10
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N3/094 , G06F16/35 , G06F16/951
Abstract: 本说明书实施例提供了自然语言处理模型的训练方法和装置、自然语言的处理方法和装置。该训练方法包括：利用该自然语言的原始数据集生成原始样本集；利用自然语言的原始数据集生成锚点数据集；利用自然语言的原始样本集生成对抗样本集；将所述锚点数据集及所述对抗样本集分别输入预训练模型中，计算预训练模型的损失，并调整所述预训练模型的参数，直至所述预训练模型收敛，将收敛后的模型作为所述自然语言处理模型。本说明书实施例能够保证自然语言处理模型的识别效果。
-
公开(公告)号：CN116029441A
公开(公告)日：2023-04-28
申请号：CN202310090590.0
申请日：2023-01-17
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种数据处理方法、装置及设备，该方法包括：获取目标业务的业务数据，将该业务数据输入到预先训练的目标模型中，通过目标模型中应用于目标业务的第一子模型和前置稳定器对该业务数据进行预测，得到针对该业务数据的预测结果，目标模型中包括第一子模型和前置稳定器，第一子模型包括多个不同的网络层，前置稳定器包括一个或多个子稳定器，子稳定器设置于第一子模型的一个网络层中，且第一子模型进行模型训练后，保持第一子模型中的模型参数不变，通过对抗样本训练前置稳定器中的参数，得到训练后的目标模型，基于该业务数据的预测结果对目标业务进行业务处理。
-
公开(公告)号：CN119201684A
公开(公告)日：2024-12-27
申请号：CN202411167358.3
申请日：2024-08-23
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F11/36
Abstract: 本说明书实施例公开了一种内容生成模型的测试方法、装置、介质及设备。本方案可以在可信执行环境中实现，以保护数据隐私。在内容生成模型的测试过程中，并不会采用预先固定好的提示内容作为测试题目，来诱导内容生成模型输出不符合设定要求的生成内容。而是采用“主题与算法组合”的方式，在测试过程中即时创建测试用例，通过执行测试用例，可以以诱导内容生成模型输出不符合设定要求的生成内容为目的，向所述内容生成模型输入关联所述主题信息的提示内容，完成测试。
-
公开(公告)号：CN118674054A
公开(公告)日：2024-09-20
申请号：CN202410714466.1
申请日：2024-06-03
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N5/045 , G06N5/04 , G06N5/022 , G06N3/08 , G06F11/36 , G06F16/332 , G06F16/33 , G06F40/295
Abstract: 本说明书实施例公开了一种模型真实性评测方法、装置及设备，该方法包括：获取用于对目标模型进行真实性评测的第一问题数据，将第一问题数据输入到目标模型中，得到第一问题数据对应的第一响应结果；提取第一问题数据中包含的命名实体，基于命名实体和第一问题数据，构建第二问题数据，第二问题数据用于触发目标模型输出针对第一问题数据的分析依据和结果；将第二问题数据输入到目标模型中，得到第二问题数据对应的模型预测结果，模型预测结果包括对第一问题数据进行分析得到的分析依据信息和第一问题数据对应的第二响应结果；基于第一响应结果和模型预测结果，确定目标模型的真实性评测结果。
-
-
-
-
-
-
-
-
-
Search Results
19
records
(took 0.032 seconds)
