数据处理方法、装置、设备、存储介质及程序产品

    公开(公告)号:CN118887375B

    公开(公告)日:2025-04-29

    申请号:CN202411347904.1

    申请日:2024-09-26

    Abstract: 本发明提供一种数据处理方法、装置、设备、存储介质及程序产品,应用于数据处理技术领域。该方法包括:获取待处理图像;将所述待处理图像输入单图文模型得到对应的文本描述信息,将所述待处理图像输入图像分割模型得到所述待处理图像中的对象类别信息;将所述文本描述信息和所述对象类别信息输入大语言模型,生成多对象关联问答信息,所述多对象关联问答信息包括图像理解信息和对象位置信息;对所述多对象关联问答信息中的对象进行图像回填,得到第一图文数据;将所述待处理图像和所述多对象关联问答信息输入奖励模型,得到检查项分数;根据所述检查项分数确定是否将所述第一图文数据确定为多模态训练数据。

    基于多模态智能体的通用数据治理系统及方法

    公开(公告)号:CN119515652A

    公开(公告)日:2025-02-25

    申请号:CN202411322083.6

    申请日:2024-09-23

    Abstract: 本申请提供一种基于多模态智能体的通用数据治理系统、方法、电子设备、存储介质、程序产品。基于多模态智能体的通用数据治理方法包括S1:定义并实现数据采集、数据清洗、数据标注、数据存储工具集;S2:设计任务Prompt且输入到多模态智能体中;S3:多模态智能体根据治理任务和要求,生成治理计划并综合使用工具链完成数据治理任务。通过本发明的数据治理系统和数据治理方法,简化工作流程;各个团队只需关注开发和维护自己的工具,无需关心整个流程的复杂性,实现任务的解耦;多模态智能体能够灵活选择和切换不同的工具,工具越多,系统的解决问题能力越强;适用于各种数据治理场景,不受具体行业和应用限制,具有较强的通用性。

    多模态大模型的指令微调数据选择方法及装置

    公开(公告)号:CN119004099A

    公开(公告)日:2024-11-22

    申请号:CN202410992374.X

    申请日:2024-07-23

    Abstract: 本发明提供一种多模态大模型的指令微调数据的选择方法及装置,方法包括:训练一个基于人工反馈的奖励模型并将奖励模型的输出得分最大化作为目标优化多模态大模型,以得到多模态数据集的第一评分公式,奖励模型的输出得分用于对多模态大模型输出结果的质量进行评估;根据低秩适配器和Adam优化器调整第一评分公式,得到第二评分公式;根据第二评分公式,从多模态数据集中获取代表性数据集;从代表性数据集中进行多样性选择,获取既具有代表性,同时具有多样性的多模态大模型的指令微调数据。通过上述方法,使得多模态大模型在进行特定任务训练时,能够获取到高质量的微调数据,提升训练速率。

    基于自我问答的可信多模态大模型推理方法及装置

    公开(公告)号:CN119003741A

    公开(公告)日:2024-11-22

    申请号:CN202411465874.4

    申请日:2024-10-21

    Abstract: 本发明提供一种基于自我问答的可信多模态大模型推理方法及装置,涉及人工智能技术领域,方法包括:获取多模态数据,并进行特征提取得到对应的多模态令牌特征;获取针对多模态数据的提问问题,将提问问题与多模态令牌特征输入到多模态大模型中进行第一问答;并将得到的第一回答文本以及提示词输入到多模态大模型进行第二问答,得到第二回答文本,确定第一回答文本与第二回答文本的相似度得分,当相似度得分大于相似度阈值时,将第一回答文本作为提问问题的回答文本。通过本申请,克服大语言模型在进行问答时过于依赖问答知识库,且生成的回答文本准确性和可信度低的缺陷。

    基于图文预训练模型的零样本异常检测方法、装置

    公开(公告)号:CN118864876A

    公开(公告)日:2024-10-29

    申请号:CN202410860540.0

    申请日:2024-06-28

    Abstract: 本发明提供一种基于图文预训练模型的零样本异常检测方法、装置,包括:对待检测样本图像进行图像特征提取,得到待检测样本图像的局部特征和全局特征;调用大语言模型生成针对待检测样本图像的正常描述文本和异常描述文本;将正常描述文本、异常描述文本分别与手工编写的文本模板、自适应学习的文本模板结合,对结合后的文本进行文本特征提取处理,得到正常文本特征和异常文本特征;基于局部特征、正常文本特征和异常文本特征进行特征交互,得到异常分数图;基于异常分数的最大值、全局特征、正常文本特征和异常文本特征判断待检测样本图像中是否存在异常。本发明可以在无需样本图像中的物品类别先验数据的情况下有效完成零样本异常检测任务。

Patent Agency Ranking