公开(公告)号：CN117876911A

公开(公告)日：2024-04-12

申请号：CN202410055765.9

申请日：2024-01-15

Applicant: 公安部第三研究所

Inventor： 杨莹 ,  杜硕 ,  王永剑

IPC: G06V20/30 ,  G06V10/774 ,  G06V20/70 ,  G06V10/40 ,  G06F40/126 ,  G06F16/958 ,  G06N20/00 ,  G06N5/02

Abstract: 本发明涉及一种基于大语言模型实现互联网有害图像检测处理的方法，包括以下步骤：进行多模态大模型微调训练；基于大语言模型进行自动审核；基于大语言模型进行对话交互，并生成新的审核意见。本发明还涉及一种用于实现基于大语言模型的互联网有害图像检测处理的装置、处理器及其计算机可读存储介质。采用了本发明的基于大语言模型实现互联网有害图像检测处理的方法、装置、处理器及其计算机可读存储介质，通过多模态大模型的特征提取和大语言模型的模态对齐，基于大模型的认知理解能力对图片输入进行快速、准确的检测，结合了人工审核的准确，机器提取特征的高效。这种自动+交互的方式使得审核人员能够根据自己的知识对模型的输出进行修正和调整，提高审核的准确度和可靠性。