公开(公告)号：CN119854002A

公开(公告)日：2025-04-18

申请号：CN202510008592.X

申请日：2025-01-03

Applicant: 国家计算机网络与信息安全管理中心 ,  烟台中科网络技术研究所

Inventor： 李鹏霄 ,  王子涵 ,  党中恺 ,  项菲 ,  翟羽佳 ,  王海洋 ,  王媛媛 ,  王红兵 ,  时磊 ,  周启荣 ,  艾政阳 ,  刘溪 ,  赵珍

IPC: H04L9/40

Abstract: 本发明涉及网络安全技术领域，尤其涉及一种生成式人工智能交互式测评系统及测评方法，包括交互式测评系统以及与所述交互式测评系统连接的三个交互式内容生成平台，其中：第一交互式内容生成平台用于生成测试用例；第二交互式内容生成平台用于进行结果分析及生成报告；第三交互式内容生成平台用于作为被测平台，生成交互式内容；交互式测评系统包括：数据接收模块、策略管理库、评估管理模块、接口管理模块、任务链管理模块和提示模板库。本发明基于交互式内容生成平台，灵活生成安全测试集/进行结果评定，并开展测评工作，将测评合理进行拆解，充分利用现有的知识/经验集，实现高效、灵活的交互式内容生成安全测试。

公开(公告)号：CN118573916A

公开(公告)日：2024-08-30

申请号：CN202410653553.0

申请日：2024-05-24

Applicant: 国家计算机网络与信息安全管理中心

Inventor： 陈阳 ,  王海洋 ,  初杰 ,  周启荣 ,  程光 ,  山文倩 ,  王慎强 ,  隋明爽 ,  董一凡 ,  赵珍

IPC: H04N21/234 ,  H04N21/233 ,  H04N21/439 ,  H04N21/44 ,  G06V20/40 ,  G06F16/71 ,  G06F16/75

Abstract: 本发明属于音视频识别技术领域，尤其是一种基于互联网的音视频识别系统，针对现有的音视频识别系统在使用过程中，不便于对音视频内容进行实时智能识别监管，从而导致音视频内容质量无法得到保障的问题，现提出如下方案，其包括互联网模块；采集模块，所述采集模块与互联网模块连接，所述采集模块连接有信号处理模块，信号处理模块连接有特征提取模块，所述特征提取模块连接有分类模块，所述分类模块连接有智能识别模块；获取模块，所述获取模块连接有传输模块，所述传输模块连接有数据库模块，所述数据库模块连接有管理模块，本发明能够在使用过程中，便于对音视频内容进行实时智能识别监管，从而可以有效保障音视频内容质量。

公开(公告)号：CN119004488B

公开(公告)日：2025-01-28

申请号：CN202411463942.3

申请日：2024-10-21

Applicant: 烟台中科网络技术研究所

Inventor： 王海洋 ,  初杰 ,  隋明爽 ,  李进 ,  周启荣 ,  董一凡 ,  王慎强 ,  于辉 ,  赵珍

IPC: G06F21/57 ,  G06F21/60 ,  G06F16/2458 ,  G06F16/25

Abstract: 本申请公开了一种移动应用的安全风险评估方法及系统，涉及安全风险评估领域，其包括数据获取模块、访问数据分析模块一、访问数据分析模块二和综合安全风险分析评估模块，通过对目标移动应用的应用数据的访问数据进行获取并结合各类应用数据的数据安全等级进行综合分析，有效的提高了对目标移动应用自身数据安全评估的准确性，通过分析目标移动应用对目标移动设备的基础数据访问信息进行有效评估，并结合目标移动应用自身数据安全评估结果进行综合评估，有效提高了对目标移动应用安全风险的全面性和准确性。

公开(公告)号：CN119514540A

公开(公告)日：2025-02-25

申请号：CN202510088849.7

申请日：2025-01-21

Applicant: 烟台中科网络技术研究所

Inventor： 王海洋 ,  余智华 ,  周启荣 ,  邱强 ,  初杰 ,  王慎强 ,  赵珍

IPC: G06F40/289 ,  G06F16/353 ,  G06F18/23213 ,  G06F18/22

Abstract: 本申请涉及数据处理技术领域，具体涉及一种面向大模型的内容提取分析方法、装置及系统。所述方法包括：对所述大模型生成的当前文本进行预处理，获取所述当前文本的分词向量；根据所述分词向量的重要性，对所述分词向量进行聚类，获取多个分词类簇中心；根据所述多个分词类簇中心并结合敏感词库，确定所述当前文本是否合规。本申请实施例根据分词向量的重要性对分词向量进行聚类，再将聚类得到的分词类簇中心与敏感词库结合来确定当前文本是否合规，因此能够减少误检或漏检的情况发生，提高检测结果的准确性。

公开(公告)号：CN119808760A

公开(公告)日：2025-04-11

申请号：CN202411616803.X

申请日：2024-11-13

Applicant: 永信至诚科技集团股份有限公司 ,  烟台中科网络技术研究所

Inventor： 王海洋 ,  蔡晶晶 ,  初杰 ,  陈俊 ,  张凯 ,  黄平 ,  隋明爽 ,  董一凡 ,  赵珍

IPC: G06F40/226 ,  G06F16/35 ,  G06F40/284 ,  G06N20/00

Abstract: 本发明提供了一种内容安全测试集生成方法、装置、设备和存储介质，该方法包括配置提示词框架引导问题构建大模型生成初始问题负样本；综合多种内容审核模型对初始问题负样本中的各个测试问题进行复合核定，得到审核结果；比对审核结果与提示词框架中的关键内容是否匹配；将成功匹配的审核结果所对应的测试问题视为有效测试问题并纳入内容安全测试集。通过提示框架策略与内容审核模型的高效结合，实现测试问题的的自动化或半自动化构建，从而显著提升内容安全测试集的构建效率，并有效减轻测试问题创作者的工作负担与心理压力。大幅度缩短了测试问题的生成与筛选周期，降低了人力成本与时间成本，确保了测试问题的多样性与全面性。

公开(公告)号：CN119004488A

公开(公告)日：2024-11-22

申请号：CN202411463942.3

申请日：2024-10-21

Applicant: 烟台中科网络技术研究所

Inventor： 王海洋 ,  初杰 ,  隋明爽 ,  李进 ,  周启荣 ,  董一凡 ,  王慎强 ,  于辉 ,  赵珍

IPC: G06F21/57 ,  G06F21/60 ,  G06F16/2458 ,  G06F16/25

Abstract: 本申请公开了一种移动应用的安全风险评估方法及系统，涉及安全风险评估领域，其包括数据获取模块、访问数据分析模块一、访问数据分析模块二和综合安全风险分析评估模块，通过对目标移动应用的应用数据的访问数据进行获取并结合各类应用数据的数据安全等级进行综合分析，有效的提高了对目标移动应用自身数据安全评估的准确性，通过分析目标移动应用对目标移动设备的基础数据访问信息进行有效评估，并结合目标移动应用自身数据安全评估结果进行综合评估，有效提高了对目标移动应用安全风险的全面性和准确性。