-
公开(公告)号:CN114358284B
公开(公告)日:2024-12-31
申请号:CN202210031259.7
申请日:2022-01-12
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06N3/0895 , G06F18/214
Abstract: 本发明提出了一种基于类别信息对神经网络分步训练的方法、装置及存储介质,该方法包括:获取步骤,获取所述神经网络的初始权重数据,并将所述初始权重数据存储在一指定存储区中;选择步骤,从待训练的N个类别训练样本集合中选择n个未标记类别样本集合;训练步骤,使用所述选择n个未标记类别样本集合对所述神经网络进行迭代计算得到训练后的神经网络;更新步骤,将训练后神经网络模型的权重数据更新所述指定存储区中的初始权重数据;本发明中,从N个类别中选择n个类别未标记样本集合标记后进行神经网络的训练,在训练过程中充分利用样本的类别信息,提高了神经网络的训练精度,提高了更新效率,保证了神经网络的训练速度。
-
公开(公告)号:CN117311929A
公开(公告)日:2023-12-29
申请号:CN202311124015.4
申请日:2023-09-01
Applicant: 厦门市美亚柏科信息股份有限公司
Abstract: 公开了一种异构数据源采集方法和系统,包括主线程、一级线程和二级线程,其中,所述主线程包括:主线程池管理模块、主线程中断控制模块、时间片轮转控制模块、分组扫描模块,所述一级线程包括:一级线程池管理模块、一级线程中断响应模块、分组数据块扫描模块,所述二级线程包括二级线程中断处理模块、数据采集模块。本申请在系统资源有限的各数据源节点服务器上,结合时间片轮转方式,采用动态多级线程池公平调度的方法,对本地异构数据源的采集任务进行动态管理,合理分配系统时间片和线程资源,使得各类数据源在任务和数据等层面均得到相对公平的调度和处理。
-
公开(公告)号:CN116860847A
公开(公告)日:2023-10-10
申请号:CN202310776959.3
申请日:2023-06-28
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/25 , G06F16/21 , G06F16/958 , G06F16/957 , G06F16/29
Abstract: 本发明提出了一种面向多源异构数据源的统一健康检测方法及其系统,包括:响应于第三方应用发起的数据源请求,所述请求调用数据源检测控制层接口;所述数据源检测控制层接口接收到该检测信息请求后,调用数据源管理服务类接口;根据预设的校验规则对传参进行校验后,进行核心交互流程;最后将核心交互检测返回的数据源检测结果Map返回给所述数据源管理服务类接口,再返回给所述数据源检测控制层接口,最终返回第三方应用。本方法在近年智慧城市等省级实战建模工作中多次得到验证,在实际建模过程中通过调用面向多源异构数据源的统一健康检测接口能够快速响应多源的连接测试检测任务请求,为解决多源数据库的连接检测问题起到缩时增效的作用。
-
公开(公告)号:CN115934286A
公开(公告)日:2023-04-07
申请号:CN202211667536.X
申请日:2022-12-23
Applicant: 厦门市美亚柏科信息股份有限公司
Abstract: 公开了用于轻客户端的Spark作业提交方法和系统,包括动态代理接收到前端用户发送的作业处理请求,选择第一后端服务处理请求;第一后端服务将请求写入消息队列,通知前端用户请求提交成功进入调度队列等待处理;集群中空闲的第二后端服务从消息队列中获取请求,第二后端服务利用Spark驱动进程调用集执行器对请求进行调度执行,定时将处理进度、结果和采样数据写入NoSQL数据库;前端用户接收到请求提交成功信息后向动态代理发送获取实时进度和处理结果的请求,动态代理根据请求信息,选择第三后端服务处理,从数据库中获取实时进度和处理结果返回前端用户。本申请能够减轻边缘节点服务器的资源使用负担,降低故障发生频率,高效地实现轻客户端的交互效果。
-
公开(公告)号:CN113626558B
公开(公告)日:2022-10-25
申请号:CN202110767556.3
申请日:2021-07-07
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/33 , G06F16/9535 , G06F40/289 , G06F40/30
Abstract: 本发明给出了一种基于智能推荐的字段标准化的方法和系统,包括将原始数据入库,抽取部分原始数据作为内容分析集合,动态映像抽取原始数据相应的字段到数据目录表中,形成待分析的字段集合;利用字段的属性特征获取原始数据的字段的真实表征,对字段集合进行标准化处理以获取包括推荐数据元和限定词的标准化字段集合;调用特征校验引擎识别内容分析集合获取数据特征的结果集合,保存与结果集合的数据吻合的标准化字段集合。该方法和系统可以自动分析出字段属性和内容特征,智能推荐字段的标准化处理方案,大大提升原始数据解析入库的效率。
-
公开(公告)号:CN114358284A
公开(公告)日:2022-04-15
申请号:CN202210031259.7
申请日:2022-01-12
Applicant: 厦门市美亚柏科信息股份有限公司
Abstract: 本发明提出了一种基于类别信息对神经网络分步训练的方法、装置及存储介质,该方法包括:获取步骤,获取所述神经网络的初始权重数据,并将所述初始权重数据存储在一指定存储区中;选择步骤,从待训练的N个类别训练样本集合中选择n个未标记类别样本集合;训练步骤,使用所述选择n个未标记类别样本集合对所述神经网络进行迭代计算得到训练后的神经网络;更新步骤,将训练后神经网络模型的权重数据更新所述指定存储区中的初始权重数据;本发明中,从N个类别中选择n个类别未标记样本集合标记后进行神经网络的训练,在训练过程中充分利用样本的类别信息,提高了神经网络的训练精度,提高了更新效率,保证了神经网络的训练速度。
-
公开(公告)号:CN113936302A
公开(公告)日:2022-01-14
申请号:CN202111295755.5
申请日:2021-11-03
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06V40/10 , G06V10/774 , G06V10/764 , G06V10/762 , G06K9/62
Abstract: 本发明公开一种行人重识别模型的训练方法、装置、计算设备及存储介质,该方法包括:获取第一行人重识别训练数据集所述第一行人重识别训练数据集输入预设的行人重识别模型进行处理,并基于处理结果得到第一损失函数所述第一行人重识别训练数据集进行处理得到第二行人重识别训练数据集所述第二行人重识别训练数据集输入远程监督网络进行处理,并根据处理结果得到第二损失函数;所述第一损失函数和第二损失函数所述预设的行人重识别模型,得到目标行人重识别模型。根据本发明实施例通过增加监督网络提供监督信息来实现不增加识别网络复杂度的前提下,扩充训练样本数量的同时也有效提升了行人重识别网络的识别性能。
-
公开(公告)号:CN112380097A
公开(公告)日:2021-02-19
申请号:CN202011294501.7
申请日:2020-11-18
Applicant: 厦门市美亚柏科信息股份有限公司
Abstract: 本发明涉及一种基于Prometheus自定义监控指标的方法,其特征在于,包括以下步骤:在Prometheus Server上配置prometheus.yml文件,将目标节点加入到prometheus的采集任务中;在目标节点上启动node_exporter,并设置两个参数:‑‑web.listen‑address="ip:端口号",用于暴露一个http端口;‑‑collector.textfile.directory="目录路径",用于设置要采集的文本数据的目录;采用脚本语言生成数据文件xxx.prom并存储在该目录下。本发明能够快速完成自定义监控指标的开发,降低了服务器运维成本。
-
公开(公告)号:CN110188113A
公开(公告)日:2019-08-30
申请号:CN201910383393.1
申请日:2019-05-09
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/242 , G06F16/2455 , G06F16/33 , G06F16/332
Abstract: 本发明公开了一种利用复杂表达式进行数据比对的方法,包括以下步骤:S1:获取包括结构化数据和非结构化数据的基础数据;S2:选择结构化数据和非结构化数据中的数据作为子表达式,并通过逻辑运算符构造成复杂表达式,其中子表达式包括取自结构化数据的第一子表达式以及取自非结构化数据的第二子表达式,第一子表达式被用于精确匹配,第二子表达式被用于关键词匹配;S3:将子表达式分别进行比对获得比对情况;以及S4:根据比对情况通过表达式引擎对复杂表达式进行计算,得到数据的比对结果。在数据种类繁多、格式多样化的情况下实现复杂表达式实时、快速比对。既可以做到精确匹配,也可以非结构化的关键词匹配,为将来应用提供更精确有效的信息。
-
公开(公告)号:CN110162571A
公开(公告)日:2019-08-23
申请号:CN201910346104.0
申请日:2019-04-26
Applicant: 厦门市美亚柏科信息股份有限公司
Abstract: 本发明提供了一种异构数据库之间数据同步的系统、方法、存储介质,应用于在异构数据库之间数据同步过程,所述系统包括采集插件单元、写入插件单元和数据处理中心,多个数据库通过采集插件单元和写入插件单元与所述数据处理中心以星型方式相连接,数据处理中心包括多个同步执行节点,多个同步执行节点以分布式执行的方式进行数据同步,采用适配器适配各种异构数据库的采集和写入,采用统一的中间数据格式传输,简化了不同源端和目标端的连接,提高了数据的采集效率,具有很强的扩展性,采用统一的同步任务控制器实现同步任务的接收、分配、接收以及负载均衡,通过多通道的方式并行执行数据同步的操作,以进一步提高执行效率。
-
-
-
-
-
-
-
-
-