-
公开(公告)号:CN116719616A
公开(公告)日:2023-09-08
申请号:CN202310332545.1
申请日:2023-03-31
Applicant: 厦门市美亚柏科信息股份有限公司
Abstract: 本申请涉及一种实时计算spark任务进程的方法、装置及存储介质,该方法从全局任务发起时开始监控,通过对正在执行的任务事件监听器进行优化,实时预测每个Job任务的用时,并在预测的基础上实时更新每个Job下的每个Task的具体用时,将Job的用时转化成百分比存储到分布式文件存储数据库进度表中,且每10s更新一下执行进度的百分比状态,前端通过调用分布式文件存储数据库表中的任务进度状态,实时展现任务的最新进度百分比,这将有利于对该任务整体计算进程的掌控,从而及时的做出相应的优化。
-
公开(公告)号:CN113936302B
公开(公告)日:2023-04-07
申请号:CN202111295755.5
申请日:2021-11-03
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06V40/10 , G06V10/774 , G06V10/762
Abstract: 本发明公开一种行人重识别模型的训练方法、装置、计算设备及存储介质,该方法包括:获取第一行人重识别训练数据集所述第一行人重识别训练数据集输入预设的行人重识别模型进行处理,并基于处理结果得到第一损失函数所述第一行人重识别训练数据集进行处理得到第二行人重识别训练数据集所述第二行人重识别训练数据集输入远程监督网络进行处理,并根据处理结果得到第二损失函数;所述第一损失函数和第二损失函数所述预设的行人重识别模型,得到目标行人重识别模型。根据本发明实施例通过增加监督网络提供监督信息来实现不增加识别网络复杂度的前提下,扩充训练样本数量的同时也有效提升了行人重识别网络的识别性能。
-
公开(公告)号:CN115470212A
公开(公告)日:2022-12-13
申请号:CN202211122878.3
申请日:2022-09-15
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/22 , G06F16/2455 , G06F16/2458
Abstract: 本申请涉及一种基于分布式内存数据库的数据抽样方法,其将分布式内存数据库当做过滤容器,数据过滤规则为过滤条件。过滤容器属性包括分布式集群服务器、数据缓存大小、数据缓存策略。过滤条件包括基于规则按MD5算法计算出128位HASH值、基于HASH值构建数据存储内存数据库组织规则,从而在大数据海量数据面前实现快速并准确的根据自定义规则抽取数据。其能够满足PB设置各大量级别的数据抽样效果,并能够满足在业务使用过程中不影响业务的效率短时间内得到需要的抽样结果数据效果。在各种行业中经过海量数据的抽样分析能够快速掌握态势,并提前做出各种预警和判断,能够为生活生产,事情发展,灾难预测等各个领域实战中具有重大意义。
-
公开(公告)号:CN115017176A
公开(公告)日:2022-09-06
申请号:CN202210573359.2
申请日:2022-05-25
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/242 , G06F16/248 , G06F16/27
Abstract: 本发明涉及一种多节点数据检索方法、装置及存储介质。其中方法包括:对获取到的检索任务进行归一化处理后,通过预设调度缓存区对各个资源节点进行检索资源以及检索任务的调度,获取当前业务场景关联的资源节点相应的检索引擎,通过调整方案以及检索引擎,得到业务场景的检索结果,对检索结果进行去重以及排序处理,将经过去重及排序后的各个资源节点的检索结果进行融合,得到当前的业务场景的返回结果集。本发明满足了大数据业务分析需求,解决困扰已久的多节点海量数据检索的结果展示不准确、检索效率低下的问题,提高复杂业务场景下的多节点数据检索的效率和准确性。
-
公开(公告)号:CN113626385B
公开(公告)日:2022-07-15
申请号:CN202110767562.9
申请日:2021-07-07
Applicant: 厦门市美亚柏科信息股份有限公司
Abstract: 本发明给出了一种基于文本数据读取的方法和系统,包括分析过滤重复文件并将关联的文件合并归类至对应数据集合Fn中;比对待提取文本文件中属性集合与属性列表以根据其相似程度赋值处理引擎,并形成文件的属性分析结果集合;响应于属性分析结果集合与待提取文本文件中的内容分析集合的匹配度超过第一阈值,利用属性对应的特处理引擎提取文本数据。该方法和系统可以自动适配已知特征和未知特征的文本文件数据,调取相应的数据提取引擎,实现文本文件类型原始数据的自动识别和解析入库,提高文本文件的提取效率和准确性,提升大数据分析能力。
-
公开(公告)号:CN114529946A
公开(公告)日:2022-05-24
申请号:CN202210168277.X
申请日:2022-02-23
Applicant: 厦门市美亚柏科信息股份有限公司
Abstract: 本发明公开提供一种基于自监督学习的行人重识别方法、装置、设备及存储介质,方法包括:将训练数据集与该训练数据集经过数据增强后分别采用相同的神经网络进行特征提取,得到第一特征向量和第二特征向量,并计算第一特征向量和第二特征向量之间的第一损失函数,再结合模型自身训练时的第二损失函数计算训练过程中的整体损失函数,以整体损失函数最小化为目标训练得到行人重识别模型。根据本发明,使行人重识别模型可以学习图像本身固有先验规律,从而提高行人重识别的精确度。
-
公开(公告)号:CN110188113B
公开(公告)日:2022-05-13
申请号:CN201910383393.1
申请日:2019-05-09
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/242 , G06F16/2455 , G06F16/33 , G06F16/332
Abstract: 本发明公开了一种利用复杂表达式进行数据比对的方法,包括以下步骤:S1:获取包括结构化数据和非结构化数据的基础数据;S2:选择结构化数据和非结构化数据中的数据作为子表达式,并通过逻辑运算符构造成复杂表达式,其中子表达式包括取自结构化数据的第一子表达式以及取自非结构化数据的第二子表达式,第一子表达式被用于精确匹配,第二子表达式被用于关键词匹配;S3:将子表达式分别进行比对获得比对情况;以及S4:根据比对情况通过表达式引擎对复杂表达式进行计算,得到数据的比对结果。在数据种类繁多、格式多样化的情况下实现复杂表达式实时、快速比对。既可以做到精确匹配,也可以非结构化的关键词匹配,为将来应用提供更精确有效的信息。
-
公开(公告)号:CN113762362A
公开(公告)日:2021-12-07
申请号:CN202110964859.4
申请日:2021-08-19
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06K9/62
Abstract: 本公开提供一种基于不确定估计的样本相似度计算方法,包括:获取第一待比较样本和第二待比较样本,其中,所述第一待比较样本的不确定性分数为a1,所述第二待比较样本的不确定性分数为a2;将不确定分数a1、a2,与不确定性分数阈值t1、t2进行比较;根据比较结果,获得最终相似度分数,来提高相似度分数的可信度。
-
公开(公告)号:CN112052280A
公开(公告)日:2020-12-08
申请号:CN202010948857.1
申请日:2020-09-10
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/2458 , G06F16/22 , G06F16/9537 , G06F16/9536 , G06Q50/26
Abstract: 本发明给出了一种基于时空数据的实有人口分析方法及系统,包括基于对象归一算法将时空轨迹数据中大量的拥有共同的主体对象的数据压缩成一条数据记录,再利用场所聚合算法将时空轨迹数据中同一个主体对象的多个相近的位置聚合成同一个位置,从而形成一个对象时空库;基于人员停留类型对对象时空库进行过滤,提取出其中的居住人员和路过人员,分别保存为居住人员集合和路过人员集合,并每天对居住人员集合进行更新并保存,统计每天计算得到的居住人员集合构成当地的实有人口库。相比于传统的实有人口分析方法,本发明极大地减小了数据的规模,提高了针对海量时空数据的分析效率和准确率,实现了对当地实有人口的更加准确且及时的自动分析。
-
公开(公告)号:CN111104541A
公开(公告)日:2020-05-05
申请号:CN201911411087.0
申请日:2019-12-31
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/583 , G06F16/58 , G06K9/00 , G06K9/62
Abstract: 本发明涉及高效的人脸图片检索方法及装置。其中的方法包括:创建人脸比对样本数据表;在接收到新的人脸图片后,用新接收人脸图片特征向量与人脸比对样本数据表中的每个人的平均特征向量进行比对并计算相似度;如果新接收的人脸图片与数据表中已有人员的人脸图片的相似度达到该阈值则认为与已有人员是同一个人,将新接收人脸图片标记为该已有人员的唯一编号,更新该编号的平均特征向量,如果所述相似度达不到该阈值则分配一个新的唯一编号,并将新接收的人脸图片特征向量作为该编号的平均特征向量,存入人脸比对样本数据表,再将图片和编号存入人脸抓拍记录表。其中的装置包括存储器和处理器,该处理器在执行储存在存储器的指令时实施所述方法。
-
-
-
-
-
-
-
-
-