-
公开(公告)号:CN117312358A
公开(公告)日:2023-12-29
申请号:CN202311124132.0
申请日:2023-09-01
Applicant: 厦门市美亚柏科信息股份有限公司
Abstract: 本申请提供一种基于动态封装的用户自定义函数实现方法及系统,通过动态加载用户业务类,并将类中指定业务实现方法的调用过程封装在Scala Function类中,构建出一个通用的Spark UDF供用户提交Spark SQL时使用,使得用户可以根据自己的开发规范和语法结构进行常规业务开发,而不需要受到SparkUDF编写规则和语法约束的限制,减少用户的学习和开发成本,同时解除业务代码与Spark框架的绑定,使得业务代码能够很容易的集成到其他组件中,提高业务代码的可复用性。
-
公开(公告)号:CN115994027A
公开(公告)日:2023-04-21
申请号:CN202211407258.4
申请日:2022-11-10
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F9/50
Abstract: 本发明提出了一种计算资源动态调度的方法,该方法包括如下步骤:响应于资源分配和动态调节的两种算法,实现对每个任务的特性的自动分析,以及对资源调度引擎的自动匹配;底层的组件层响应于下达的资源调整指令并执行。通过优化不同引擎特征,结合任务规则库,以计算机程序自动构建了精细化的资源分配体系,进而形成针对不同类型任务的资源调度方案,满足各业务场景下的计算资源动态调度需求,解决大数据时代下,困扰已久的业务模型运行稳定性差的问题,实现了多任务融合调度模式,实时动态地调度各业务场景下的业务模型的运行资源需求,大大提高业务模型的运行稳定性,提高大数据对业务赋能的覆盖范围,而且降低大数据项目的建设成本。
-
公开(公告)号:CN109933587B
公开(公告)日:2023-04-11
申请号:CN201910142948.3
申请日:2019-02-26
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/22 , G06F16/2453
Abstract: 本发明提供了一种基于目录注册的数据处理方法、装置、系统及存储介质,所述方法包括:获取原始数据;基于预定的目录注册规则和所述原始数据进行目录注册得到所述原始数据的数据目录;基于所述数据目录和预定的数据存储规则对所述原始数据进行统一存储。根据本发明的方法、装置、系统及存储介质,通过注册目录的方式使得数据规范化,去除差异化,实现灵活高效的数据汇集接入能力,以及便捷的数据管理能力,提供个性化查询能力。
-
公开(公告)号:CN110826497B
公开(公告)日:2022-12-02
申请号:CN201911083394.0
申请日:2019-11-07
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06V20/40
Abstract: 本发明公开了一种基于最小距离法的车辆排重方法和装置,通过获取视频中的帧图像,通过目标检测算法对每张帧图像进行车辆检测得到包含有完整车辆的矩形框的车辆图像;通过目标跟踪算法生成车辆图像中的车辆ID,并获得车辆ID对应的车辆在帧图像中的车辆图像集合;分别计算车辆图像集合中的每张车辆图像的矩形框的距离指数,并将计算得到的最小距离指数所对应的车辆图像标记为车辆排重图像。本申请的实施例提出的车辆排重方法和装置能够有效减少重复的车辆数据,减少车辆信息提取后端负载,大大提升系统性能。
-
公开(公告)号:CN113093999B
公开(公告)日:2022-11-18
申请号:CN202110495949.3
申请日:2021-05-07
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F3/06
Abstract: 本发明给出了一种基于自适应锁的缓存淘汰方法和系统,包括扫描缓存,获取缓存数据的信息;响应于缓存数据被访问,延长所述缓存数据的缓存过期时间,否则,缩减所述缓存过期时间;删除缓存过期时间小于预设缓存过期时间的缓存数据。该方法和系统可以运用于目前主流的缓存设备和缓存数据库的数据淘汰策略,甚至也可以用在一个内存的置换策略上,可以及时的释放缓存空间,提高系统的缓存的可用性,降低缓存雪崩和击穿现象的出现的概率,能够有效的避免错删和误续命的操作。
-
公开(公告)号:CN115017127A
公开(公告)日:2022-09-06
申请号:CN202210573285.2
申请日:2022-05-25
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/18 , G06F16/215 , G06F16/23 , G06F16/29
Abstract: 本发明提供了一种自动巡检采集设备的方法、装置及存储介质,该方法包括:S1,获取各采集设备的采集日志数据;S2,对采集日志数据进行对象归一化处理和地址归一化处理,获得各区域的区域分析信息;S3,分析各区域的区域分析信息,根据各区域的区域分析信息中关联对象信息是否一致来确定异常记录,并在异常记录连续出现的天数达到预定阈值时,确定异常记录对应的采集设备出现异常。利用上述技术方案,可以实现在全域范围的采集设备的巡检工作,且并通过对采集数据中关联对象的一致性分析可以实现对采集设备是否存在异常进行自动判断。
-
公开(公告)号:CN111026740B
公开(公告)日:2022-07-12
申请号:CN201911217339.6
申请日:2019-12-03
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/215 , G06F16/2455 , G06F16/2458
Abstract: 本发明提供了基于数据指纹的数据对账方法,包括如下步骤:步骤一:数据提供方提供不同业务场景下的数据流,为所述数据流自动匹配数据指纹计算引擎;步骤二:结合数据特征动态自适应调整算法,动态获取接入数据流中的关键属性极其变化,并根据所述关键属性生成数据流的数据指纹;步骤三:根据数据指纹,通过传输节点溯源算法遍历数据提供方和数据接入方的中间节点,将异常对账结果提供给数据提供方和数据接入方。
-
公开(公告)号:CN114297236A
公开(公告)日:2022-04-08
申请号:CN202111449843.6
申请日:2021-11-30
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06F16/2455 , G06F16/2458 , G06F21/60 , G06F16/22
Abstract: 本发明涉及一种数据血缘分析方法、终端设备及存储介质,该方法中包括:S1:提取数据的流转流程中经过的所有数据表,并基于数据表级别、数据项级别和数据行级别三个分析维度分别设定在各数据表中的唯一标识;S2:根据数据的流转流程中各数据的上下游唯一标识,构建表征数据流转流程的映射表;S3:根据待分析数据对应的分析维度,从映射表中查找待分析数据在该分析维度下对应的上下游唯一标识,基于提取的上下游唯一标识构建表征待分析数据在该分析维度下的数据流转流程的有向图。本发明实现了数据表、数据项、数据行三种维度的数据溯源,细化了数据溯源的颗粒度,能够追踪数据处理流程,为快速定位问题节点、查询变更数据点提供便利。
-
公开(公告)号:CN111080463A
公开(公告)日:2020-04-28
申请号:CN201911285935.8
申请日:2019-12-13
Applicant: 厦门市美亚柏科信息股份有限公司
IPC: G06Q50/00 , G06F40/30 , G06F16/906
Abstract: 本发明提供了一种关键通讯节点识别方法、装置及存储介质,该方法包括:基于通讯的内容从群通讯人员中确定需要重点关注的人员作为重点通讯节点;对群通讯人员中除重点通讯人员之外的人员进行共同通讯判断,如果具有共同通讯特征,则将具有共同通讯特征的节点作为共同通讯节点;将重点通讯节点和共同通讯节点进行合并组成核心人员集合;基于人员在群中的身份类型、活跃度、发言内容及加入群数确定核心人员集合中的人是否为关键通讯节点,如果是,则将该人标记关键通讯节点的标签。本发明对所有通讯节点进行逐级递进式的分析,进而自动发现处于塔尖的关键通讯节点,其发现关键通讯节点的效率高。
-
公开(公告)号:CN117076558A
公开(公告)日:2023-11-17
申请号:CN202310875305.6
申请日:2023-07-17
Applicant: 厦门市美亚柏科信息股份有限公司
Abstract: 本发明提出了一种基于多计算引擎的海量数据在线分析方法及其系统,包括:响应于第三方应用发起的作业请求,并将所述作业请求提交到web端在线引擎作业队列;引擎作业提交执行器EJSR轮询会话计算引擎作业队列,并取出作业信息JCI提交给会话计算引擎WebActor;启动会话计算引擎WebActor,接收到所述作业信息后,将作业执行条件JEC发布到远程消息队列MQT,Web服务启动后自动启动会话计算引擎Actor,并订阅远程消息队列主题MQT;同时启动作业执行器JER,所述作业执行器JER不断轮询作业队列,作业执行者JERA调用具体引擎进行处理。通过调用基于多计算引擎的海量数据在线分析接口不仅可以提高数据的处理效率、计算的可靠性,还可以提高系统的灵活性和可扩展性,也有利于降低系统维护成本。
-
-
-
-
-
-
-
-
-