-
公开(公告)号:CN111163118B
公开(公告)日:2023-04-07
申请号:CN201811319985.9
申请日:2018-11-07
Applicant: 株式会社日立制作所
Inventor: 刘锋
IPC: H04L67/1001 , H04L67/51 , H04L43/0888 , H04L67/1008 , H04L41/0894
Abstract: 本发明实施例提供了一种Kafka集群中的消息传输方法及装置。本发明实施例在大尺寸消息的传输过程中,既能保证集群吞吐量不会大幅降低,还可以使得集群各节点负载更均衡,系统资源更加有效利用。另外,本发明实施例利用分区算法加速了大尺寸消息的还原速度,提高了处理响应时间;另外,偏移量保存在集群节点处,也保证了当订阅方系统崩溃恢复后可以无需再从最开始处重复消费消息,只需从当前消费位置开始处理消息,可以避免重复消费,同时也保证了数据一致性,也大大降低了时间成本。
-
公开(公告)号:CN110069489B
公开(公告)日:2023-01-31
申请号:CN201710967110.9
申请日:2017-10-17
Applicant: 株式会社日立制作所
Inventor: 刘锋
IPC: G06F16/22 , G06F16/242 , G06F16/245 , G06F16/25 , G06F16/28
Abstract: 本发明提供一种信息处理方法、装置、设备及计算机可读存储介质,涉及计算机技术领域,用以降低对具有相同表结构的表的解析的时间成本。本发明的信息处理方法,包括:获取MySQL服务器的连接信息以及待处理表的名称;根据MySQL服务器的连接信息以及待处理表的名称,确定是否存在与待处理表的表结构信息相同的目标表结构信息;若存在目标表结构信息,则直接将目标表结构信息作为待处理表的表结构信息;若不存在目标表结构信息,则解析待处理表的表结构信息,并存储待处理表的表结构信息;根据待处理表的表结构信息,分析结构化查询语言SQL文并查询数据。本发明可降低对具有相同表结构的表的解析的时间成本。
-
公开(公告)号:CN113157379A
公开(公告)日:2021-07-23
申请号:CN202010075772.7
申请日:2020-01-22
Applicant: 株式会社日立制作所
Inventor: 刘锋
Abstract: 本发明提供一种集群节点资源调度方法及装置,属于计算机技术领域。集群节点资源调度方法,用于调度集群中的物理节点创建容器集群以运行用户应用,包括:获取用户应用的参数,所述用户应用的参数包括以下至少一种:训练数据集、期望训练时长、应用类型、容器数目、集群中图形处理单元GPU型号和机器学习模型;获取集群中每个物理节点的资源使用信息;根据每个物理节点的资源使用信息和所述参数计算每个物理节点的分值,并根据每个物理节点的分值分配容器到各个物理节点,创建容器集群。本发明的技术方案能够提高集群资源的利用率。
-
公开(公告)号:CN119597749A
公开(公告)日:2025-03-11
申请号:CN202311159939.8
申请日:2023-09-08
Applicant: 株式会社日立制作所
Inventor: 刘锋
Abstract: 本申请提供了一种数据源的版本管理方法及装置,其中,所述方法包括:维护一个快照版本库,所述快照版本库用于记录所述至少两个数据源的表快照文件的相关信息,所述表快照文件为对应表的历史全数据快照文件;在需要获取指定表在指定历史时间的历史表数据的情况下,根据所述快照版本库中所述指定表的表快照文件的相关信息进行版本回溯。本申请通过预先维护表快照文件的快照版本库,从而能够基于快照版本库,高效、准确和快速的实现对指定版本和指定数据源的跟踪和回溯。另外,本申请还通过监视数据源日志对表的大小和表的更新频率进行分析并智能调整快照采集周期。
-
公开(公告)号:CN118734368A
公开(公告)日:2024-10-01
申请号:CN202310333547.2
申请日:2023-03-30
Applicant: 株式会社日立制作所
Inventor: 刘锋
Abstract: 本申请提供了一种可再生能源数据防篡改方法及系统。本申请实施例通过加密第三方数据,安全地传输和分析工厂的实际需求(功耗,绿色能量比例)以智能地调度生产线,将绿证与生产线相关联,并且实时地从智能电表收集每条生产线的功耗,生产线、智能电表和相关联的绿证数据被数字签名并上载到区块链。本申请实施例保证了敏感数据的高保密性和生产线的更合理分配,另外,还保证了工厂绿色能源利用的高可信度,更细粒度的电量管理也更有利于企业的降本增效。
-
公开(公告)号:CN115730674A
公开(公告)日:2023-03-03
申请号:CN202110984047.6
申请日:2021-08-25
Applicant: 株式会社日立制作所
Inventor: 刘锋
IPC: G06N20/00 , G06F9/48 , G06F9/38 , G06F18/214
Abstract: 本申请公开了一种流水线执行文件调度方法及装置,涉及机器学习技术领域,以减少流水线队列的等待时间。该方法包括:获取流水线队列中第一流水线执行文件的流水线文件执行指标,所述流水线队列中包括多个所述第一流水线执行文件;根据所述第一流水线执行文件对应的流水线文件执行指标以及所述第一流水线执行文件的文件类型,获得所述第一流水线执行文件的评分;按照多个第一流水线执行文件的评分从高到低的顺序,执行各个第一流水线执行文件。本申请实施例可以减少流水线队列的等待时间。
-
公开(公告)号:CN114153427B
公开(公告)日:2025-02-28
申请号:CN202010924298.0
申请日:2020-09-04
Applicant: 株式会社日立制作所
Inventor: 刘锋
IPC: G06F8/30 , G06F8/70 , G06Q10/04 , G06Q10/0631
Abstract: 本发明提供了一种持续集成流水线的优化方法及系统。本发明实施例还可以利用任务重要度评级算法区分流水线中的一般任务和重要任务,智能的监控和调配了流水线的任务执行顺序,在流水线再次启动时可以略过不必要的任务,直接从重要任务执行,在保证应用成功交付的同时也大大降低了持续集成流水线执行的时间成本,节约了系统资源,提高了流水线的执行效率。
-
公开(公告)号:CN117667953A
公开(公告)日:2024-03-08
申请号:CN202211028329.X
申请日:2022-08-25
Applicant: 株式会社日立制作所
Inventor: 刘锋
IPC: G06F16/23 , G06F16/2457
Abstract: 本申请提供一种元数据的采集方法及系统,属于数据采集和处理技术领域。所述方法包括:按照当前的采集周期,采集数据源的元数据;根据采集到的元数据,检测所述元数据是否发生变更;在所述元数据发生变更的情况下,获取所述元数据的周期调整指标,所述周期调整指标包括元数据的变更次数和每次变更发生的时间;根据所述元数据的周期调整指标,更新所述元数据的采集周期;按照更新后的采集周期,采集所述数据源的元数据。本申请能够根据元数据的变更情况以及查询次数等因素,动态调整元数据采集周期计划,提高了元数据的采集效率,并且,动态调整使得采集周期更加合理及时,从而能够为客户提供更加精确的元数据信息。
-
公开(公告)号:CN111163118A
公开(公告)日:2020-05-15
申请号:CN201811319985.9
申请日:2018-11-07
Applicant: 株式会社日立制作所
Inventor: 刘锋
Abstract: 本发明实施例提供了一种Kafka集群中的消息传输方法及装置。本发明实施例在大尺寸消息的传输过程中,既能保证集群吞吐量不会大幅降低,还可以使得集群各节点负载更均衡,系统资源更加有效利用。另外,本发明实施例利用分区算法加速了大尺寸消息的还原速度,提高了处理响应时间;另外,偏移量保存在集群节点处,也保证了当订阅方系统崩溃恢复后可以无需再从最开始处重复消费消息,只需从当前消费位置开始处理消息,可以避免重复消费,同时也保证了数据一致性,也大大降低了时间成本。
-
公开(公告)号:CN108572867A
公开(公告)日:2018-09-25
申请号:CN201710139966.7
申请日:2017-03-09
Applicant: 株式会社日立制作所
IPC: G06F9/50
CPC classification number: G06F9/5027 , G06F9/505 , G06F9/5083
Abstract: 根据本发明,提出了一种为应用部署分布式容器集群且执行该应用的方法,包括:根据该应用的处理平台、数据源、资源密集类型、以及所需的容器数量,为该应用建立镜像;反复执行以下容器部署过程,直到达到所需的容器数量为止,由此在物理节点上部署针对该应用的分布式容器集群:根据各物理节点的资源使用状况、该应用的所述资源密集类型、以及物理节点上已部署的容器数,计算各物理节点的用于容器部署的权重值,并选择用于容器部署的权重值最大的物理节点来部署容器;以及在所部署的所述分布式容器集群的各容器中,利用所述镜像启动该应用的所述处理平台并从所述数据源读取所需处理的数据,以执行该应用。
-
-
-
-
-
-
-
-
-