-
公开(公告)号:CN106257474A
公开(公告)日:2016-12-28
申请号:CN201610423036.X
申请日:2016-06-15
Applicant: 国际商业机器公司
IPC: G06F19/00
CPC classification number: G01N33/0075 , G06F19/00 , G06F2219/10
Abstract: 空气污染异常定位机制。提供一种用于检测空气污染异常的机制。识别多个空气污染监控站的每个的历史空气污染模式。对于多个空气污染监控站的每个,响应于从特定空气污染监控站接收到实时数据,对实时数据与和特定空气污染监控站相关的历史空气污染模式进行比较;基于实时数据与和特定空气污染监控站相关的历史空气污染模式的比较产生浓度差值;确定所述浓度差值是否大于预定的置信度阈值;对于相关的浓度差值大于预定的置信度阈值的多个空气污染监控站中的子集中的每一个,向管理员产生检测到的空气污染水平的异常指示。
-
公开(公告)号:CN105446896B
公开(公告)日:2018-05-04
申请号:CN201410438255.6
申请日:2014-08-29
Applicant: 国际商业机器公司
IPC: G06F17/30
CPC classification number: G06F12/0875 , G06F17/30132 , G06F17/30194
Abstract: 本发明涉及分布式文件系统,其公开了MapReduce应用的缓存管理方法和装置,该方法包括:接收需要迭代计算的MapReduce作业的Map任务的处理请求;获取所述Map任务的参数,所述Map任务的参数包括待处理的数据大小、每条数据记录的大小和同时工作的Mapper的数目;获取所述Map任务的缓存分片大小,其中所述Map任务的缓存分片大小是根据所述Map任务的参数和Map缓存分片大小的训练模型计算得到的;将待处理的数据按照所述缓存分片大小从所述分布式文件系统的存储介质读到缓存中用于Map任务处理;将Map任务处理的中间结果数据按照所述缓存分片大小写入所述缓存中用于后续的迭代计算。该方法能高效地缓存需要迭代计算的MapReduce作业的数据,提高内存缓存的利用率,减小处理延时。
-
公开(公告)号:CN105446896A
公开(公告)日:2016-03-30
申请号:CN201410438255.6
申请日:2014-08-29
Applicant: 国际商业机器公司
IPC: G06F12/08
CPC classification number: G06F12/0875 , G06F17/30132 , G06F17/30194
Abstract: 本发明涉及分布式文件系统,其公开了MapReduce应用的缓存管理方法和装置,该方法包括:接收需要迭代计算的MapReduce作业的Map任务的处理请求;获取所述Map任务的参数,所述Map任务的参数包括待处理的数据大小、每条数据记录的大小和同时工作的Mapper的数目;获取所述Map任务的缓存分片大小,其中所述Map任务的缓存分片大小是根据所述Map任务的参数和Map缓存分片大小的训练模型计算得到的;将待处理的数据按照所述缓存分片大小从所述分布式文件系统的存储介质读到缓存中用于Map任务处理;将Map任务处理的中间结果数据按照所述缓存分片大小写入所述缓存中用于后续的迭代计算。该方法能高效地缓存需要迭代计算的MapReduce作业的数据,提高内存缓存的利用率,减小处理延时。
-
公开(公告)号:CN106257474B
公开(公告)日:2019-05-10
申请号:CN201610423036.X
申请日:2016-06-15
Applicant: 国际商业机器公司
IPC: G01N15/06
Abstract: 空气污染异常定位机制。提供一种用于检测空气污染异常的机制。识别多个空气污染监控站的每个的历史空气污染模式。对于多个空气污染监控站的每个,响应于从特定空气污染监控站接收到实时数据,对实时数据与和特定空气污染监控站相关的历史空气污染模式进行比较;基于实时数据与和特定空气污染监控站相关的历史空气污染模式的比较产生浓度差值;确定所述浓度差值是否大于预定的置信度阈值;对于相关的浓度差值大于预定的置信度阈值的多个空气污染监控站中的子集中的每一个,向管理员产生检测到的空气污染水平的异常指示。
-
-
-