-
公开(公告)号:CN106570565A
公开(公告)日:2017-04-19
申请号:CN201611020935.1
申请日:2016-11-21
Applicant: 中国科学院计算机网络信息中心
IPC: G06N3/08
CPC classification number: G06N3/08
Abstract: 本发明提供一种面向大数据的深度学习方法及系统,该系统包括大数据引擎Spark、Protobuf工具、轻量级数据存储LMDB、Caffe深度学习Solver和MPI通信库;所述大数据引擎Spark将待处理数据进行数据处理;所述Protobuf工具将Spark处理后的数据序列化;所述轻量级数据存储LMDB将大数据引擎Spark和Caffe深度学习Solver以松散耦合的形式进行组织;所述Caffe深度学习Solver中每个节点的Caffe Solver通过LMDB访问该节点待训练的数据,并执行深度网络训练;所述MPI通信库聚合不同节点Caffe深度学习Solver的计算结果。
-
公开(公告)号:CN107071006A
公开(公告)日:2017-08-18
申请号:CN201710188074.6
申请日:2017-03-27
Applicant: 广州数字方舟信息技术股份有限公司 , 中国科学院计算机网络信息中心
Abstract: 本发明提供一种面向航道大数据的采集系统及采集方法,该系统包括:部署于航道周边的智能采集设备,所述智能采集设备用于采集数据;配置管理中心模块,用于配置智能采集设备的配置信息;处理中心模块,用于获取并更新所述配置信息,并根据所述配置信息对上述采集数据进行协议解析、转换和转发;下发指令中心模块,用于根据业务系统查询的智能采集设备的协议信息进行指令组装,并通过网络或短信方式将指令下发到上述智能采集设备;其中所述指令组装采用工厂模式实现;数据生命周期监控中心模块,用于对数据采集和下发指令的整个流程进行日志信息的采集,并利用大数据处理技术分析日志信息,以及对采集数据生命周期进行全面监控。
-
公开(公告)号:CN107145500A
公开(公告)日:2017-09-08
申请号:CN201710160266.6
申请日:2017-03-17
Applicant: 中国科学院计算机网络信息中心
IPC: G06F17/30
Abstract: 本发明提供一种基于Memcached的大数据缓存交互式查询方法,该方法基于Spark SQL提供的构建外部数据源的方式,结合Memcached缓存的内存读写特点,对特定应用场景下的大数据存储介质作了重新的定义。同时实现了大数据处理过程中中间计算结果在Memcached服务器中的缓存,通过Memcached良好的读写性能,结合Spark SQL强大的交互式查询分析能力,有效的提高了大数据缓存进行交互式查询的能力。
-
-