1应用中间件
1.1消息中间件
1.1.1Kafka
1.1.2ActiveMQ
1.1.3RabbitMQ
1.2缓存中间件
1.2.1分布式缓存Redis
1.4分布式任务调度
2大数据组件
2.1数据同步
2.1.1CDC接入(OGG)
2.1.2接口同步
2.1.3基于时间戳批量同步(DXETL)
2.1.4文件同步(Flume)
2.1.5消息队列接入(Kafka)
2.2数据存储
2.2.1对象存储(百度对象存储)
2.2.2时序数据库(PowerTSDB)
2.2.3图数据库(百度图数据库)
2.2.4MPP数据仓库(GreenPlum)
2.2.5NoSQL数据库(HBase)
2.2.6MySQL
2.2.7PostgreSQL
2.2.8分布式数据库
2.2.9MongoDB
2.3数据计算
2.3.1全文检索(Elasticsearch)
2.3.2批量计算(MapReduce,Spark,Hive)
2.3.3流式计算(SparkStreaming,Flink)
2.3.4异构融合计算(Presto,Spark)
2.3.5内存计算(Impala, Spark)
2.4工具服务
2.4.1数据模型工具
2.4.2标签管理工具
2.4.3自助分析(Tablau)
2.4.4报表统计(报表中心)
2.4.5数据开发(数据工厂)
2.4.6数据挖掘
2.4.7数据服务引擎(服务引擎)