spark 写 ElasticSearch 提升性能解决方案

ES 官网提供了一套Spark写ES接口
参见 : https://www.elastic.co/guide/en/elasticsearch/hadoop/current/spark.html

在工作实践中使用 Spark Streaming 写 ES 发现性能太差了,经研究发现,这套接口基于es底层http的restful接口而实现,
我另辟蹊径,采用TCP通信方式,写ES,性能获得了极大提升。
经验分享给大家,
写ES 代码片段如下

resDF.foreachPartition { (iterRecords: Iterator[Row]) =>
          val settings = Settings.settingsBuilder.put("cluster.name", "myES").build
          val client = TransportClient.builder.settings(settings).build
          client.addTransportAddress(new InetSocketTransportAddress(InetAddress.getByName("10.200.8.187"), 9300))
          val bulkRequest = client.prepareBulk

          iterRecords.foreach((row: Row) => {

            val jsonMap = new  util.HashMap[String, String]
            index_field.foreach { case (index, 
评论 8
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

zhixingheyi_tian

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值