04-Elasticsearch 在日志系统的应用 石樊 深圳 20250727

内容概要：本文详细介绍了富途网络科技有限公司在其日志系统中应用Elasticsearch（ES）的经验，涵盖日志系统的架构、遇到的问题及其解决方案，以及引入ES serverless的原因和效果。富途的日志系统包括SDK、公共组件、Nginx及第三方日志的采集，支持JSON、行采集、分隔符采集等多种格式，确保日志的结构化和字段一致性。针对日志流量波动导致的ES稳定性问题，采用kafka弹性流量、logstash容器自动扩缩容、ES serverless等措施，解决了写入延迟和索引滚动时的短暂写入阻塞。此外，还解决了日志写入时的类型冲突问题，并通过引入ES serverless降低了运维复杂度和成本。未来，富途计划利用ES的文本分类聚合功能，支持日志聚类和AI分析。 适用人群：从事日志系统开发、运维的技术人员，尤其是对Elasticsearch有需求或正在使用的企业IT团队。 使用场景及目标：①解决日志系统中常见的流量波动、类型冲突等问题；②优化日志系统的性能和成本；③探索日志系统的未来发展，如日志聚类和AI分析。 其他说明：本文不仅提供了技术实现的具体方法，还分享了