🎯 本专题内容#

本专题专注于 OpenSearch 生态中的日志采集方案,涵盖从采集工具选型、配置实践、ECS 标准化到数据流落地的完整流程。

📚 实战案例#

从零构建 Logstash 日志监控闭环:Fluent Bit 旁路采集与 ECS 规范化落地

通过 Fluent Bit 旁路采集 Logstash 自身日志,利用 OpenSearch Ingest Pipeline 对齐 ECS 规范,最终落地于 Data Stream 架构的完整实践。

🔑 核心知识点#

  • 采集架构设计:旁路采集 vs 代理采集、单向采集原则
  • Fluent Bit:Tail 输入、JSON 解析、Modify/Nest 过滤器、OpenSearch 输出
  • Logstash 配置:JSON 格式日志输出、慢日志配置
  • ECS 标准化:Elastic Common Schema 字段规范、Ingest Pipeline 字段重映射
  • Data Stream:数据流架构、Backing Index、自动匹配索引模板
  • ISM 生命周期:Hot/Warm/Cold/Delete 阶段管理、Rollover 策略

🛠️ 前置知识#

在学习本专题内容之前,建议了解:

  • Linux 系统管理基础(Ubuntu/CentOS)
  • JSON 数据结构与日志格式
  • OpenSearch 基础概念(索引、Pipeline、Data Stream)
  • 基本的命令行操作技能

🔗 相关链接#

Fluent Bit 官网Logstash 文档ECS 规范OpenSearch Data Stream