博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Logstash安装教程
阅读量:4094 次
发布时间:2019-05-25

本文共 2374 字,大约阅读时间需要 7 分钟。

安装

  1. 官网下载压缩包
    https://www.elastic.co/cn/products/elasticsearch
  2. 解压
tar -xzf logstash-7.5.1.tar.gz
  1. 新建logstash.conf文件,用于配置输入、过滤规则、输出信息
[root@m5315392269-5 logstash]# cd logstash-7.5.1/[root@m5315392269-5 logstash-7.5.1]# touch logstash.conf#logstash.conf文件中的内容input {  beats {    type => "log"    port => "5044" #开始本机的5044端口,监听  }}filter{  mutate{    split=>["message","|"]      add_field => {        "log_date" => "%{[message][0]}"      }      add_field => {        "log_level" => "%{[message][1]}"      }      add_field => {        "log_thread" => "%{[message][2]}"      }      add_field => {        "log_class" => "%{[message][3]}"      }      add_field => {        "log_content" => "%{[message][4]}"      }      remove_field => ["message"]  }}output {  stdout { codec => rubydebug }  elasticsearch {    hosts => ["10.237.79.147:9200"]    index => "%{type}-%{+YYYY.MM.dd}"  }}
  1. 启动logstash
[root@m5315392269-5 logstash-7.5.1]# ./bin/logstash -f logstash.conf

Logstash配置文件介绍

  1. 设置输入

  2. 设置过滤规则

    add_field:在事件中加入一个filed
    tags:添加一个任意的数字作为当前事件的标签,这个标签对我们后续的工作会有帮助
    参考教程链接:

    mutate过滤器:

    mutate插件用于集成至Logstash上过滤日志数据,即在数据写入ES前进行数据清洗和数据格式化。
    split函数(mutate中常用函数):将包含特定分隔符的字符串拆分成数组
    参考教程链接:

  3. 设置输出

遇到问题

(1)LogStash 错误:Logstash could not be started because there is already another instance usin

Sending Logstash logs to /usr/local/logstash/logstash-6.5.0/logs which is now configured via log4j2.properties[2018-11-20T12:23:45,931][WARN ][logstash.config.source.multilocal] Ignoring the 'pipelines.yml' file because modules or command line options are specified[2018-11-20T12:23:46,088][FATAL][logstash.runner          ] Logstash could not be started because there is already another instance using the configured data directory.  If you wish to run multiple instances, you must change the "path.data" setting.[2018-11-20T12:23:46,130][ERROR][org.logstash.Logstash    ] java.lang.IllegalStateException: Logstash stopped processing because of an error: (SystemExit) exit

原因及解决办法

之前运行的instance有缓冲,保存在path.data里面有.lock文件(path默认指logstash解压后的目录),删除掉即可。

data$ ls -alh总用量 20Kdrwxr-sr-x  4 tingshuo staff 4.0K 11月 20 11:42 .drwxr-sr-x 14 tingshuo staff 4.0K 11月 20 11:42 ..drwxr-sr-x  2 tingshuo staff 4.0K 11月 20 11:42 dead_letter_queue-rw-r--r--  1 tingshuo staff    0 11月 20 11:42 .lockdrwxr-sr-x  2 tingshuo staff 4.0K 11月 20 11:42 queue-rw-r--r--  1 tingshuo staff   36 11月 20 11:42 uuid#删除并重新启动rm -rf .lock

转载地址:http://smtii.baihongyu.com/

你可能感兴趣的文章
CSS——CSS创建样式表
查看>>
CSS——背景
查看>>
C++——如何理解.h文件和.cpp文件
查看>>
C++——析构函数为什么要为虚函数
查看>>
HTTP——简介
查看>>
ShellSort 希尔排序
查看>>
HeapSort 堆排序
查看>>
QuickSort 快速排序
查看>>
《剑指Offer》替换空格
查看>>
C++—— cin输入流详解
查看>>
《剑指Offer》从尾到头打印链表
查看>>
《剑指Offer》用两个栈来实现队列
查看>>
《剑指Offer》斐波那契数列
查看>>
C++——内存分配方式详解
查看>>
C/C++——各种类型int、long、double、char表示范围(最大最小值)
查看>>
x86汇编语言——基本概念
查看>>
《C和指针》——将无符号整数转换为字符
查看>>
《C和指针》——stdarg宏简介
查看>>
《C和指针》——声明数组参数
查看>>
《C和指针》——数组的奇怪形式
查看>>