使用redis 的原因是當(dāng)多個(gè)clinet同時(shí)寫入到logstash或者elasticsearch 時(shí)候,有io瓶頸,所以選擇了redis ,當(dāng)然可以使用kafka,rabbitmq等消息中間件
redis3.2.3
安裝依賴
yum install -y gcc gcc-c++ pcre zlib pcre-devel tcl
解壓改名 cd 到目錄
編譯安裝測(cè)試
make && cd src &&make test
make install
創(chuàng)建配置
mkdir /etc/redis
cp /usr/local/redis/redis.conf /etc/redis/6379.conf
vim /etc/redis/6379.conf
監(jiān)聽(tīng)地址
bind 192.168.1.115
端口(有需要自行改動(dòng))
port 6379
去掉前邊#注釋,修改foobared為你想配置的任意密碼
requirepass foobared
日志地址
logfile “/var/log/redis.log”
啟動(dòng)腳本
vim /etc/init.d/redis
#chkconfig: 2345 90 10
#description: service of redis for start and stop add by tomener
PATH=/usr/local/bin:/sbin:/usr/bin:/bin
REDISPORT=6379
EXEC=/usr/local/redis/src/redis-server
REDIS_CLI=/usr/local/redis/src/redis-cli
PIDFILE=/var/run/redis_${REDISPORT}.pid
CONF=”/etc/redis/${REDISPORT}.conf”
case “$1” in
start)
if [ -f $PIDFILE ]
then
echo “$PIDFILE exists, process is already running or crashed.”
else
echo “Starting Redis server…”
$EXEC $CONF
fi
if [ “$?”=”0” ]
then
echo “Redis is running…”
fi
;;
stop)
if [ ! -f $PIDFILE ]
then
echo “$PIDFILE exists, process is not running.”
else
PID=$(cat $PIDFILE)
echo “Stopping…”
$REDIS_CLI -h $BIND_IP -a $AUTH -p $REDISPORT SHUTDOWN
sleep 2
while [ -x $PIDFILE ]
do
echo “Waiting for Redis to shutdown…”
sleep 1
done
echo “Redis stopped”
fi
;;
restart|force-reload)
${0} stop
${0} start
;;
*)
echo “Usage: /etc/init.d/redis {start|stop|restart|force-reload}” >&2
exit 1
esac
啟動(dòng)
chmod +x /etc/init.d/redis
/etc/init.d/redis start
logstash output輸出到redis然后再用logstash-server處理數(shù)據(jù)輸出到redis集群(理想中還可以加入kafka,rabbitmq等消息中間件這些太龐大了暫時(shí)不做)
到logstash-server目錄下
vim config/server-logst.conf
在input后面加入
redis {
host => localhost # redis主機(jī)地址
port => 6379 # redis端口號(hào)
data_type => “channel” # 使用發(fā)布/訂閱模式
key => “logstash_list_0” # 發(fā)布通道名稱
}
}
logstash輸出到ES參考 http://www.sfodin.cn/Linux/2020-01/162077.htm
可視化x-pack
安裝x-pack
x-pack是elasticsearch的一個(gè)擴(kuò)展包,將安全,警告,監(jiān)視,圖形和報(bào)告功能捆綁在一個(gè)易于安裝的軟件包中,雖然x-pack被設(shè)計(jì)為一個(gè)無(wú)縫的工作,但是你可以輕松的啟用或者關(guān)閉一些功能。
bin/elasticsearch-plugin install x-pack
bin/kibana-plugin install x-pack
安裝以后ELK傳輸需要驗(yàn)證用戶密碼
默認(rèn)一個(gè)超級(jí)用戶elastic ,其默認(rèn)的密碼是changeme
登陸測(cè)試發(fā)現(xiàn)現(xiàn)在es和kibana都需要用戶驗(yàn)證了
然后
vim /usr/local/elasticsearch/config/elasticsearch.yml
vim /usr/local/kibana/config/kibana.yml
#禁用插件先
xpack.security.enabled: false
測(cè)試不需要驗(yàn)證用戶
配置kibana具體設(shè)置
vim /usr/local/kibana/config/kibana.yml
server.basePath: “”
server.maxPayloadBytes: 1048576
elasticsearch.preserveHost: true
kibana.index: “.kibana”
elasticsearch.pingTimeout: 1500
elasticsearch.requestTimeout: 30000
elasticsearch.shardTimeout: 0
elasticsearch.startupTimeout: 5000
pid.file: /var/run/kibana.pid
logging.dest: stdout
logging.silent: false
logging.quiet: false
logging.verbose: false
ops.interval: 5000
i18n.defaultLocale: “en”
elasticsearch.username: “elastic”
elasticsearch.password: “changeme”
以及
vim /usr/local/elasticsearch/config/elasticsearch.yml
vim /usr/local/kibana/config/kibana.yml
#啟用插件
xpack.security.enabled: true
登陸kibana然后monitoring選項(xiàng)可以看到狀態(tài)了!不過(guò)此服務(wù)試用一月!可以官方注冊(cè)一年的閹割版(只有監(jiān)控了其他的都沒(méi)了)的使用時(shí)間!
給出注冊(cè)流程
首先點(diǎn)擊到期時(shí)間這里
然后選擇最基本的免費(fèi)使用,旁邊是收費(fèi)版帶售后的。
開始注冊(cè)吧
注冊(cè)完成會(huì)發(fā)一封郵件給你許可證下載地址
直接登錄同意協(xié)議 選擇你的版本然后開始下載
然后到kibana里使用你的新許可證
#一個(gè)月到期后基本其他的功能都沒(méi)了
以下為擴(kuò)展(2.x、5.x的ES版本可以嘗試)
下面將ES連接到grafana可視化
grafana-5.1(目前只支持2.x、5.x暫時(shí)沒(méi)法用了)
wget https://s3-us-west-2.amazonaws.com/grafana-releases/release/grafana-5.1.0-1.x86_64.rpm
yum localinstall grafana-5.1.0-1.x86_64.rpm
rpm -qc grafana
/etc/grafana/grafana.ini
/etc/grafana/ldap.toml
/etc/init.d/grafana-server
/etc/sysconfig/grafana-server
/usr/lib/systemd/system/grafana-server.service
二進(jìn)制文件 /usr/sbin/grafana-server
服務(wù)管理腳本 /etc/init.d/grafana-server
安裝默認(rèn)文件 /etc/sysconfig/grafana-server
配置文件 /etc/grafana/grafana.ini
安裝systemd服務(wù)(如果systemd可用 grafana-server.service
日志文件 /var/log/grafana/grafana.log
啟動(dòng)grafana-server服務(wù)
systemctl enable grafana-server.service
systemctl start grafana-server.service
訪問(wèn)測(cè)試http://ip:3000/
默認(rèn)賬號(hào)admin 密碼也是admin
登陸后
添加接入源(ES、MySQL、zabbix等)