[2-4-02].第01节:ES初识 - ElasticStack概念
ElasticSearch学习大纲
一、ElasticStack介绍:
1.1.ELK介绍:
- 1.ELK是一个免费开源的日志分析架构技术栈总称,可适用于日志分析、数据搜索、数据分析和收集等一些场景,比如日志分析和收集是更具有代表性的应用
- 2.ELK包含三大基础组件,分别是
Elasticsearch、Logstash、Kibana,其中Logstash是负责数据的收集,ES是数据的存储,Kibana是负责数据的展示
1.2.ElasticStack介绍:
- 1.随ELK的发展,又有Beats、elastic cloud的等成员的加入,所以就逐渐产生了
Elastic Stack的概念;
二、ElasticStack成员:
成员1:Elasticsearch:
- Elasticsearch 是使用java开发,基于Lucene、分布式、通过Restful方式进行交互的近实时搜索平台框架
- 它的特点有:
分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等
成员2:Logstash:
- Logstash 基于java开发,是一个
数据抽取转化工具 - 一般工作方式为c/s架构,client端安装在需要收集信息的主机上,server端负责将收到的各节点日志进行过滤、修改等操作在一并发往elasticsearch或其他组件上去
成员3:Kibana
- Kibana 基于nodejs,是一个开源和免费的
可视化工具 - Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以汇总、分析和搜索重要数据日志
- 如下图所示,在Kibana中可以构建柱形图,饼状图等,应用在日志数据分析,实时监控等领域
成员4:Beats:
Beats 平台集合了多种单一用途
数据采集器。它们从成百上千或成千上万台机器和系统向 Logstash 或 Elasticsearch 发送数据。Beats由如下组成:
Packetbeat:
- 轻量型
网络数据采集器,用于深挖网线上传输的数据,了解应用程序动态。Packetbeat 是一款轻量型网络数据包分析器,能够将数据发送至 Logstash 或 Elasticsearch。其支 持ICMP (v4 and v6)、DNS、HTTP、Mysql、PostgreSQL、Redis、MongoDB、Memcache等协议
Filebeat:
- 轻量型
日志采集器。当面对成百上千、甚至成千上万的服务器、虚拟机和容器生成的日志时,Filebeat 将提供一种轻量型方法,用于转发和汇总日志与文件,让简单的事情不再繁杂
Metricbeat :
- 轻量型
指标采集器。Metricbeat 能够以一种轻量型的方式,输送各种系统和服务统计数据,从 CPU 到内存,从 Redis 到 Nginx等。可定期获取外部系统的监控指标信息,其可以监控、收集 Apache http、HAProxy、MongoDB、MySQL、Nginx、PostgreSQL、Redis、System、Zookeeper等服务
Winlogbeat:
- 轻量型
Windows 事件日志采集器。用于密切监控基于 Windows 的基础设施上发生的事件。Winlogbeat 能够以一种轻量型的方式,将 Windows 事件日志实时地流式传输至 Elasticsearch 和 Logstash。
Auditbeat:
- 轻量型
审计日志采集器。收集Linux 审计框架的数据,监控文件完整性。Auditbeat实时采集这些事件,然后发送到 Elastic Stack 其他部分做进一步分析
Heartbeat:
- 面向
运行状态监测的轻量型采集器。通过主动探测来监测服务的可用性。通过给定 URL 列表,Heartbeat 仅仅询问:网站运行正常吗?Heartbeat 会将此信息和响应时间发送至 Elastic 的其他部分,以进行进一步分析
Functionbeat:
- 面向
云端数据的无服务器采集器。在作为一项功能部署在云服务提供商的功能即服务 (FaaS) 平台上后,Functionbeat 即能收集、传送并监测来自您的云服务的相关数据
成员5:Elastic cloud:
- 基于 Elasticsearch 的软件即服务(SaaS)解决方案。通过 Elastic 的官方合作伙伴使用托管的 Elasticsearch 服务
