当前位置: 首页 > news >正文

elasticsearch学习笔记(十)——Elasticsearch横向扩容过程与容错机制

下面简单描述一下Elasticsearch横向扩容过程与容错机制

1、横向扩容过程

对于ES默认创建的索引有10个shard,其中有5个是primary shard,5个是replica shard。
在ES内部会自动做一些事情:
(1)primary shard & replica shard会自动负载均衡。均匀的分布在各个节点
(2)保持每个节点node拥有更少的shard,IO/CPU/Memory资源给每个shard分配更多,使得每个shard性能更好
(3)Elasticsearch的扩容极限,由于有10个shard(5个primary shard,5个replica shard),所以最多可以扩容到6台机器,此时每个shard可以占用单台服务器的所有资源,性能最好。
(4)如果超出扩容的极限,可以动态的修改replica数量,比如将replica修改为2,那么就有15个分片(5个primary shard,10个replica shard),此时就可以扩容到15台机器,比之前拥有更高的读吞吐量。
(5)如果只有5台机器,15个分片(5个primary shard,10个replica shard),每个shard占用的资源会更少,但是容错性会比10个分片的要好,此时最多可以容纳2台机器宕机,而10个分片只能容纳1台机器宕机。
这些知识点告诉我们,一方面扩容应该怎么去扩,怎么去提升系统整体的吞吐量;另一方面还要考虑到系统的容错性,怎样提高系统的容错性,让尽可能多的服务器宕机,不会造成数据的丢失。

2、容错机制详解

场景描述:
假设master node1节点宕机的一瞬间,P0,P1,P2,P3,P4这些primary shard就没了,也就是说此时就不是active status
下面是ES做的容错的一个过程:
第一步:master选举,自动选择另一台node作为新的master节点,承担起master的责任来
第二步:新的master node2将丢失掉primary shard的某个replica shard提升为primary shard。此时cluster status就会变为yellow,因为primary shard全部变成active了,但是少了一个replica shard,所以就不是所有的replica shard都是active的
第三步:重启故障的node,新的master会将缺失的副本都copy一份到该node上去。而且该node会使用之前已有的shard数据,只是同步一下宕机之后发生过的修改。cluster的状态变为green,因为primary shard和replica shard都齐全了。

http://www.jsqmd.com/news/1129094/

相关文章:

  • 动漫TrackerList终极指南:如何通过智能Tracker优化实现动漫资源下载加速300%
  • 端云协同代码辅助:用Gemma 2B轻量模型破解Claude配额瓶颈
  • Agent Skill 是什么?不是保存 Prompt,而是 Agent 的可复用能力包
  • 10分钟快速上手Self-Parking Car Evolution:浏览器中的AI进化模拟
  • 不从众,方破局:从越南摩托溃败、张雪WSBK封神,看懂新能源研发的真正坚守
  • gocryptfs终极指南:Go语言加密文件系统的完整解决方案
  • Stout高级功能:支持客户端路由器的SPA应用部署技巧
  • 群晖NAS硬盘兼容性终极解决方案:Synology HDD db工具完全指南
  • 5分钟掌握poi-tl:企业文档自动化的终极解决方案
  • 【Atlas】Atlas 中的 Relationship(关系)是如何建模的?
  • AI技能手册:职场效率提升与自动化实战指南
  • ICM-42688-P与STM32L011K4在工业运动检测中的应用
  • elasticsearch学习笔记(十一)——document的核心元数据、操作以及原理
  • 终极指南:如何用MPC-HC实现专业级视频帧提取与截图功能
  • BubbleTabBar未来展望:路线图与新功能预告
  • 终极指南:为什么Thorium浏览器比Chrome更适合你的3个关键理由
  • Cap开源屏幕录制工具完全指南:告别Loom的终极解决方案
  • 如何免费使用AI图像放大工具:Upscayl完整入门指南
  • Perlite成本分析:自建与Obsidian Publish的经济对比
  • iOS开发 SwitftUI 13:提示、弹窗、上下文菜单
  • adsad
  • 从键盘到摇杆:WoWmapper如何重新定义你的魔兽世界游戏体验
  • 【Atlas】如何从官方下载 Apache Atlas 2.4.0 版本?
  • 基于TPAFE0808和STM32的多通道信号采集系统设计
  • LTC6904与PIC18F85J50实现高精度方波发生器设计
  • PowerShell与CMD执行外部脚本的安全风险与防范指南
  • 深度学习图像分割实战:从原理到代码实现
  • 【信息科学与工程学】计算机科学与自动化——第三十八篇 质量工程 02 云数据中心质量工程
  • IIM-42652与PIC18LF25K42的6DoF运动追踪系统设计
  • 3个颠覆性方案:Qwen3-VL如何让视觉AI从“看懂“到“会做“