最近在搭建es5.2的高可用集群，在這個過程中加深了對es的原理理解，基本分為四個階段
es單機—>es集群（多臺機器）—>es分片和副本集分布原理—>es高可用集群
1.es單機
在第一個階段基本概念的掌握還是比較熟練的，對應(yīng)著關(guān)系型數(shù)據(jù)庫（mysql）來理解es：
文檔（document）
文檔（document）是ElasticSearch中的存儲形式。對所有使用ElasticSearch的案例來說，他們最終都可以歸結(jié)為對文檔的搜索，一個文檔相當(dāng)于mysql里的一條數(shù)據(jù)
索引（index）
ElasticSearch將它的數(shù)據(jù)存儲在一個或多個索引（index）中。索引就像數(shù)據(jù)庫，可以向索引寫入文檔或者從索引中讀取文檔
類型（type）
每個文檔都有與之對應(yīng)的類型（type）定義。這允許用戶在一個索引中存儲多種文檔類型，比如在“資料”索引下，有pdf類型和word類型，并為不同文檔提供類型提供不同的映射
映射（mapping）
所有文檔寫進索引之前都會先進行分析，如何將輸入的文本分割為詞條、哪些詞條又會被過濾，這種行為叫做映射（mapping）。一般由用戶自己定義規(guī)則，可以理解為pdf類型的文檔的映射就是pdf含有的字段
2.es集群
es集群是通過多臺服務(wù)器來搭建，它們擁有一個共同的clustername比如叫做“escluster”，每臺服務(wù)器叫做一個節(jié)點，擁有自己的節(jié)點名字：nodename，配置文件如下：
集群名稱，用于定義哪些elasticsearch節(jié)點屬同一個集群。
cluster.name: bigdata
節(jié)點名稱，用于唯一標(biāo)識節(jié)點，不可重名
node.name: server3
設(shè)置索引的分片數(shù),默認(rèn)為5
index.number_of_shards: 5
設(shè)置索引的副本數(shù),默認(rèn)為1:
index.number_of_replicas: 1
這時多臺服務(wù)器都可以對外提供查詢和更改接口，他們彼此之間負載均衡，我們代碼訪問時可以配置為多臺：
配置訪問集群的client
TransportClient client = new PreBuiltTransportClient(settings)
.addTransportAddress(new InetSocketTransportAddress(InetAddress.getByName("192.168.254.133"), 9300));
.addTransportAddress(new InetSocketTransportAddress(InetAddress.getByName("192.168.254.134"), 9300));
.addTransportAddress(new InetSocketTransportAddress(InetAddress.getByName("192.168.254.135"), 9300));
.addTransportAddress(new InetSocketTransportAddress(InetAddress.getByName("192.168.254.136"), 9300));
執(zhí)行插入操作
client.prepareIndex("info", "info",UUID.randomUUID().toString())
.setSource(builder.string())
.get();
es集群肯定效率各方面都要比單機強很多，但是如果集群中一臺機器掛掉了，我們其余的幾臺會不會安然無恙？而數(shù)據(jù)會不會丟失？我們目前并不能保證，所以我們要配置一套高可用的集群
3.es分片和副本集分布原理
配置一套高可用的集群，我們必須要了解es集群的數(shù)據(jù)分布和負載原理
shards（分片）
在配置文件里我們看到默認(rèn)的shards是5個，一個索引的全部數(shù)據(jù)會被分開存儲在這幾個分片上，我們用3個分片來看下效果：
單機分片分布：
2臺集群分片分布：
3臺集群分片分布：
單機：該機器節(jié)點擁有全部3個分片
2臺集群：一個節(jié)點有一個分片，另一臺有兩個分片
3臺集群：每個節(jié)點擁有一個分片
根據(jù)以上案例可以看到es的工作原理是把整個數(shù)據(jù)分割成3個分片，然后每個節(jié)點平均分配
當(dāng)我們有9個分片時，估計是每臺機器各自3個分片
總結(jié)
1.es集群只是根據(jù)我們指定的分片數(shù)來平均分配到各個節(jié)點上
2.當(dāng)節(jié)點數(shù)大于分片數(shù)時，也不會冗余，只是讓多余的節(jié)點空著不存數(shù)據(jù)，不分?jǐn)倝毫?br> 3.當(dāng)有節(jié)點掛掉時，我們一定會丟失一部分?jǐn)?shù)據(jù)
根據(jù)上面的總結(jié)，es集群無法避免機器掛掉后仍然能不丟數(shù)據(jù)的正常運行，解決辦法是配置文件的另一個參數(shù)index.number_of_replicas來達到高可用目的
es高可用集群
index.number_of_replicas是索引的副本數(shù)，也就是索引的分片副本數(shù)，我們通過3臺機器3個分片的配置來看下效果
1個副本
2個副本
3個副本
1.每個副本都會把當(dāng)前的分片全部復(fù)制一份并平均分布到集群節(jié)點上
2.當(dāng)副本數(shù)3時，由于此時每臺機器都已經(jīng)占滿自己的3個分片了，所以此時需要增加新的機器來存放第三個副本，所以提示了Unassigned？
高可用原理
我們以3機器3分片2副本為例：
第一步：
????????在每個分片編碼（0,1,2）上的邊框有粗有細，粗的是主分片，細的是副本分片，當(dāng)node1的機器掛掉時，主節(jié)點1丟失，此時集群由green（健康）轉(zhuǎn)為red，因為主節(jié)點丟失導(dǎo)致。
第二步：
????????其它節(jié)點上存在著主分片1的完整副本，所以集群立即將這些分片在 Node 2 和 Node 3 上對應(yīng)的副本分片提升為主分片，此時集群的狀態(tài)將會為 yellow 。為什么我們集群狀態(tài)是 yellow 而不是 green 呢？雖然我們擁有所有的三個主分片，但是同時設(shè)置了每個主分片需要對應(yīng)2份副本分片，而此時只存在一份副本分片。所以集群不能為 green 的狀態(tài)，不過我們不必過于擔(dān)心：如果我們同樣關(guān)閉了 Node 2 ，我們的程序 依然 可以保持在不丟任何數(shù)據(jù)的情況下運行，因為 Node 3 為每一個分片都保留著一份副本。
第三步：
????????如果我們重新啟動 Node1，Node1依然擁有著之前的分片，它將嘗試去重用它們，同時僅從主分片復(fù)制發(fā)生了修改的數(shù)據(jù)文件，集群狀態(tài)由yellow轉(zhuǎn)為green。
第四步：
????????如果不重啟Node1，而是新增了一臺機器并啟動加進集群，此時集群可以將缺失的副本分片再次進行分配寫入到新增的Node上，那么集群的狀態(tài)也將由yellow轉(zhuǎn)為green。
由此我們了解了高可用的基本原理，想要配置好高可用，節(jié)點數(shù)，分片數(shù)，副本數(shù)這三個數(shù)量之間是有很緊密的聯(lián)系的。
