Elasticsearchクラスタを再構築し、無停止で切り替えるベストプラクティス - Hatena Developer Blog

はてなブックマークチームのid:taraoです。はてなブックマークでは、以前はオンプレミスなElasticsearchクラスタを運用していましたが、AWS上にAmazon Elasticsearch Serviceのクラスタを構築して切り替えました。この切り替えではクラスタの再構築に限らず、アップグレードやマッピングの変更にも使える一般的な方法を採用しました。 この記事では、その具体的な方法を紹介します。 一般的な方法を採用したい目的と背景 検討したクラスタ再構築や切り替えの方法 1. ローリングアップグレード 2. スナップショット・リストア 3. クラスタ横断レプリケーション 4. Reindex API 5. アプリケーションコードによる再インデキシング 目的・条件による取りうる方法のまとめ 採用した再インデキシング手法の詳細 ダブルライトをどのように実現するか 非同期ダブルライトの

[onk]

逆マイグレーションを置いてダブルライトを続けていつでも切り戻せること、新/旧切り換えが入れる job 切り換えるだけなことが面白い。非同期にするの切り換えやすそうで良いなぁ。 / 採番もなるほど。

[mohri]

「Elasticsearchクラスタのアップグレードやマッピング変更、物理移設などを無停止かつ切り戻し可能な状態で実施できる手法を紹介」

[t-cyrill]

これは面倒太郎。多少の遅延が考慮できるならバッチなりでデータ同期して最新分だけ差分当て続ける方が楽そう

[remix-cafe]

後でしっかり見る。

[dev_tamura]

“伊奈林太郎”

[sasasin_net]

くっっっそ大変じゃないですか....

[wtatsuru]

“Elasticsearchクラスタのアップグレードやマッピング変更、物理移設などを無停止かつ切り戻し可能な状態で実施できる手法”

[nabeop]

無停止で切り替えるやつ、めっちゃ良かった

[y_uuki]

負荷試験結果と切り替え後の負荷に差異があるところが興味深い。Esの負荷に関する部分だけ切り出してもネタになりそう。