内製オブジェクトストレージサーバ「b3」でコスト最適化を目指した話 - Mirrativ Tech Blog

インフラストリーミングチームの近藤 (@udzura) です。今回は、ミラティブで内製しているオブジェクトストレージサーバ「b3」の紹介記事を書きたいと思います。 今回の記事は、6月にGopher Talkというイベントで発表した「Go製ミドルウェアを実践投入するにあたりやったこと」をベースに、内容を詳細にしたり直近の開発状況に合わせて更新したものです。一部内容はこの発表と重複していますがご了承ください。 オブジェクトストレージサーバを内製した背景 1. 大量オブジェクトの操作や増え続ける転送量に対応したい 2. 一定期間しかファイルの保持をしない 3. オンメモリ/SSD/HDDを組み合わせたチューニングがしたい オブジェクトストレージb3の特徴 S3 互換の基本的なAPIを実装 LSM-Tree index＋WALなDB/マージ操作に対応 I/O 帯域を制限可能 非同期レプリケーション

[udzura]

1get できていなかった... いろいろやってます

[kazuhooku]

面白かった。なるほど今でもサービスでHDD使う需要はあって、そうなるとI/Oスケジューリングとか重要なのか

[bopperjp]

配信かー。それならペイしそう。運用めちゃくちゃ大変だろうけど、それがメイン事業ならそれが差別化要因とも言えるし。がんばれー。

[egmc]

要件に合わせてオブジェクトストレージ内製（つよい）、ストレージ側の要件でrate limit追加、そういえばs3もクライアント側で帯域抑えたいときにあれこれやったけどクライアント側にこれぞという機能はなかった気がする

[tmatsuu]

わいわい

[nilab]

Goでオブジェクトストレージを内製。実際にどれぐらいの期間で開発したんだろう。「自前でホストする方がコスト面で有利」「細かくI/Oチューニングを実施」「S3 互換の基本的なAPIを実装」

[tana005]

ベアメタルサーバーとは物理サーバーの意味

[R2M]

強い

[naka-06_18]

オブジェクトストレージ継続して保守できる程度にペイするサービスなのか、凄い

[lamanotrama]

すごすぎる...

[wtatsuru]

現代にあらためて作るオブジェクトストレージ。チューニングしがいがありそう

[strawberryhunter]

S3とかはファイルシステムから書いている気がする。とはいえ、切実なコスト問題をこうやって解決できるのはすごいな。

[teslur]

凄い！自分もこんな仕事をしたくなる！

[fog-og-frog2]

ストレージ要件がソフトウェアの機能要件に跳ねてるの、なんか好き

[onesplat]

すごい

[ebo-c]

Mirrativ版s3ということでm3にすると……(他の会社です)

[koyancya]

いきなりドーンと切り替えて爆死しないの偉い