タグ

filesystemに関するvanbraamのブックマーク (12)

  • Linux ファイルシステムを理解したい - Qiita

    ]# cat /etc/redhat-release CentOS Linux release 7.7.1908 (Core) ]# uname -a Linux localhost.localdomain 3.10.0-1062.1.2.el7.x86_64 #1 SMP Mon Sep 30 14:19:46 UTC 2019 x86_64 x86_64 x86_64 GNU/Linux ファイルシステムとは何か? データを管理/操作するための仕組み。 ファイルとディレクトリで構成されていて、/ を基点とした木構造になっている。 # ls -l / 合計 56 lrwxrwxrwx. 1 root root 7 8月 25 01:17 bin -> usr/bin dr-xr-xr-x. 6 root root 4096 9月 29 15:51 boot drwxr-xr-x. 19

    Linux ファイルシステムを理解したい - Qiita
    vanbraam
    vanbraam 2019/10/14
    中級者=ある程度"ファイルシステム"によるストレージの抽象化を理解している人向けの記事だと感じた.そういう人が_Linux_のファイルシステムを理解する取っ掛かりとしては良さそう
  • 全言語で気をつけるべき、ファイル書き込み時のお作法 - Qiita

    言いたいこと 重要なファイルを書くときは、予期しないOSシャットダウンなどを考慮した書き方にする必要があるというお話。 お作法を知らないと、中途半端なファイルや空ファイルが生成され、システム起動時や連携システムで致命的なことになる。 例としてC言語/Java/Python/JavaScript(node.js)を挙げるが、ほぼすべての言語で対策する必要あり。 背景 番運用されているソフトウェアが起動しなくなるという致命的な不具合が発生した。 ログやコンフィグファイルを収集・解析したところ、コンフィグファイルがぶっ壊れていた。 コンフィグファイルは起動時に読まれるが、必要に応じて書き込まれることもある。 コードを追っていくと、書き込み処理中に強制終了したりすると、中途半端に書かれる可能性があることに気づく。 使い終わると電源がぶち切りされる運用をされており、奇跡的にタイミングが重なったのか

    全言語で気をつけるべき、ファイル書き込み時のお作法 - Qiita
    vanbraam
    vanbraam 2019/03/05
    fsync,fdatasync;どういうアプリかわからないけど,そもそも動作中にconfigを書き換える造りや,電源ぶち切りの運用がイケてないのでは?何にせよ書き出し処理の安全化は必要だが
  • ZFS from a MySQL perspective

    Since the purpose of a database system is to store data, there is close relationship with the filesystem. As MySQL consultants, we always look at the filesystems for performance tuning opportunities. The most common choices in term of filesystems are XFS and EXT4, on Linux it is exceptional to encounter another filesystem. Both XFS and EXT4 have pros and cons but their behaviors are well known and

    ZFS from a MySQL perspective
    vanbraam
    vanbraam 2017/11/19
    紹介されている機能を見ると,非常に優れているという印象しか受けないが,ZFSの弱点は何なのだろう?性能?安定性?
  • Red Hat、Btrfsの採用を断念か - XFSベースに舵切り

    Today Red Hat is the world´s most trusted provider of Linux and open source technology. Phoronixは8月2日(米国時間)、「Stratis Is Red Hat's Plan For Next-Gen Linux Storage Without Btrfs」において、Red Hatの複数の開発者から確認を取ったとして、同社がRed Hat Enterprise Linux (RHEL)におけるファイルシステム「Btrfs」の取り組みから手を引く可能性が高いと伝えた。同社はExt4への取り組みについても消極的になっており、XFSをベースとしながら新たなファイルシステムの開発を進める意向だと指摘している。 Red HatのAndy Grover氏は「Stratis Software Design: V

    Red Hat、Btrfsの採用を断念か - XFSベースに舵切り
    vanbraam
    vanbraam 2017/09/24
    ZFSのライセンス問題って何だろう?
  • btrfs領域管理一代記

    メール署名取り込みにおける名刺情報抽出の取り組み / Business Card Information Extraction Efforts in Email Signature Capture

    btrfs領域管理一代記
    vanbraam
    vanbraam 2017/09/24
    複雑すぎて怖い;誰か形式化(formalize)してくれないかな
  • ⁠Btrfs has been deprecated in RHEL | Hacker News

    People are making a bigger deal of this than it is. Since I left Red Hat in 2012 there hasn't been another engineer to pick up the work, and it is _a lot_ of work.For RHEL you are stuck on one kernel for an entire release. Every fix has to be backported from upstream, and the further from upstream you get the harder it is to do that work. Btrfs has to be rebased _every_ release. If moves too fast

    vanbraam
    vanbraam 2017/08/03
    全部は読んでないが,btrfsに問題があるというより,Red Hat側でサポートができない,というのが理由らしい;XFSとの兼ね合いもあるのかな?
  • ドワンゴがRustで分散ファイルシステムを作っているらしい

    第2回 大量トラフィックを支えるインフラ~独自プロトコル,ファイルシステムの実装もいとわない!~ ドワンゴが分散ファイルシステムを作っているというニュースを見た. しかもRustで. ニュース以上のことも知りたくなったがツテがないし, あったとしても教えてくれるわけがないので外側から推測することにした. 実は分散ファイルシステムも独自に開発しました。もともと既存のオープンソースのファイルシステムを使っていたのですが,それだと期待する性能が出ないことがわかり,独自に調査開発を進めることにしました。 Rustという言語で,ガベージコレクションがなく,C++にメモリ安全性の機能を付加したようなものです。ニコニコの動画・生放送の配信基盤開発ではErlangを使うことが多いのですが,レイテンシを細かく制御したい分散ファイルシステムの分野では,どうしてもガベージコレクションが気になってきます。たしかに

    ドワンゴがRustで分散ファイルシステムを作っているらしい
    vanbraam
    vanbraam 2017/02/26
    POSIX非準拠と割り切れば,性能の良い"ファイルシステム"の実装の敷居はかなり下がる.問題はPOSIX非準拠を,上位のアプリが理解しているかどうか.閉じた系で使う側≒作る側なら大丈夫か.でもライブラリー等もあるしなぁ
  • AWSが共有ファイルストレージ「EFS」の一般提供を開始、容量が自動拡縮し運用作業を軽減

    米アマゾン ウェブ サービス(AWS)は2016年6月28日(米国時間)、UNIX系の分散ファイルシステムNFS(Network File System)v4に対応した共有ファイルストレージサービス「Amazon Elastic File System(EFS)」の一般提供を同日に始めた、と発表した。利用可能なリージョンは、米東部(バージニア州北部)、米西部(オレゴン州)、欧州(アイルランド)の三つ。東京リージョンを含む他のリージョンでの開始時期は未定だ。 特徴の一つは、利用状況に合わせてストレージ容量が自動的に拡張・縮減されること。ユーザーにとって、ストレージ容量に関する運用管理が不要になる。 料金は従量課金制で、実際に使用したストレージ領域に応じて決まる。バージニア州北部・オレゴン州リージョンは1カ月・1GB当たり0.3ドル、アイルランドリージョンでは同0.33ドルとなっている(どちら

    AWSが共有ファイルストレージ「EFS」の一般提供を開始、容量が自動拡縮し運用作業を軽減
    vanbraam
    vanbraam 2016/06/30
    Elastic File System;Kerberos認証使えるのだろうか?
  • DTraceの開発者によるAppleの新しいファイルシステム「APFS」のファーストレビュー。

    DTraceの開発者によるAppleの新しいファイルシステム「APFS」のファーストレビューが公開されています。詳細は以下から。 AppleはWWDC 2016のセッション701″Introducing Apple File System”でFlashストレージや暗号化に焦点を当て、MacからApple Watchをカバーする新しいファイルシステム「APFS」の開発を発表しましたが、このAPFSのレビューをSolarisやDTrace, ZFSなどの開発に携わったAdam Leventhalさんが公開し話題になっています。 Everything you wanted to know about APFS (*But were afraid to ask) https://t.co/4LAiPazfGg — Adam Leventhal (@ahl) 2016年6月19日 Apple ann

    DTraceの開発者によるAppleの新しいファイルシステム「APFS」のファーストレビュー。
    vanbraam
    vanbraam 2016/06/23
    後で読めるといいなぁ
  • マイクロソフト、Windows Subsystem for Linuxの仕組みを解説

    Microsoftは「Windows Subsystem for Linux: File System - Seth Juarez - Channel 9」において、Windows Subsystem for Linuxにおけるファイルシステムの内部構造について解説した。WindowsカーネルでLinuxソフトウェアをネイティブに実行する機能「Windows Subsystem for Linux」ではNTFSを基盤となるファイルシステムとして利用している。どのような仕組みでこの機能を提供しているのかが動画で紹介されている。 「Windows Subsystem for Linux」ではLinuxバイナリがシステムコールを実行すると、カーネルモードで動作するドライバLXCORE.SYSに処理が飛ぶようになっている。最初はエントリポイントであるシステムコールレイヤが呼び出され、ファイルシステ

    マイクロソフト、Windows Subsystem for Linuxの仕組みを解説
    vanbraam
    vanbraam 2016/06/20
    Linux filesystemに見せかける機能を持つVolFS,NTFSをほぼそのまま見せるDriverFS
  • AWSのストレージよもやま話 s3,ebsからStorage Gateway,EMRFSまで - プログラマでありたい

    昨日、VPCの話を書いていて思い浮かんだのがストレージの話です。AWSのストレージといえば、S3とEBSが中心です。しかし、オンプレからの移行ではNAS相当のものがなくて、先人たちは色々と試行錯誤してきました。また、製品群を見返すとAWS自身も相当いろいろ検討して苦労したのだなと解ります。という訳で、何の役に立たないAWSのストレージの四方山話です。 s3fs 事実上無限の容量を持つS3をファイルシステムとして扱えるs3fs。誰しも一度は夢をみて、夢敗れるファイルシステムではないでしょうか。これは純正のライブラリではなく、サードパーティ製です。構造としては下記の通りで、問題点としてはメタデータ(ファイル一覧や個々のファイルの日付・サイズ等の情報)を持たない点です。よって使い方によっては、かなり遅いです。また初期のものはメモリーリークとか多く、定期的な再起動が必要だったりします。 みんな薄々

    AWSのストレージよもやま話 s3,ebsからStorage Gateway,EMRFSまで - プログラマでありたい
    vanbraam
    vanbraam 2016/04/27
    参考になった;"filesystem"の実装が如何に大変かを物語る記事の様な気もする
  • 運用備忘録: 2GBまで肥大化したmlocate.dbが犯人でした:こうしす!通信

    どうもこんばんわ。システム運用担当のButameronです。 トラブル対応の備忘録として時々不定期にこんな記事も書いていこうと思います。 OPAP-JPでは、定期的な簡易バックアップにbtrfsのスナップショット機能を使っています。 (オンラインfsckすらない実験的なファイルシステムを実運用で使うというあたり、壊滅的にダメな人です。どうもこんばんわ。) これの良いところは、Copy on Writeの仕組みでストレージを効率的に使えることです。 あるファイルを一切変更しなければ、いくらそのスナップショットを作ってもほぼそのファイルひとつ分だけの領域だけしか占拠しません。限られたストレージ容量を効率的に使いながらファイルの履歴を保存するという用途に重宝するというわけです。(上手く使えば、遠隔バックアップも効率的に行うことができます) さて、ConoHa支援プログラム でVPSの無償提供を受

    運用備忘録: 2GBまで肥大化したmlocate.dbが犯人でした:こうしす!通信
    vanbraam
    vanbraam 2016/03/17
    うーん和華蘭.mlocate.dbとbtrfsの関係がわからない
  • 1