タグ

ブックマーク / imai-factory.hatenablog.com (3)

  • 広告に関するなにか(2015/1/14): Apache Lens at Hadoop meetup - 工場長のブログ

    inmobiのレポートシステムでLensを使っているよという話。 Apache Lens at Hadoop meetup from amarsri Generation 1 : RDBMS Architecture RDBMSで1.5TBくらいのデータを扱っていた。 Challenges データロードに24時間近くかかったり3ディメンションくらいしか現実的にはクエリできなかったり・・・いろいろ辛かった。 誰もが通る道だよね。でもinmobiもそれやってたって話を聞くとなんか安心するw Generation 2 : Hadoop + Columnar DB Architecture Hadoop + Columnar DB 集計済みのデータ: Columnar DBにいれてダッシュボード利用 生に近いデータ: Hadoopにいれてアドホッククエリ。 Columnar DBに8TB。Hado

    広告に関するなにか(2015/1/14): Apache Lens at Hadoop meetup - 工場長のブログ
    yass
    yass 2015/01/14
  • innodbのチューニングとEC2のIO - 工場長のブログ

    ここでは、EC2の上でinnodbをチューニングして使うという観点でTIPSをまとめてみた。 RDS便利だから使おうぜってのは今回の話のスコープには含みません。 あと、innodbについて、割りとちゃんと調べてみたのは初めてだったりするので、間違ってる点など見つけたらぜひご指摘くださいませ。 innodb関連 バッファプール ワーキングセットを乗せておくオンメモリのバッファ領域。読み書き共にこの領域を経由して実施される。 参照時はバッファプール上でデータを探して、なければテーブルスペースから取得する。(そのデータはバッファプール上に格納される) 書き込み時はリクエストを受け付けてワーキングセットを更新し、ログの書き込みへ移行する。 設定はinnodb_buffer_pool_size 監視はSHOW ENGINE INNODB STATUSか、mysqladmin extended-sta

    innodbのチューニングとEC2のIO - 工場長のブログ
    yass
    yass 2013/11/07
    " RDS使うならディスク容量は大きめがベター。"
  • EC2でnginx動かしてパフォーマンス検証した。 - 工場長のブログ

    ひとまず動かしてみる。 yumでインストール。楽でいいね。 $ sudo yum install nginx ==snip== Running Transaction Installing : libxslt-1.1.26-2.6.amzn1.x86_64 1/5 Installing : GeoIP-1.4.8-1.5.amzn1.x86_64 2/5 Installing : libXpm-3.5.8-2.8.amzn1.x86_64 3/5 Installing : gd-2.0.35-10.9.amzn1.x86_64 4/5 Installing : nginx-1.0.15-1.9.amzn1.x86_64 5/5 ==snip== Installed: nginx.x86_64 0:1.0.15-1.9.amzn1 Dependency Installed: GeoIP.x8

    EC2でnginx動かしてパフォーマンス検証した。 - 工場長のブログ
    yass
    yass 2012/12/01
    9697.2req/s, m1.large
  • 1