タグ

Asakusaに関するkimutanskのブックマーク (7)

  • Asakusa 0.8 with M3BP - 急がば回れ、選ぶなら近道

    Asakusaが新規に高速実行エンジン(M3BP)をサポートした。M3BPはメニーコア特化型のC++で実装されたDAGの実行エンジンになる。ノーチラスとFixstarsの共同開発のOSSで、単ノード・メニーコアでの「処理の高速化」に振っている。いわゆるIn-memoryの実行エンジンで、ノードのCPUコアを使い切ることを目標しており、余計な機能はすべて削った。データがサーバ・メモリーに乗るクラスのバッチ処理であれば、ほぼ物理限界までパフォーマンスをたたき出す。 http://www.asakusafw.com/release/20160412.html 実際のベンチマークは以下のwhite paperにある。 http://www.asakusafw.com/wp/wp-content/uploads/2016/04/M3forBP_WP_JA_2016Apr12.pdf ベンチマーク対象

    Asakusa 0.8 with M3BP - 急がば回れ、選ぶなら近道
    kimutansk
    kimutansk 2016/04/12
    エッジサーバ上での性能を絞り切るという観点でも面白いですね。Beamよりも遥かに早い段階で同コンセプトを打ち出してるのでその点でも。
  • RSA(Rack-Scale-Architecture) - 急がば回れ、選ぶなら近道

    一応、Asakusaのアドベントカレンダーのネタです。 いろいろ今後のAsakusaの対応について、現状を踏まえて一回まとめます。 1.ビックデータの敗北 まず、現状のビックデータの現状はちゃんと踏まえておきたい。というのは、いままでの分散処理の技術革新は、クラウド・ビックデータ関連を中心で進んできたわけで、当然次の流れはその「歴史」を考慮しなければ、ビジネス的な先はないでしょう。 まず、経験的には日での「ビックデータ」の実行基盤としての大規模クラスターの展開はほぼ全滅に近いと思います。特に、日ではPByteを越えるデータはその辺に転がっているものではありません。もちろん何百台・何千台ものクラスターを構成・運用しているところもありますが、おそらく十指を越える程度でしょう。日の企業数が5万としても、99.9%の企業はそんなクラスターは持っていません。ただし、企業数が多いので結果としての

    RSA(Rack-Scale-Architecture) - 急がば回れ、選ぶなら近道
    kimutansk
    kimutansk 2015/12/25
    データの量に依って最適なアーキテクチャ(実行基盤)が変わり、それに追従するにはDSL的な中間層を挟むとやりやすいという話。RSAはいつ、どの位来ますかねぇ
  • 神林節炸裂!Asakusa Frameworkは「分散」から「並列」へ (1/3)

    11月27日、ノーチラス・テクノロジーズは「2015 Asakusa Framework Day」を開催。舌鋒鋭い物言いで知られる同社の代表取締役社長 神林飛志氏は、ビッグデータとIoT市場の現状やHadoop/Sparkと日市場のミスマッチなどを指摘しつつ、次世代のAsakusa Frameworkの構想を披露した。 ビッグデータは既存のCRM、IoTはPoCレベル ノーチラス・テクノロジーズのAsakusa Frameworkは、業務システムのバッチ処理にHadoopやSparkでの分散システムを活用するための開発・運用フレームワーク。会計や在庫などの業務データから精度の高い分析情報を作成したり、バッチ処理に利用できるほか、分散システムのメリットを活かし、負荷分散や高い可用性などを実現する。OSSで公開されており、エンタープライズで多くの実績を持つ。 イベントの後半で登壇したノーチラ

    神林節炸裂!Asakusa Frameworkは「分散」から「並列」へ (1/3)
    kimutansk
    kimutansk 2015/12/01
    Asakusaの実行エンジンが増えますか。エンプラで中~大規模がないのでSpark効率悪すぎというのはそうですが、これをIBMスポンサードのSparkイベントでもぶっちゃけるのがすごいですよねw
  • 大規模データ分析システムの現在。Asakusa Frameworkの実力、Azureの多機能、シスコのハイブリッドクラウドソリューションを見る[PR]

    大規模データ分析システムの現在。Asakusa Frameworkの実力、Azureの多機能、シスコのハイブリッドクラウドソリューションを見る[PR] 大規模に収集したデータを分析して企業の意思決定に生かすということが、一般的になろうとしています。この新しいビジネスニーズに合致する大規模データ分析システムとは、どのようにあるべきなのでしょうか。 シスコシステムズ合同会社および日マイクロソフト株式会社の協賛のもと、株式会社ノーチラス・テクノロジーズ主催の「IoT時代のハイブリッドクラウドによる最新のデータ活用セミナー」が10月初旬に開催されました。 各社による大規模データ分析のためのソリューションを見ていきましょう。 シスコのIntercloud Fabricでハイブリッドクラウドを実現 大規模なデータ処理をおこなうための基盤とはどうあるべきなのか。その効率性を考えると「プライベートクラウ

    大規模データ分析システムの現在。Asakusa Frameworkの実力、Azureの多機能、シスコのハイブリッドクラウドソリューションを見る[PR]
    kimutansk
    kimutansk 2015/11/30
    Asakusaを使うことである程度抽象化して将来性のあるバッチが書けるならそれはそれで面白いことなんですよね。書き方は見ておきますか。
  • Java8 Stream APIとApache SparkとAsakusa Frameworkの類似点・相違点

    JJUG CCC 2015 Fall http://www.java-users.jp/?page_id=2056

    Java8 Stream APIとApache SparkとAsakusa Frameworkの類似点・相違点
    kimutansk
    kimutansk 2015/11/29
    SparkMLlibみたいに収束するまで繰り返す、というパターンは無限循環でないから、一応DAGに含まれるんでしょうか・・・
  • Asakusa on Spark - 急がば回れ、選ぶなら近道

    Asakusa on Spark AsakusaがSpark上で動くようになりました。 Asakusa on Spark (Developer Preview) — Asakusa Framework Developer Preview 0.2.2 documentation すでに実際に番に利用しています。 ノーチラス・テクノロジーズがさくらインターネットにAsakusa Frameworkで開発した大規模データの高速処理基盤を導入し、顧客単位での精度の高い原価計算を実現高速処理基盤はApache Spark™で構築 | NAUTILUS OSSとしての公開を行いましたので、内容や位置づけをまとめておきます。例によってノーチラスは社内でいろんな意見は当然出ていますが、今回は概ね一致している感じです。 パフォーマンス 概ね「業務バッチ処理という観点で見れば、すべからくHadoopMapR

    Asakusa on Spark - 急がば回れ、選ぶなら近道
    kimutansk
    kimutansk 2015/07/08
    すべての処理を無理矢理Map・Reduceの形にしなければならない/Map・Reduceのタスク処理が実態としてはそれぞれが独立したjvmアプリケーションになっている がコストが大きいと。
  • Asakusa Framework 勉強会 2014秋の感想 - ひしだまの変更履歴

    ひしだまHPの更新履歴。 主にTRPGリプレイの元ネタ集、プログラミング技術メモと自作ソフト、好きなゲーム音楽です。 2014/10/17『Asakusa Framework 勉強会 2014秋』に行ってきました。 今回の会場はサイトロックさん。 サイトロックさんはシステム運用をやっている会社で、噂には聞いていましたが、行ったのは初めてでした。堂とかおしゃれな感じですね(笑) 最初は恒例の土佐さんの『Asakusa fwはじめの一歩 0.7.0』。 拙作DMDL EditorXですが、いくつか使用できない箇所があったようで>< 属性追加ウィザードの障害(issue42)は、自分の環境では再現しないんですよねぇ。 たぶんXtext内部の情報に不整合があるのだと思います。プロジェクトのクリーンをしたりdmdlファイルを保存し直したりすると直るかも? フローのテストクラスの作成の障害(iss

    Asakusa Framework 勉強会 2014秋の感想 - ひしだまの変更履歴
    kimutansk
    kimutansk 2014/10/21
    他のエコシステムの中でこういう風に来ますか。後はParquetのフィールド型の対応状況は今度見てみましょう。
  • 1