はじめまして。ABEJAでResearcherをやらせていただいている白川です。 先日、化合物の物性推定をDeep Learningをつかって従来手法より300,000倍高速に処理するという論文がでました（[1], [2]）。この論文の手法は、Graph Convolutionというグラフ上に定義されたConvolution演算がベースとなっています。物性推定に限らず、グラフ解析全般を Deep Learning で上手にこなせるようになれば、Deep Learningのアプリケーションの幅がぐっと拡がり、さらなるイノベーションが起きそうな予感がします。 ICMLやNIPSなどの機械学習系の主要国際会議でも数年前からGraph Convolutionについての論文がちらほら出現しはじめており、とくに最近その勢いが増してきている印象があります。個人的にも最近（前から？）にわかにグラフづいてい

アクターモデルというのは、並行処理のプログラミングモデルの一つだ。 並行処理という言葉からは、まずマルチスレッドとかをイメージすると思うけど、それよりも抽象度の高い概念となっている。 つまり、アクターモデルというのはマルチスレッドなどを用いて構築することになる。 どちらかといえばプロセス間通信 (IPC) の技法であって、共有メモリやロック、RPC と比較するものかもしれない。 そんなアクターモデルは、概念とか使ったときの嬉しさを理解・実感するのがなかなか難しいモデルだとも思う。 理由としては、使い始めるまでに必要なコード量が多かったり、それなりの規模のアプリケーションで使わないとメリットが分かりづらい点が挙げられる。 ただ、これはあくまで主観的なものだけど、アクターモデルをベースに組まれたアプリケーションは規模が大きくなっても並行処理をしているコードが読みやすい。 共有メモリやロックを使

IBMのAI研究は1950年代にさかのぼり、スーパーコンピューター「ディープ・ブルー」がチェスのグランドマスター、ガルリ・カスパロフを破るなど、重要なマイルストーンがあります。2011年、IBM WatsonはJeopardy! 挑戦。質問の手がかりを見つけて理解するために、Watsonは、その正確さの信頼度をランク付けして考えられる回答を比較し、すべて3秒以内に回答しました。 Watsonは「考える機械」への好奇心に火をつけ、AIをビジネスに応用する可能性を切り開きました。金融サービスから小売業まで、さまざまな業界のお客様がWatsonを活用して、新たな洞察を得て、生産性の向上やより良い顧客体験の提供を実現しています。現在、IBMはWatsonのコア技術をさらに進化させ、次世代のAIとデータのプラットフォーム、そしてwatsonxを活用したAI支援機能を開発しました。 今すぐ利用可能 w

ここ数年、暇さえあれば香港に行っている。団地を見に。 何回行ってもうっとりしちゃうんですが、今回は特にすごい物件に出会ったので、それをご紹介したい。 そして、崖と団地の関係を見ていったら、この街全体がひとつの建物なのでは、と思い至ったので、そのお話も。 「別に団地なんか興味ない」という方（そういう方がほとんどでしょうが）もこれは見に行く価値あると思いますよ。ほんとに。

Photo by Jayphen 秋山です。 先日「Python Fire」という、Pythonのコマンドラインツールを自動生成できるライブラリが発表されました。 どのへんが便利なのか、実際に使ってみながら解説をしていきますので、気になってた人の参考になればと思います。 Googleのリポジトリに出ているのでGoogleの公式プロダクト？と思いきや、最後に「This is not an official Google product.」の表記があるのでGoogle公式ではないようですね。Googleの中の人が作った非公式ライブラリということでしょうかね。 github.com ■Python Fire使ってみた そもそもPythonには、コマンドラインからコマンドを受け付ける組み込みのライブラリがあります。他にもbakerとか、clickとか、既にコマンドラインツールを作る用の補助ライブラ

こんにちは、スマートニュースの徳永です。深層学習業界はGANだとか深層強化学習だとかで盛り上がっていますが、今日は淡々と、ニューラルネットワークの量子化の話をします。 TL;DR パラメータだけを量子化するのであれば、ほぼ精度を落とさずに、パラメータのデータ容量は1/16程度にまで削減できる パラメータ、アクティベーション、勾配のすべてを量子化し、推論だけでなく学習までもビット演算だけで実現する研究が進んできている 現在は深層学習 = GPU必須というぐらいの勢いがあるけど、量子化の研究が進むと、今後はどうなるかわからないよ はじめに 情報理論における量子化とは、アナログな量を離散的な値で近似的に表現することを指しますが、本稿における量子化は厳密に言うとちょっと意味が違い、十分な（=32bitもしくは16bit）精度で表現されていた量を、ずっと少ないビット数で表現することを言います。 ニュ

はじめに 本記事は電子書籍版もあります。 linuxカーネルはC言語のマクロを駆使して書かれています。それらのうち、凝ったマクロになじみの無い人には初見では意図がわからない&わかってみれば面白いであろうものをいくつか紹介いたします。対象読者は、C言語のユーザだけれども、マクロは定数定義くらいにしか使わないというライトなマクロユーザです。 マクロを使用する場所に依存するエラーを防ぐ 次のマクロは、二つの引き数の値を置換するだけの単純なものです。

翻訳系API「Translator API」の使い方と2017年2月現在のWatson、Google翻訳との違い：認識系API活用入門（2）（1/3 ページ） コグニティブサービスのAPIを用いて、「現在のコグニティブサービスでどのようなことができるのか」「どのようにして利用できるのか」「どの程度の精度なのか」を検証していく連載。今回は、Translator APIの概要と使い方を解説し、他のサービスとの違いを5パターンで検証する。 ※本稿は2017年2月14日の情報を基に作成しています。この記事内で使用している画面やコグニティブサービスの仕様、精度は変更になっている場合があります。 本連載「認識系API活用入門」では、マイクロソフトのコグニティブサービスのAPIを用いて、「現在のコグニティブサービスでどのようなことができるのか」「どのようにして利用できるのか」「どの程度の精度なのか」を検

新しいニューラルネットワークのアーキテクチャがその時々で誕生するため、それら全部を把握することは困難です。全ての略語を覚えようとすると、最初はその数の多さに圧倒されてしまうでしょう（DCIGNやBiLSTM、DCGANを知っている人はいますか？）。 そんなわけで、これらのアーキテクチャの多くを盛り込んだチートシートを作ることにしました。そのほとんどはニューラルネットワークです。しかし、中には全く異なるアーキテクチャも潜んでいます。どれも独特で目新しいアーキテクチャばかりですが、ノードの構造を描くことで基本的な関係が分かりやすくなってきます。 これらをノードマップとして描くことの問題点は、これらがどのように使われるかを明確に示していないという点です。例えば、変分オートエンコーダ（VAE）はオートエンコーダ（AE）と同じように見えますが、実際は訓練過程が全く異なりますし、訓練したネットワークの

渡辺です。 Ansibleを使っている皆様、テスト書いてますか？ え、書いてない？ 弊社では、社内共有しているAnsibleのRoleの検証にServerspecを利用しています。 今日はよく使うリソースタイプを紹介します。 テストの流れ テストのフレームワークとしてはTest Kitchenを利用しています（kitchen-ansiblepushを利用したAnsible roleのテスト環境構築）。 はじめに、Test KitchenのEC2 Driverを利用し、AWS環境にEC2インスタンスを作成します。 次に、ひとつのRoleを実行するAnsibleのPlaybookを流します。 続けて、サーバの状態が期待された状態になっているかをServerspecで検証します。 最後に、AWS環境にEC2インスタンスが破棄されます（検証失敗時は破棄されない）。 Ansibleでもテストの仕組み

渡辺です。 2015年11月にRole を使ったAnsibleのチュートリアル書きました。 それから1年以上経ち、ノウハウも溜まってきたので、新しく書き直してみます。 セットアップ Ansibleのインストールと、EC2インスタンスを2台起動しておきます。 ssh_configの作成 はじめにホスト情報をssh_configに定義します。 ansible.cnfでssh_configを設定するでも書いたようにSSHで接続する時のユーザ名や秘密鍵の場所はssh_configを作成してまとめておくと便利です。 プロジェクトディレクトリにssh_configを作成しましょう。 Host * StrictHostKeyChecking no UserKnownHostsFile /dev/null Host test1a HostName xx.xxx.xx.xxx User ec2-user I

dennou-kurage.hatenablog.com ウァァ！ 「もう本文これだけでいいんじゃね？大体通じるんじゃね？」という気がしましたが、僕は書きます。上に引用したエントリはまぁ、正しいと思うんですよ。そう思う。本当に思うよ。みんなスパっと働いてスパっと帰宅する。そして家に帰ってシェスタする。そういう世界が美しいと思う。本当に思う。僕もそうしたい。そうしたいんだ…。（パソコンの前で「記事を書く」画面を睨んで２時間が経過しようとしています） 僕がかつて勤めていた職場の雰囲気もこれでした。その昔は常に残業カーニバルが開催され、人々は踊って暮らしていたそうです。でも、ある日マッキンゼーって額に刺青した部族がやってきて全てを蹂躙したとのことです。それ以来、残業は罪となり、罪は塩の柱となりました。祭りはこのように終わったのです。 で、まぁ長い前置きだったんですけど、要するに僕が言いたいのはこ

2017/02/03 JaSST’17 Tokyo

仕事でかっこいいインタラクションを実装することになって、canvasでごりごり頑張るかなぁとも思ったのだけど、少し前に話題になったlottieを使ってみることにした。 結果、レベルの高いアニメーションをすこぶる簡単に1時間もかからず実装することができた。 実際に導入してみるところまで +α を説明してみる。 lottieとは 詳細は こちら から見ることができる。知らない人に三行で説明してみると After Effectsで作ったアニメーションを jsonに変換して それをそのまま読み込ませてアプリに組み込める 以上。 Android, iOS, Native Reactに対応しているみたい。 例えば下記はAfter Effectsで Lottie のサンプルを動かしているところ。 これを、jsonに変換してそのまま lottieのライブラリを入れてjsonを読み込ませるだけで下記のように

オーソドックス な アプローチ（一般的手法） まず は、以下 が よくまとまっている。 株式会社クロスコンパス・インテリジェンス（2016.10.5）「NVIDIA GPU TECHNOLOGY CONFERENCE JAPAN 2016 Industry Deep Learning」 異常値予測 を 行う アプローチ としては、以下 が 一般的な考え方 の ようだ。 （データ量の多い）正常時のデータ挙動の特徴パターンを学ばせて、 新規データが上記の特徴パターンから乖離している場合を、異常とみなす 上記のアプローチをとる理由 は、「異常発生時のデータ」の取得可能件数 は、「正常時のデータ」 に 比べて、取得できるデータの件数 が 圧倒的に少ない から である。 上記のスライド で 挙げられている AutoEncoderモデル や LSTMモデル を 採用し、 AutoEncoderモデル

趣味でアルゴリズム取引のシステムを開発・運用してみたことで得られた知見について、社内のテーマ自由な勉強会で発表しました。

Appleが提供しているSiriは、数秒のうちに何千とある上映映画の情報を分析し、あなたが今いる場所から見に行くのにベストな時間と映画館情報をおススメとして提示してくれます。Spotifyは、あなたの音楽の好みを把握してパーソナライズされたプレイリストを作成してくれます。そして、Facebookは、写真に写るお友達の顔を即座に識別し、ほぼ98%の精度でタグ付けを提案してくれます。こうしたすべてのことが、自然言語処理やディープラーニング、機械学習といった複雑かつ高度技術ソリューションであるAI（人工知能）によって実現されています。AIのおかげで、私たちの生活におけるすべての行動がさらにスマートに、生産的になるのです。 もはや多くの企業にとって、テクノロジーの専門性やインフラストラクチャ、その他のリソースにAIソリューションを取り込むことはエンタープライズアプリを活用する上で非常に重要事項とな

名古屋Ruby会議03 発表資料。

StackGANによるフォントの錬金術 図1. 中央が錬金したフォント 近況 図2. 真理の一撃を放とうとするカリオストロさん（公式絵より）　グランブルーファンタジーというスマホのゲームでカリオストロというキャラクターがいます。もとは天才錬金術師で、自己の性別を錬金術で男から女に変えた天才です。そんな彼（彼女？）が真理の一撃だー！っていうんですよ、かっこよいですね。 あまりにも今までの不可能を打開し続けるDeep Learning。自分で言うと甚だ科学としての機械学習が零落しそうですが、まだDeep Learningは体系化された知恵の集合体としての正しい科学の段階にはたどり着いていないように思います。どちらかと言うと錬金術に近い技かも。 Deep Learningは、いつかまだ見ぬ真理へと人類を導いてくれるんでしょうか。各人、期待しております。 モチベーション 日本語のフォントを作成する