Google機械翻訳の仕組み&できるようになったこと/まだ難しいことについて、社内の機械学習勉強会で説明します - yasuhisa's blog

社内の機械学習勉強会で最近話題になった機械学習関連のエントリを取り上げているのですが、ここ一ヶ月ではGoogle Neural Machine Translation(GNMT)がとても話題になっていました。GNMTで使われているEncoder-Decoderやattentionのような仕組みを直近で使う予定は特にはないですが、機械学習を使うエンジニアとして知っておいて損はないし、技術的に何が変わったことにより何ができるようになって、何はまだできないのかを知ろう、というのが目的です。技術的な項目は興味ない人も多そうなので、最後に持っていきました。 Google Neural Machine Translation(GNMT)の最近の進化について できるようになったこと 定量的な評価 まだまだ難しいこと 技術的な詳細 Encoder-decoder Attention based encod

[BigHopeClasic]

「この先生きのこる」を「完璧に」翻訳できているとは思わなかったよ。

[bxyxvzz]

今グーグルで自然言語処理の研究してる人は幸せだろう。圧倒的に勝ち組だ。画像認識と違って簡単には真似できなさそうだし深刻さが際立つ。

[kimutansk]

同じ単語をはきまくる問題の原因はそういうことだったわけですか。次の単語と隠れ状態を基に作って最後に到達するまで循環させるので、こうなる・・？

[sky-y]

参考になります。そして「GNMTが公開された3日後くらいにはMSも翻訳をNMTにしていて」が地味に気になる。

[stealthinu]

GNMTでの進化した部分の説明。

[natroun]

ふおお……あんまわかってないけど、面白いなあ……。

[zu2]

“GNMTが公開された3日後くらいにはMSも翻訳をNMTにしていて、業界の変化の速さに青ざめました...”

[mzkzzz]

日本語って訳すのほんとむずかしそう

[Mamiccho]

すごい！

[chezou]

単語の系列を入れるとNNが頑張るというのは改めて見ても凄いな...

[manFromTomorrow]

“これまで作られてきたエコシステムがうまく回らなくなる部分も出てくる”　まさに破壊的・・・

[nisisinjuku]

何がマズイのか、僕にはわからないレベルに良いようなきがする☆

[miyakeyuki]

パワーアップすれば語学学習不要になるのかなあ

[y___u]

attentionとかの話はこないだも出てたなー

[psfactory]

Google機械翻訳の仕組み&できるようになったこと/まだ難しいことについて、社内の機械学習勉強会で説明します - yasuhisa's blog

[quwachy]

SEC2SECとRNNだけでこれだけできるようになったのは技術者目線では素晴らしい成果、ネイティブの日本語話者としてはまだまだ不自然だけどバカにする気にはなれない

[aliliput]

wonderful person

[azumi_s]

面白い

[formlesswater]

機械学習

[hiddy216]

あとでー

[henno]

http://jp.techcrunch.com/2016/11/23/20161122googles-ai-translation-tool-seems-to-have-invented-its-own-secret-internal-language/

[yoshihiroueda]

encoder+decoderモデルなら間にあるのがinterlinguaということになるのか。

[y_uuki]

"応用側がencoder decoderのようなend2endで現実的に解かれるようになると自然言語処理でこれまで作られてきたエコシステムがうまく回らなくなる部分も出てくるのかなと思うところもありました。"

[pikarin1404]

Google機械翻訳の仕組み&できるようになったこと/まだ難しいことについて、社内の機械学習勉強会で説明します - yasuhisa's blog