教師なし学習は機械翻訳に魔法をかけるか？ - ディープラーニングブログ

つい先週，機械翻訳で驚くべき進展がありました． 教師なし機械翻訳がヤバい進化を遂げててびっくりした．たった半年でBLEUスコアを15から25に改善したのブレイクスルーでは？https://t.co/SVQlYYu2Pt 教師なし学習でこのクオリティの機械翻訳できるのまじで感動するし，ちょっと語っていい？ pic.twitter.com/fBllGtTkgb— Ryobot | りょぼっと (@_Ryobot) 2018年4月23日 要約すると教師なし学習でもひと昔前の教師あり学習の機械翻訳に匹敵する性能を獲得できたというのです．この記事では機械翻訳を知らない初心者にもわかるように魔法のような教師なし機械翻訳の仕組みを説明したいと思います． 教師あり学習の限界 機械翻訳はディープラーニングを適用することで急激に進歩した分野の１つだと思います．Google 翻訳はニューラル機械翻訳を導入するこ

[Nyoho]

えー! 機械翻訳で教師なし学習できるんー⁈ しかも半年でめちゃくちゃ成果出とるってすごいね。しかもこの話、前回 #washipo でみかりんさんと話した通訳の頭の中と似とる。なるほど逆翻訳は「教師なし画風変換の CycleGAN

[cider_kondo]

翻訳の話というよりも、「言語とは何か？」「意味とは何か？」という根源的な問いに必要以上に迫ってる感じがして困る

[paravola]

逆翻訳は教師なし画風変換のCycleGANに似た学習方法と言えます／今後，画像とテキスト間の教師なし変換が可能になるかもしれません

[karaage]

ほえー

[ledsun]

対訳のセットを使わないことを「教師なし機械翻訳」と言うらしい。正しい、日本語、英語のセットは使う。翻訳、逆翻訳して似ていれば、正しいとして育てていくらしい。最初は何からはじめるのだろうか？

[gayou]

論文書いたのはfacebookの中の人？なんか凄いことになってる。学習データの量や使用したコンピュータリソース、計算時間とか気になる。

[LiosK]

原文とback translate (翻訳文の再翻訳文) との誤差を最小化するように学習。latent representation (潜在表現) の抽出に使うエンコーダー・デコーダーのパラメーターを翻訳元・翻訳先言語で共通化。おもしろい。

[elu_18]

教師なし学習は機械翻訳に魔法をかけるか？ 良い解説．back-translationとdenoisingとパラメータ共有による潜在表現の共有．なるほど． https://t.co/eikAie9beu https://t.co/hIBU9fAoa2

[naga_sawa]

とりあずgoogle日英翻訳でそれっぽい英文を作る→いじった文を英日翻訳して日本語になってるか確認する/ってやってるのと似たようなことやってるという理解でOK？

[wthirow]

イデア論だね。人間では為し遂げられないイデアの共有化まであとわずか。言語の変換だけではなく、五感の変換まで行えるようになったら何が出来るんだろう。

[natroun]

これはかなりすごいことのように素人目には思える。手法自体ももしかするとさらに他でも使えるかもしれないし。深層学習まだまだ熱いっぽいなあ。

[kyukyunyorituryo]

英→日→英にしたときに元と誤差が少なくするように学習するということか。

[kana0355]

対訳にする必要はないけど，対訳に相当する文が両方のコーパスにないといけない．

[zuzu_sion]

去年からそうだけど、そろそろ教師なし学習が本流の時代が来るのかな？

[chezou]

パラメータ共有するだけでそんなにいけるのか、すげー。しかも、半年のスピード感とは...。

[morita_non]

なるほど分からん

[skypenguins]

cycleGANと似てるってのが面白い

[co8co8]

現代語と古語の変換もできるようになるんだなー、きっと。興味深い

[mangakoji]

狐がつまんだ！

[psfactory]

教師なし学習は機械翻訳に魔法をかけるか？ - ディープラーニングブログ

[wrss]

あとで読む

[kirifue]

翻訳はすべて自動化され（脚色的な要素が入るものは別として）、同時通訳という職業が過去のものとなる日も近いと思う。 #英語 #人工知能

[itouhiro]

「先週の論文。ようやく日本語由来と英語由来の潜在表現（ニューラルネットワークが理解できる言葉＝数値の羅列）は一体化しノイズ除去からノイズの多い逆翻訳への移行に成功。教師なし学習でも流暢な翻訳可能に」

[Jagamonty]

OpenNMTとsentencepieceで学習させまくってるけどなるほど、教師なし学習も有効なのか…

[kowa]

すごいわー、暗号解読できたり、古文書の理解もできるかも？（コーパス足りないから無理か）人類の言語は全て互いに翻訳可能であるという暗の仮説は面白い

[netcraft3]

わかりやすい。