逆翻訳は機械翻訳の錬金術師か？ - ディープラーニングブログ

逆翻訳 (Back-Translation) を用いた手法が驚くべき快挙を成し遂げました*1． 逆翻訳がヤバいスコアを叩き出しててびっくりした．おそらくAttention以降では最大の性能uphttps://t.co/ssaQw2s22f 深層学習はえげつない手法が突然ポッとでてくるからおもろい pic.twitter.com/RwyrjCn8Rx— Ryobot | りょぼっと (@_Ryobot) 2018年11月15日 毎年開催される機械翻訳の国際会議 WMT18 のシェアードタスク*2にて人手評価の1位を獲得し，機械翻訳のベンチマークでは以前の最高スコアが 29.8 なのに対しこの手法は 35.0 を達成しています． 下図は機械翻訳のベンチマークにおける手法の比較です*3． 昨年登場した翻訳モデル Transformer *4も大きく評価スコアを上げましたが，逆翻訳はそれ以上の上が

[theatrical]

適切なデータ拡張ができればデータ数の少ないものでもディープラーニングの効果を得られるってことですかね。

[kuippa]

逆翻訳とか複数言語トランポリンして遊ぶみたいなのも過渡期のこの瞬間しかできない遊びなのかもね。

[RabbitBit]

データの多様性こそが真髄で、少ない対訳文書と多くの単言語文書から、多くの対訳文書があるかのような多様性を捻出するトリック。その多様性を黄金に例えるなら、確かに錬金術のよう。

[stealthinu]

ノイズやサンプリングにより拡張したデータから変換→逆変換して対訳データ拡張を行って大幅にスコア上げた。GANとか生成系で翻訳以外でも同様手法が使えるのでは。

[currypurin]

とってもわかりやすかったです。素晴らしい。

[okadaic]

あとで読む。（本文とは関係ないけど最初のtweetの図解、私の言う「美少女のガワ」とはこういうものです。居るとかわいいけど別に居なくてもいい、日本でだけなぜかどこにでも居る、架空の女の子たち。）

[knok]

BLEUは良いようだけど人間の評価はどうなのかな。そこのところ言及が元論文にもなかったっぽいけど

[sds-page]

こいつはコトだ！

[akiramaz]

すごい

[cartman0]

逆翻訳のノイズがデカイと破綻しそうだけどどうなんだ

[maple_magician]

“ここでは逆翻訳がいかに機械翻訳の性能を向上させたのかわかりやすく解説したいと思います．元論文を読みたい方は Understanding Back-Translation at Scale を参照してください．”

[blueboy]

　金を生み出すほどではなく、銀でもなく、銅か鉄だね。ゴミばかりを生み出していた時代を脱して、実用品を生み出しつつあるということか。Google 翻訳が初代だったかな。あれは青銅時代かな。

[gabill]

表現を(少し|ちょっと)変えただけで全然違う訳文を(吐き出す|出力する)翻訳エンジンが改善されるのかな。

[tsz]

発想はシンプルでも、構成は苦労したんだろうな。

[yarumato]

“大規模な学習データが得られない時はどうすれば？　日英翻訳した英文を英日翻訳してセルフ英文校正する方は多いと思います。実は逆翻訳は機械翻訳のデータ拡張として使えます。逆翻訳は評価スコアで有益と判明”

[rascalrascal]

54のブックマークに2のブコメか。みんな、何書いていいか悩んでるんだな。

[manjirou99]

素晴らしい。自然言語処理以外にも色々応用が効く考え方ではないでしょうか