今回の目的 前回はPyTorchのRNNクラスを使って、梶井基次郎の小説データを基に文章生成を行いました。できあがったニューラルネットワークモデルは、「檸檬」を与えると「檸檬などごくありふれている」という文を頻繁に生成するようなものとなっていました。恐らくは訓練データに過剰に適合した（過学習をした）ことにより、このようなモデルになってしまったのでしょう。 そこで、今回はパープレキシティーという損失とは別の指標を導入して、前回のニューラルネットワークモデルがどんなものだったかを観察した後、過学習を避ける仕組みを導入します。果たして、これにより前回よりもよい精度で文を生成できるようになるのでしょうか。 なお、分かち書きされたデータから辞書やデータセット／データローダーを作成するコードなどは前回までに見てきたものと同様なので、本稿ではそれらについては紹介しません。ここでは、前回までのコードに少し
図解でわかる!理工系のためのよい文章の書き方
暑い日が続きますね。今日はそんな暑さを吹き飛ばすような、ちょっと怖い話をしましょう。 4ページ以上のまとまった文書をまだ書いたことのない人は、自分の文章力を過信しているため、その文書の締切直前になって「これ確認していただけますか」と草稿を上司に持っていったりします。その人の頭の中では、修正があったとしてもせいぜい次の図くらいだろうから、ササッと直して締切には余裕で間に合わせられると思っていたりします。 ところが、実際にはこのような添削結果が返ってくるものです。 ま、この程度の修正はごくごく普通と思っていただいてよいでしょう。（参考文献 1, 2） さらに困ったことに、このレベルで修正が必要な文章の添削には、かなりの時間がかかります。修正指示をどのように書けばよいのか、添削する側も頭を使わねばならないからです。いっそ自分で書き直した方がてっとり早いのですが、いつもいつもそうしていては教育にな
にゃんすけ on Twitter: "オープンワークスでアクセンチュア見てたんだけど、古典落語みたいなとてもよい文章だった。 https://t.co/pHJLglXNkh"
オープンワークスでアクセンチュア見てたんだけど、古典落語みたいなとてもよい文章だった。 https://t.co/pHJLglXNkh
新たなモラハラ論法 我が家のモラハラ妻のモラハラ論法がさらなる進化を遂げました。 これが、以前紹介した「都合の良い事実や論理だけを繋ぐモラハラ論法」の進化型、重症化型だということは僕には分かるのですが、このモラハラ論法をなんと表現して良いのか悩みます。 現時点では、都合よく文章切り貼りモラハラ論法と名付けましょう。 もし僕がモラハラ被害者の成長過程として、「都合の良い事実や論理だけを繋ぐモラハラ論法」を学習していなかったら、すごく混乱したはずです。 ついに頭がおかしくなったのか？ モラ妻に都合の良いように過去の記憶が改ざんされたのか？ 分かっていて嘘をついているのか？ なんて混乱したと思います。どれも違います。 この記事が、モラハラ人間の文章切り貼り論法に混乱している被害者の方の参考になれば幸いです。 新たなモラハラ論法 都合の良い事実や論理だけを繋ぐモラハラ論法 都合よく文章切り貼りモラ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
［文章生成］パープレキシティーとドロップアウトにより、よりよい文章生成を目指してみよう
都合よく文章切り貼りモラハラ論法 - アメリカでナルナルNPD退治の日々