気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
3 usersがブックマーク
2
2
Jax/Flax × TransformersでBERTのfine-tuningをTPUで行う | 株式会社AI Shift
3 users
www.ai-shift.co.jp
www.ai-shift.co.jp
記事へのコメント2件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Jax/Flax × TransformersでBERTのfine-tuningをTPUで行う | 株式会社AI Shift
こんにちは AIチームの戸田です 以前、BERTをfine-tuningする際のTipsとして混合精度の利用や、Uniform ... こんにちは AIチームの戸田です 以前、BERTをfine-tuningする際のTipsとして混合精度の利用や、Uniform Length Batchingをつかった学習効率化を紹介させていただきましたが、今回はTPUを使った高速化について紹介したいと思います。 Flax TPU対応というと、まずGoogleのTensorflowが思い浮かびますが、今回は同じGoogleのニューラルネット学習用フレームワークのFlaxを使います。 FlaxはTensorflowと比較して簡潔に、かつ柔軟に書くことができると言われており、huggingfaceのtransformersもv4.8.0からFlaxをサポートするようになっています。 JAX/Flax has joined the ranks of PyTorch and TensorFlow in 🤗Transformers! Versio
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
www.ai-shift.co.jp
www.ai-shift.co.jp
www.ai-shift.co.jp
www.ai-shift.co.jp
www.nict.go.jp
anond.hatelabo.jp
www.nikkei.com
mainichi.jp
note.com/t_washio
tech.mntsq.co.jp
qiita.com/kccs_hiromi-nishida
speakerdeck.com/chanyou0311
togetter.com
news.un.org
speakerdeck.com/euglena1215
pc.watch.impress.co.jp
qiita.com/KWS_0901
www.sankei.com
2022/01/03 リンク