サクサク読めて、アプリ限定の機能も多数!
小さいモデルで探索したハイパーパラメータをそのまま大きなモデルに転用できるという手法。そのための条件を数学的に決めれると。すごい頭の良さ。
stealthinu のブックマーク 2024/04/08 20:12
μTransfer: 小規模モデルでのハイパラ探索を大規模モデルに転移し学習を効率化する|Tatsuya Shirakawa[deeplearning]小さいモデルで探索したハイパーパラメータをそのまま大きなモデルに転用できるという手法。そのための条件を数学的に決めれると。すごい頭の良さ。2024/04/08 20:12
このブックマークにはスターがありません。 最初のスターをつけてみよう!
note.com/tatsuyashirakawa2024/02/26
最近、友人から大規模モデルの学習を劇的に効率化しそうな下記の事実(μTransfer)を教えてもらい、こんなことが成り立つことに非常に驚くとともに、それを知らなかったことにちょっとしたショックを受けました。...
13 人がブックマーク・2 件のコメント
\ コメントが サクサク読める アプリです /
小さいモデルで探索したハイパーパラメータをそのまま大きなモデルに転用できるという手法。そのための条件を数学的に決めれると。すごい頭の良さ。
stealthinu のブックマーク 2024/04/08 20:12
このブックマークにはスターがありません。
最初のスターをつけてみよう!
μTransfer: 小規模モデルでのハイパラ探索を大規模モデルに転移し学習を効率化する|Tatsuya Shirakawa
note.com/tatsuyashirakawa2024/02/26
最近、友人から大規模モデルの学習を劇的に効率化しそうな下記の事実(μTransfer)を教えてもらい、こんなことが成り立つことに非常に驚くとともに、それを知らなかったことにちょっとしたショックを受けました。...
13 人がブックマーク・2 件のコメント
\ コメントが サクサク読める アプリです /