“「GaLore」は、「NVIDIA RTX 4090」などの家庭用GPU上で、Llamaなどの最大7Bパラメータを持つモデルの学習を容易にします。”

自然言語処理

misshiki のブックマーク 2024/03/25 15:12

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4750984813318012064/comment/misshiki" data-user-id="misshiki" data-entry-url="https://b.hatena.ne.jp/entry/s/note.com/npaka/n/n8e4537502e3e" data-original-href="https://note.com/npaka/n/n8e4537502e3e" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fnote.com%2Fnpaka%2Fn%2Fn8e4537502e3e" data-user-icon="/users/misshiki/profile.png">GaLore - 家庭用ハードウェアでの大規模モデルの学習｜npaka</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E8%87%AA%E7%84%B6%E8%A8%80%E8%AA%9E%E5%87%A6%E7%90%86">自然言語処理</a>]</li></ul><br><p style="clear: left">“「GaLore」は、「NVIDIA RTX 4090」などの家庭用GPU上で、Llamaなどの最大7Bパラメータを持つモデルの学習を容易にします。”</p><a class="datetime" href="https://b.hatena.ne.jp/misshiki/20240325#bookmark-4750984813318012064"><span class="datetime-body">2024/03/25 15:12</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

GaLore - 家庭用ハードウェアでの大規模モデルの学習｜npaka

note.com/npaka2024/03/22

以下の記事が面白かったので、簡単にまとめました。・GaLore: Advancing Large Model Training on Consumer-grade Hardware 1. GaLore「GaLore」は、「NVIDIA RTX 4090」などの家庭用GPU上で、Llamaなどの最大7B...

21 人がブックマーク・1 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

GaLore - 家庭用ハードウェアでの大規模モデルの学習｜npaka

はてなブックマーク

公式Twitter

はてなのサービス