“LoRA をゼロから – PyTorch で LLM の低ランク適応を実装する”

misshiki のブックマーク 2024/01/24 13:48

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4748247954113625295/comment/misshiki" data-user-id="misshiki" data-entry-url="https://b.hatena.ne.jp/entry/s/lightning.ai/lightning-ai/studios/code-lora-from-scratch" data-original-href="https://lightning.ai/lightning-ai/studios/code-lora-from-scratch" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Flightning.ai%2Flightning-ai%2Fstudios%2Fcode-lora-from-scratch" data-user-icon="/users/misshiki/profile.png">Code LoRA from Scratch - a Lightning Studio by sebastian</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/PyTorch">PyTorch</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E8%87%AA%E7%84%B6%E8%A8%80%E8%AA%9E%E5%87%A6%E7%90%86">自然言語処理</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E3%83%87%E3%82%A3%E3%83%BC%E3%83%97%E3%83%A9%E3%83%BC%E3%83%8B%E3%83%B3%E3%82%B0">ディープラーニング</a>]</li></ul><br><p style="clear: left">“LoRA をゼロから – PyTorch で LLM の低ランク適応を実装する”</p><a class="datetime" href="https://b.hatena.ne.jp/misshiki/20240124#bookmark-4748247954113625295"><span class="datetime-body">2024/01/24 13:48</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

Code LoRA from Scratch - a Lightning Studio by sebastian

lightning.ai2024/01/23

LoRA (Low-Rank Adaptation) is a popular technique to finetune LLMs more efficiently. This Studio explains how LoRA works by coding it from scratch, which is an excellent exercise for looking under ...

12 人がブックマーク・1 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

Code LoRA from Scratch - a Lightning Studio by sebastian

はてなブックマーク

公式Twitter

はてなのサービス