なんで小数かというと逆伝播のために微分可能な計算でなければならなかったからだが、１、0、-1からの逆変換ってどうやってやるのだろう。

rryu のブックマーク 2024/03/02 20:22

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4749968462768858048/comment/rryu" data-user-id="rryu" data-entry-url="https://b.hatena.ne.jp/entry/s/gigazine.net/news/20240229-microsoft-1bit-llm/" data-original-href="https://gigazine.net/news/20240229-microsoft-1bit-llm/" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fgigazine.net%2Fnews%2F20240229-microsoft-1bit-llm%2F" data-user-icon="/users/rryu/profile.png">Microsoftが1.58ビットの大規模言語モデルをリリース、行列計算を足し算にできて計算コスト激減へ</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E3%81%82%E3%81%A8%E3%81%A7%E8%AA%AD%E3%82%80">あとで読む</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/AI">AI</a>]</li></ul><br><p style="clear: left">なんで小数かというと逆伝播のために微分可能な計算でなければならなかったからだが、１、0、-1からの逆変換ってどうやってやるのだろう。</p><a class="datetime" href="https://b.hatena.ne.jp/rryu/20240302#bookmark-4749968462768858048"><span class="datetime-body">2024/03/02 20:22</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！