なんか昔のゲーム開発みたいだな。掛け算は重いから足し算で代用しようって所が。浮動小数は重いから固定小数だ!とライブラリ作っていた頃が懐かしい。

rti7743rti7743 のブックマーク 2024/03/08 06:57

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

Microsoftが1.58ビットの大規模言語モデルをリリース、行列計算を足し算にできて計算コスト激減へ

    Microsoftの研究チームがモデルのウェイトを「-1」「0」「1」の3つの値のみにすることで大規模言語モデルの計算コストを激減させることに成功したと発表しました。 [2402.17764] The Era of 1-bit LLMs: All Larg...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう