速報：話題の 1ビットLLMとは何か？｜寺田英雄（㈱オープンストリームCTO）
2024-02-27にarXiv公開され，昨日（2024-02-28）あたりから日本のAI・LLM界隈でも大きな話題になっている、マイクロソフトの研究チームが発表した 1ビットLLMであるが、これは、かつてB-DCGAN(https://link.springer.com/chapter/10.1007/978-3-030-36708-4_5; arXiv:https://arxiv.org/abs/1803.10930 )という「１ビットGANのFPGA実装」を研究していた私としては非常に興味をそそられる内容なので、論文を読んでみた。今回は速報として、その内容のポイントを概説したい。 論文情報 Ma, S. et al. (2024) ‘The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits’, arXiv [c
働かないが会社は辞めない「静かな退職」 原因は企業側にも | Forbes JAPAN 公式サイト（フォーブス ジャパン）
仕事への意欲を失い、ただ必要最低限の業務だけを熟す「静かな退職」という働き方が広がりつつある。会社を辞める気はないが積極的に働く気もない。その多くが、入社後にそんな働き方を決めたという。調査により、その実態が見えてきた。 「静かな退職」はアメリカのキャリアコーチ、ブライアン・クリーリー氏が提唱した言葉だ。近年アメリカでも、Z世代を中心にそうした人たちが増えているという。日本では昔から、『釣りバカ日誌』のハマちゃんに代表される「ぐーたら社員」がいた。猛烈社員のアンチテーゼとして、ある意味、理想の生き方だったが、今の企業には働かない社員に給料を支払う余裕はない。 なぜそうした人が増えたのか、GPTW Japan（働きがいのある会社研究所）が企業に勤める男女6998人を対象に調査を実施した。その結果、静かな退職を選択している人の約3割が34歳以下の若手社員であり、理由のほぼ5割が「プライベートな
「決断」を迫られた時、三流は誰かに「丸投げ」し、二流は「ロジカル」に考え抜く。では、一流は？
リーダーは偉くない。 ゴールドマン・サックスなど外資系金融で実績を上げたのち、東北楽天ゴールデンイーグルス社長として「日本一」と「収益拡大」を達成。現在は、宮城県塩釜市の廻鮮寿司「塩釜港」の社長にして、日本企業成長支援ファンド「PROSPER」の代表として活躍中の立花陽三さん。本書は、ビジネス現場での「成功」と「失敗」を赤裸々に明かしつつ、「リーダーシップの秘密」をあますことなく書いていただきました。リーダーだからといって「格好」をつけるのではなく、自分の「欠点」や「弱点」を素直に受け入れて、それをメンバーに助けてもらう。つまり、「リーダーは偉くない」と認識することが、「強いチーム」をつくる出発点だ――。そんな「立花流リーダーシップ」に触れると、きっと勇気が湧いてくるはずです。 バックナンバー一覧 ゴールドマン・サックスなど外資系金融で実績を上げたのち、東北楽天ゴールデンイーグルス社長とし
レッドブルが「世界最速」FPVドローンRBD1開発、パイロットみずから設計。時速300km超のF1マシンにぴたりと追尾する映像公開 | テクノエッジ TechnoEdge
ガジェット全般、サイエンス、宇宙、音楽、モータースポーツetc... 電気・ネットワーク技術者。実績媒体Engadget日本版, Autoblog日本版, Forbes JAPAN他 エクストリームスポーツを効果的にマーケティングに取り込んできたエナジードリンクのレッドブルが新たに公開したのは、レッドブル・レーシングのF1マシンを世界最速のカメラ搭載ドローンでぴったり追跡する空撮映像です。 F1世界選手権の2024年シーズンは今週末に開幕します。昨シーズンはレッドブル・レーシングF1チームのマックス・フェルスタッペン選手が圧倒的な強さを見せつけて世界チャンピオンの座を防衛し、先頃行われたシーズン前の合同テストでも、圧倒的な安定感とスピードを誇示していました。 そんな自動車レースの頂点に立つレッドブルのF1マシンと世界チャンピオンを追いかけ回すドローンパイロットとして選ばれたのは、Dutch
ワイヤレス充電器を乗っ取り、スマホを過剰加熱→破損させるサイバー攻撃 米研究者らが開発
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米フロリダ大学とセキュリティ企業CertiKに所属する研究者らが発表した論文「VoltSchemer: Use Voltage Noise to Manipulate Your Wireless Charger」は、電源アダプターからの電圧ノイズを悪用してワイヤレス充電器を乗っ取り、充電中のスマートフォンや周囲のデバイスに対してさまざまな攻撃を行う手法が提案した研究報告である。スマートフォンへの過剰な加熱を引き起こし、それによってデバイスを破損させることもできる。 ワイヤレス充電器は、電磁場を利用して一方のデバイスから別のデバイスへエネルギ
驚異の1ビットLLMを試す。果たして本当に学習できるのか?｜shi3z
昨日話題になった「BitNet」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 BitNetというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアルゴリズム。だから正確には0か1かではなく、-1か0か1ということ。 この手法の行き着くところは、GPUが不要になり新しいハードウェアが出現する世界であると予言されている。マジかよ。 https://arxiv.org/pdf/2402.17764.pdf ということで早速試してみることにした。 オフィシャルの実装は公開されていないが、そもそも1ビット(と言っていいのかわからない,-1,0,1の三状態を持つからだ。 論文著者はlog2(3)で1.58ビットという主張をしている)量子化のアルゴリズム自体の研究の歴史は古いので、BitNetによるTransformerの野良実装
リレーショナル・データベースの世界
序文 私の仕事は、DBエンジニアです。といっても別に望んでデータベースの世界へきたわけではなく、当初、私はこの分野が面白くありませんでした。「Web系は花形、データベースは日陰」という言葉も囁かれていました。今でも囁かれているかもしれません。 ですが、しばらくデータベースを触っているうちに、私はこの世界にとても興味深いテーマが多くあることを知りました。なぜもっと早く気づかなかったのか、後悔することしきりです。 もちろん、自分の不明が最大の原因ですが、この世界に足を踏み入れた当時、先生も、導きの書となる入門書もなかったことも事実です。 今でこそバイブルと仰ぐ『プログラマのためのSQL 第2版』も新入社員には敷居が高すぎました (2015年2月追記：その後、自分で第4版を訳出できたのだから、 人生は何があるか分からないものです)。 そこで、です。このサイトの目的は、データベースの世界に足を踏み
ドンキ、ほとんど「革靴」なスニーカーが大ヒット 軽くて疲れにくいビジネスシューズが誕生した背景
ラクすぎビジネスシューズは「革靴のように見えるけど、圧倒的に軽くて疲れにくい、まるでスニーカーのような履き心地」を目指して開発された商品だ。デザインは全3種類あり、サイズはそれぞれS（25.5センチ）、M（26.5センチ）、L（27.5センチ）を用意した。 軽量かつ伸縮性の高い合成皮革をアッパー（靴の底を除いた上の部分）に使用。靴底は軽くて弾力のあるEVA素材としている。EVA素材は樹脂素材の一種で、サンダルや長靴などによく使われている。こうした工夫で、一般的なビジネスシューズより軽い261グラムを実現した（Mサイズ、片足の重量）。月足氏は「一般的なビジネスシューズは400～500グラム、一般的なスニーカーは300～350グラムです。履いた瞬間に『軽い』と感じてもらえるように、スニーカーより軽くしました」と説明する。
約1億人を調べた史上最大規模の研究で新型コロナワクチンの健康リスクが明らかに - ナゾロジー
約1億人を調べた結果です。 デンマークの国立血清研究所（SSI）をはじめとした国際研究によって、新型コロナウイルスワクチンの健康リスクが示されました。 9900万人を対象とした史上最大規模の研究で、主としてファイザーとモデルナの開発したmRNAワクチンおよびアストラゼネカが開発したウイルスベクターワクチンの3種類でみられた、副反応13種が調べられています。 なお今回の記事はワクチンの有害性を強調するものではありません。 また最終的な結論として、ワクチン接種の利点が健康リスクを上回っていたことも、あえて先に述べてさせて頂きます。 その上で、新たに判明した副反応を報告します。 対象となる副反応は、心臓にかんする「心筋炎（MYO）、心膜炎（PER）」。 脳脊髄や末梢などの神経系にかんする「ギラン・バレー症候群（GBS）、横断性脊髄炎（TRM）、顔面麻痺（BP）、急性散在性脳脊髄炎（ADEM）、熱
1日6分でOK。言いたいことを「瞬時に」言葉にするための言語化トレーニング | ライフハッカー・ジャパン
バックパックの背中「汗」問題を解決! これを取り付けるだけで夏場でもさらっと快適【今日のライフハックツール】
電子工作で使われる圧着端子コネクタと圧着工具 - fumiLab
はじめに 電子工作で使われがちなコネクタを紹介し、使える工具を紹介します。これを見れば、これまでコネクタを使った電子工作をしたことがなくてもできるようなります。これを通して必要になった時に調べて自分で選んで使えるようになることを目指します。 色々コネクタ試して苦労した経験があったので参考にしてお金と時間と苦労を節約していただければ幸いです。 ※かなり前に記事を書きましたが、だいぶ古くなってきたのでここで書き直しておこうと思います。（前のは公開したままにしてありますが、こちらに誘導するようにしています） はじめに コネクタを使おう コネクタを使うメリット コネクタを使うとデメリット 電子工作で使われがちなコネクタ 信号用コネクタ 電子工作圧着端子早見表 QI2550コネクタ JST XHコネクタ JST PHコネクタ JST ZHコネクタ JST PAコネクタ JST NHコネクタ コネクタ
pdfからtextを抜き出す試行錯誤のメモ｜Kan Hatakeyama
これは二段構えの構成を持っています。この二段構えを正確に検出し、テキストを理解することが望ましいです。 Unstructuredを使うPythonのライブラリであるUnstructuredを試してみましょう。 参考記事 導入は非常に簡単です。 pip install 'unstructured[pdf]' 実装も簡単です。 解析コード： from unstructured.partition.pdf import partition_pdf pdf_elements = partition_pdf("pdf/7_71_5.pdf") 表示コード： for structure in pdf_elements: print(structure) 結果： 残念ながら、2段組のカラムを正確に検出することはできませんでした。 Grobidを使うGrobidは、peS2oというオープンアクセス論文のコ
コロナ後遺症の「だるさ」、筋肉にまで根深いダメージ、最新研究
イタリア、ASL3ジェノバ心臓リハビリテーション科でリハビリを受ける新型コロナ後遺症患者。同科では2020年から、新型コロナウイルス感染症で入院した患者のためのリハビリテーションプログラムを実施している。（PHOTOGRAPH BY MARCO DI LAURO/GETTY IMAGES） 新型コロナウイルス後遺症（罹患後症状）の患者の多くは、主な症状として運動機能の低下を訴える。心身に負荷をかけすぎた後は激しいだるさ（倦怠感）に襲われて、その繰り返しにより病状が悪化するおそれがある。「運動後（労作後）倦怠感」（PEM）として知られるこの症状は、「筋痛性脳脊髄炎／慢性疲労症候群」（ME/CFS）の特徴的な症状でもある。 このほど、新型コロナ後遺症患者にみられる倦怠感に一つの説明を与える論文が2024年1月4日付けで学術誌「ネイチャー・コミュニケーションズ」に発表された。新型コロナ後遺症の患
鈴木財務相 政治資金問題 “納税行うかは議員が判断すべき” | NHK
自民党の派閥の政治資金パーティーをめぐる問題で、鈴木財務大臣は、収支報告書に記載されていなかった収入のうち、政治活動に使わなかった残額を個人の所得として納税を行うかは、政治責任を果たすという観点で議員が判断すべきだという認識を示しました。 鈴木財務大臣は22日の衆議院予算委員会で、政治資金収支報告書に記載されていなかった収入の税務上の扱いについて問われ「政治活動に使わずに残った所得で、控除しきれない部分があると議員みずからが判断した場合、納税することはもちろん可能性としてはある。疑義を持たれた政治家が政治責任を果たすという観点から判断されるべきだ」と述べました。 また、税務当局による調査の必要性について「課税上、問題があるかは、独立的に国税庁で判断されるべきだ。国税当局として疑義がある場合は適切な対応をとる方針だ」と述べました。 さらに、林官房長官は、法律上の時効を過ぎた不記載への関係議員
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
NHKのWeb配信「必須業務」へ、スマホで視聴すれば契約義務
土日で完成！ 趣味のラズパイ ラズパイとChatGPTで遊ぼう——液晶時計を作る｜fabcross
GitHub - japan-opendata/awesome-japan-opendata: Awesome Japan Open Data - 日本のオープンデータ情報一覧・まとめ
相続の相談は誰にすればよい？最適な相談先がわかる相談先一覧表つき
NVIDIA「Chat With RTX」を、RTX4060搭載ノートPCで動かす〜ローカルLLMでRAGを実現【イニシャルB】
管理職必読 順番に読むと理解が深まる「マネジメントの名著」11冊
