imgurの人/とほほ電池@充電中 @chageimgur 現代兵器、宇宙機、あと型月好きのただのオタ。 特に専門知識はないけど、ニュースやPDFで長文するマン。 長々と書くが基本妄想である。 軍板ですがスレなどにもいるが、ここでも相も変わらずミリネタと宇宙ネタをメインに遊ぶ。
Winnyの金子勇さんが考案された機械学習アルゴリズムED法を再現して実装した人がいていま話題になっている。 『Winny』の金子勇さんの失われたED法を求めて…いたら見つかりました https://qiita.com/kanekanekaneko/items/901ee2837401750dfdad いまから書くことは私の記憶頼りなので間違ってたらコメント欄で教えて欲しい。 1998年ごろだと思うのだが、私はWinnyの金子勇さんのホームページの熱心な読者だった。(ページも全部保存してたので私のHDDを漁れば出てくると思うが、すぐには出せない。) Winnyのβ版が発表されたのが2002年なのでそれよりはずいぶん前である。 当時、金子さんはNekoFightという3D格闘ゲームを公開されていた。そのゲームには、自動的に対戦から学習するAIが搭載されていた。 当時の金子さんのホームページの
2024-02-27にarXiv公開され,昨日(2024-02-28)あたりから日本のAI・LLM界隈でも大きな話題になっている、マイクロソフトの研究チームが発表した 1ビットLLMであるが、これは、かつてB-DCGAN(https://link.springer.com/chapter/10.1007/978-3-030-36708-4_5; arXiv:https://arxiv.org/abs/1803.10930 )という「1ビットGANのFPGA実装」を研究していた私としては非常に興味をそそられる内容なので、論文を読んでみた。今回は速報として、その内容のポイントを概説したい。 論文情報 Ma, S. et al. (2024) ‘The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits’, arXiv [c
昨日話題になった「BitNet」という1ビットで推論するLLMがどうしても試したくなったので早速試してみた。 BitNetというのは、1ビット(-1,0,1の三状態を持つ)まで情報を削ぎ落とすことで高速に推論するというアルゴリズム。だから正確には0か1かではなく、-1か0か1ということ。 この手法の行き着くところは、GPUが不要になり新しいハードウェアが出現する世界であると予言されている。マジかよ。 https://arxiv.org/pdf/2402.17764.pdf ということで早速試してみることにした。 オフィシャルの実装は公開されていないが、そもそも1ビット(と言っていいのかわからない,-1,0,1の三状態を持つからだ。 論文著者はlog2(3)で1.58ビットという主張をしている)量子化のアルゴリズム自体の研究の歴史は古いので、BitNetによるTransformerの野良実装
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoftの中国チームがとてつもないLLMをリリース
アメリカの起業家、イーロン・マスク氏は、自身のベンチャー企業が開発した小型の機器を脳に埋め込んだ患者が、考えるだけでマウスを動かせるようになったと明らかにしました。 マスク氏は1月、自身が立ち上げたベンチャー企業「ニューラリンク」が開発した小型の機器を、患者の脳に埋め込んでコンピューターに直接つなぐ臨床試験を開始したと発表していました。 これについてマスク氏は19日、オンラインのイベントで、患者は回復しているとした上で「考えるだけでマウスを動かせるようになった」と明らかにしました。 そして「現在はできるだけ多くのボタンを押すことに挑戦している」と話していました。 この発表について、アメリカの一部のメディアは、映像など客観的に事実を示すものがなく、学術論文などの形で第三者の確認も行われていないと指摘しています。 脳とコンピューターを直接、つなぐ技術をめぐっては体の不自由な人が、考えるだけでコ
","naka5":"<!-- BFF501 PC記事下(中⑤企画)パーツ=1541 -->","naka6":"<!-- BFF486 PC記事下(中⑥デジ編)パーツ=8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下(中⑥デジ編)パーツ=8826 -->","adcreative72":"<!-- BFF920 広告枠)ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag PC誘導枠5行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
ダイヤモンドを使った半導体パワー回路の開発に、佐賀大学理工学部の嘉数(かすう)誠教授(半導体工学)のグループが世界で初めて成功した。これまで難しいとされてきた高速スイッチングや長時間の動作が可能なことを実証。パワー回路が実用化できれば、次世代通信規格「6G」や量子コンピューターなど最新技術への応用も期待できるという。 ダイヤモンドはシリコンなど従来、半導体に用いられてきた物質よりも高電圧に耐えられ、高速かつ高い周波数で動作でき、宇宙など放射線量が高い場所でも使える。次世代のパワー半導体としてダイヤモンド半導体の開発が盛んになっている。 ただ、炭素でできたダイヤモンドを半導体にするため、「ドーピング」と呼ばれる不純物を添加する技術と、「パッシベーション」という保護膜を張る技術が難しい。海外勢の多くが失敗する中、嘉数教授のグループはダイヤモンドに二酸化窒素を添加する技術を確立し、真空を使う独自
画像のノイズ除去やボケ除去、超解像といった従来の画像修復問題は、特定の劣化状態、既知の単純な劣化にのみ効果的であった。 これに対して、実際の環境下での多様な劣化を考慮した「Blind Image Restoration」(BIR)という手法が注目されている。BIRは、一般的な画像と、それが持つさまざまな劣化に対して、リアルな画像再構築を目指している。特に、BIRの研究は以下の3つのカテゴリーに分けられる。 (1)Blind Image Super-Resolution(BSR):低解像度で劣化が不明瞭な画像の超解像問題に取り組む技術、(2)Zero-Shot Image Restoration(ZIR):これは新しい研究の方向性で、劣化の前提条件を明確に定義した上で、クラシックな画像修復タスクで印象的なゼロショット復元を達成する方法、(3)Blind Face Restoration(BF
バルミューダは8月7日、小型風力発電の研究開発への取り組みとして、2023年秋に実証実験を行うと発表した。小型かつ高効率の風力発電を実現するため、独自の発電用タービンの開発を進めているという。 同社が2010年に発売したDCモーター扇風機「GreenFan」を原点とする、独自の二重構造が特徴の「モダン・マルチブレードタービン」を開発。研究室の実験では、直径1m以下の小型サイズ、低い回転速度と静音性を保った状態で、高いエネルギー変換効率を確認したという。 同研究開発案件では、世界風力エネルギー学会副会長の荒川忠一氏(東京大学名誉教授)をシニアアドバイザーに迎え、足利大学・飯野研究室との共同研究も予定しているという。 関連記事 “ボロボロ”の国内スマホメーカー ここまで弱体化してしまった「4つの理由」とは 2023年5月、バルミューダと京セラが相次いで個人向けスマートフォン事業からの撤退を発表
LLaMaやFalconといった小型の大規模言語モデル(LLM)が矢継ぎ早にリリースされる中、Microsoft ResearchのAI研究チームが、プレプリントサーバーのarXivで、Transformerベースのモデル「phi-1」を発表しました。このモデルは、パラメーター数がGPT-3.5の100分の1以下の13億しかないにもかかわらず、テスト用データセット・HumanEvalでGPT-3.5を上回る成績を収めたことが報告されています。 [2306.11644] Textbooks Are All You Need https://doi.org/10.48550/arXiv.2306.11644 Microsoft Releases 1.3 Bn Parameter Language Model, Outperforms LLaMa https://analyticsindiama
ヘリオンエナジーの核融合エネルギー反応実験用プロトタイプ「Polaris」の一部。 Helion Energy/Handout via REUTERS アメリカの核融合スタートアップHelion Energy(ヘリオン・エナジー、以下ヘリオン)は5月10日、2028年までに稼働開始を目指している同社初の核融合発電所で発電した電力をマイクロソフトに供給する契約を締結したと発表した。この契約は「世界初の核融合発電によるエネルギー購入契約」だという。 核融合とは、2つの原子の原子核を融合させてより「重い」原子核を作る反応のこと。核融合は太陽が光り輝き続ける原動力にもなっていることから、核融合炉は「地上に人工の太陽を再現する技術」と言われることもある。
3月、自然科学研究機構核融合科学研究所(岐阜県土岐市)と米国の核融合スタートアップ「TAEテクノロジーズ」(TAE、カリフォルニア州)は共同で、軽水素とホウ素による核融合実験に世界で初めて成功した。軽水素とホウ素による核融合は、重水素と三重水素を使った一般的な核融合に比べて反応条件は厳しいが、放射線である中性子が発生しない点で優れる。今回の成果について、TAEの最高科学責任者(CSO)でカリフォルニア大学教授の田島俊樹氏は「軽水素とホウ素による核融合実現の入り口に立った」と力説する。 炉壁が放射化するリスク軽減 TAEは1998年に創業し、長年にわたり核融合発電に挑戦してきた。核融合スタートアップとしては最古参の存在だ。核融合は重水素と三重水素の核種を用いるのが一般的だが、非主流の軽水素とホウ素による核融合を目指している。 今回の実験は、核融合研の大型ヘリカル装置(LHD)で行った。磁場で
Aaron Mok [原文] (翻訳:仲田文子、編集:井上俊彦) Apr. 28, 2023, 10:30 AM テックニュース 13,217 ChatGPTを稼働させるには1日最大70万ドル必要だとアナリストが試算している。 Pavlo Gonchar/SOPA Images/LightRocket via Getty Images ChatGPTは「高価なサーバー」を使っているため、OpenAIがそれを稼働させるのに1日最大70万ドルのコストがかかっているようだと、あるアナリストがThe Informationに語っている。 ChatGPTは、クエリに答えるために高価なサーバー上で大量の計算をしなくてはならない。 マイクロソフトは、密かにコストを削減するためのAIチップを製造しているとThe Informationが報じている。 ユーザーがChatGPTを使ってカバーレターを書いたり、
近年話題となっている人工知能(AI)は、人間の脳に触発されたアプローチによって大きな進歩を遂げています。そんな中で学際的な研究チームが、ヒト幹細胞を基に作られた脳オルガノイド(ミニ脳)を生物学的ハードウェアとして使用する「Organoid intelligence (OI/オルガノイドインテリジェンス)」というアイデアを提唱し、実現に向けたロードマップを説明しました。 Frontiers | Organoid intelligence (OI): the new frontier in biocomputing and intelligence-in-a-dish https://www.frontiersin.org/journals/science/articles/10.3389/fsci.2023.1017235 Scientists unveil plan to create b
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く