AIの新星ニューラルネットワーク「KAN」とは？ LLMが“カンニング”して評価を盛ってた？ など重要論文5本を解説（生成AIウィークリー） | テクノエッジ TechnoEdge
2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間分の生成AI関連論文の中から重要なものをピックアップし、解説をする連載です。第45回目は、生成AI最新論文の概要5つを紹介します。 生成AI論文ピックアップ 高精度なニューラルネットワーク・アーキテクチャ「KAN」をMITなどの研究者らが開発 1手先のトークン予測ではなく、4手先のトークンを同時に予測するモデルをMetaなどが開発 医療分野に特化したマルチモーダル大規模言語モデル「Med-Gemini」をGoogleが開発 大規模言語モデルが答えに相当するベンチマークを事前に学習し、高い評価を出していた？ AIカンニング問題を指摘した研究 一貫性の高い長編ビデオをテキストから生成するAIモデル「StoryDiffusion」 高精度なニューラ
マイクロソフトのＡＩツール､Copilotがもたらすコーダーの働き方改革
A pedestrian walks past the GitHub Inc. offices in San Francisco, California, U.S., on Monday, June 4, 2018. Photographer: Michael Short/Bloomberg ソフトウエア開発者のニコライ・アフテニーブ氏は2021年、米マイクロソフトが提供するコーディングアシスタント「Copilot（コパイロット）」のプレビュー版を手にし、すぐにその可能性を実感した。 マイクロソフトのコーディングプラットフォーム「GitHub（ギットハブ）」で開発され、米オープンＡＩが提供する生成ＡＩ（人工知能）をベースにしたCopilotは、完璧ではなく、時には間違えることもあった。しかしチケット販売会社スタブハブで働くアフテニーブ氏は、わずかなプロンプトで見事にコード行を完成させたこと
1bit LLM の時代は来るのか，来ないのか，どっちなんだい？｜情報処理学会・学会誌「情報処理」
徳永拓之（LeapMind（株）） 1bit LLMの時代が来る？ 2024 年2 月，The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits¹⁾ というタイトルの論文がarXiv上で公開され，にわかに話題となりました．“1.58 Bits” という表現はあまりなじみがありませんが，log₂(3) = 1.58 . . . ということで，パラメーターを三値にした場合の情報量を示しているようです．この論文（以下b1.58 論文とする）は，同じ著者グループによる文献2）を少し拡張したもので，大規模言語モデル（LLM）の効率化についての研究です． 本稿の前半ではこれらの論文の主張を解説し，後半ではその主張の妥当性について検討します． なお，これらの2本の論文は，本稿執筆時点では，査読を経たものではありませんのでご注意くだ
MicrosoftとOpenAIがAI用に17兆円規模のデータセンター建設を計画中。日本の防衛費の2倍以上に相当
MicrosoftとOpenAIがAIに特化した巨大データセンター構築を計画。数百万台のGPUを搭載し、コストは17兆円規模 MicrosoftとOpenAIではAIにオールインしており、OpenAIでは最近は動画を生成できるSoraや、15秒の音声サンプルから音声合成するVoice Engineなど次々と発表しています。ただ、AIの動作には莫大な数のGPUが必要で、Soraが普及した際にはNVIDIA Hopper H100が72万台必要になると言う試算もあります。 そのため、MicrosoftとOpenAIではGPUを数百万台搭載した『Stargate』と呼ばれるプロジェクトの検討をしており、そのデータセンターは米国に設置される予定です。 Stargateプロジェクトは現在運用されているデータセンターに対して100倍以上のコストがかかると見られており、総費用は1150億ドル、日本円で1
速報：話題の 1ビットLLMとは何か？｜寺田英雄（㈱オープンストリームCTO）
2024-02-27にarXiv公開され，昨日（2024-02-28）あたりから日本のAI・LLM界隈でも大きな話題になっている、マイクロソフトの研究チームが発表した 1ビットLLMであるが、これは、かつてB-DCGAN(https://link.springer.com/chapter/10.1007/978-3-030-36708-4_5; arXiv:https://arxiv.org/abs/1803.10930 )という「１ビットGANのFPGA実装」を研究していた私としては非常に興味をそそられる内容なので、論文を読んでみた。今回は速報として、その内容のポイントを概説したい。 論文情報 Ma, S. et al. (2024) ‘The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits’, arXiv [c
作業を依頼→Copilotが手順を考え、Windowsデスクトップで“自動RPA” Windows 11に新機能「Power Automate via Copilot in Windows」
この記事は新野淳一氏のブログ「Publickey」に掲載された「マイクロソフト、Copilotに作業を依頼するとユーザーに代わって手順を考え、Windowsデスクトップ上でRPAにより自動操作してくれる新機能「Power Automate via Copilot in Windows」、Windows 11に搭載へ」（2024年2月28日掲載）を、ITmedia NEWS編集部で一部編集し、転載したものです。 米Microsoftは、Windowsに搭載している「Copilot in Windows」の新機能として、Copilotにプロンプトで作業を依頼することで、Windows上でさまざまな操作をユーザーに代わって自動的に実行してくれる「Power Automate via Copilot in Windows」を、開発中のWindows 11 Insider Preview Build
【AI動画生成】Sora 要素技術解説
もう全部OpenAIでいいんじゃないかな はじめに 月間技術革新です。 ということで、昨日OpenAIから発表された新しい動画生成AI「Sora」が非常に話題となっていますね。 圧倒的な一貫性の保持と1分間に及ぶ長時間動画が生成可能という事で、現状の動画生成技術を圧倒的に凌駕する性能を持っているようです。 在野エンジニアの小手先テクニックなど一笑に付すような圧倒的性能を Soraの凄さは色んなエンジニアやインフルエンサーがたくさん語っているのでそちらを見てもらうとして、この記事ではSoraを構成する各技術について簡単に解説していければと思います。 Soraの技術構成 論文が公開されているわけではないですが、OpenAIが要素技術の解説ページを公開してくれているため、そのページを参考にしていきます。 原文を見たい方はこちらからどうぞ 全体構成 Soraは以下の技術要素で構成されているとのこと
AIにプログラミング作業を奪われている - k0kubun's blog
せっかく10年以上かけて学んだプログラミングだが、人間がコード書くよりChatGPTにやらせた方が早いなということが度々あり、だんだん自分でプログラミングをやる時間が減ってきた。AIにコードを書かせてそれをGitHubにコピペして残りの時間は遊んでるだけで成果が出てお給料ももらえる日は近いし、段々会社もそのことがわかってきて失職する日も近い。 残念ながら現時点では全ての仕事がAIで上手くいくわけではないが、どういう時に使えるかを知っておくと楽をしやすくなるので、僕がどう使っているかをまとめておく。 失職できるケース 簡単なスクリプトを高速に書かせる 僕はRubyが全ての言語の中で一番慣れており、StackOverflowやドキュメントをほぼ見ずに大抵のプログラムを書き切れるため、Rubyを書いている時がプログラマとして一番生産性が高いのだが、それでも最近AIにRubyを書かせたことがあった
Microsoftはコード補完AIツール「GitHub Copilot」でユーザー1人あたり月額3000円近くの損失を出しているという報告
Microsoftが2021年に発表したコード補完AIツール「GitHub Copilot」は、2022年に月額10ドル(約1500円)または年額100ドル(約1万5000円)で利用可能な有料サービスとして提供が開始されました。ところが、経済紙のウォール・ストリート・ジャーナルが発表したレポートによると、MicrosoftはGitHub Copilotのユーザー1人あたり月額20ドル(約3000円)近くの損失を出しているとのことです。 Big Tech Struggles to Turn AI Hype Into Profits - WSJ https://www.wsj.com/tech/ai/ais-costly-buildup-could-make-early-products-a-hard-sell-bdd29b9f Report: GitHub Copilot Loses an
GitHub・服部氏が語る「GitHub Copilot」の裏側 “エンジニアの開発生産性を上げる”ために重視している2つのポイント
「GitHub Copilot」の真のパワーについて発表したのは、GitHub社の服部佑樹氏。株式会社タイミー社が主催した「GitHub Copilotで拓く開発生産性」で「GitHub Copilot」の実装やプラクティスについて話しました。全2回。前半は、「GitHub Copilot」が目指す“開発者の生産性向上”と「Copilot Voice」「GitHub Copilot for *Your* Codebase」について。 ※本記事の内容は2023/08/30時点のものです。GitHub Copilotの実装は、今後変更される可能性があります。最新情報はドキュメントをご覧ください。 開発者の生産性向上にフォーカスする「GitHub Copilot」 服部佑樹氏：ギットハブ社の服部です。本日は、「開発生産性をあげるGitHub Copilotを徹底解剖！」というところで、ちょっと裏
Adobeが画像生成AI「Firefly エンタープライズ版」で作った画像で訴訟された場合は全額補償すると発表、自社AIは権利侵害していないという自信の表れ
Adobeが2023年6月8日に、独自のジェネレーティブAIを企業など法人向けに提供する「Adobe Firefly エンタープライズ版」を発表しました。Fireflyは、Adobeが権利を保有する画像やパブリックドメインの画像など著作権的にクリアな画像のみでトレーニングされており、Adobeは「Fireflyで画像を作った企業が権利侵害で訴訟を起こされた場合には法的に補償する」としています。 アドビ、「Adobe Firefly エンタープライズ版」を発表 https://www.adobe.com/jp/news-room/news/202306/20230608_firely-and-express-to-enterprises.html Adobe will cover any legal bills around generative AI copyright issues ht
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Google Geminiアプリが日本でも利用可能に
Steam、AI技術を使用したゲームの大半がリリース可能に
NTT、軽量で高機能な大規模言語モデル「tsuzumi」を発表。来年3月にサービス開始
AIがRISC-V CPUを5時間以内で設計
伝説のCPUアーキテクトJim Keller氏が示すAIの未来
「生成系AIの研究をやみくもに停止すべきではない」電子情報通信学会が声明
ＡＩの著作権侵害に対策、保護へ論点整理…政府が「知財推進計画」決定
【やじうまPC Watch】 Stable DiffusionでQRコードが機能する「絵」を生成
ChatGPT Plusで最新のWeb情報にアクセス可能に。プラグインも
