【海外で話題】PyTorch、新ライブラリtorchtuneをリリース ー LLMのファインチューニングを容易にするPyTorchネイティブのライブラリ
4月18日、PyTorchチームは新しいライブラリ「torchtune」を公開した。このライブラリはPyTorch固有の機能を活用し、大規模言語モデルのファインチューニングを容易にすることができる。 4月18日、PyTorchチームは新しいライブラリ「torchtune」を公開した。このライブラリはPyTorch固有の機能を活用し、大規模言語モデルのファインチューニングを容易にすることができる。 torchtuneの設計方針 PyTorchの設計原則に則り、 torchtuneは組み合わせ可能なモジュラー構成ブロック と 拡張しやすいトレーニングレシピ を提供し、一般的な消費者向けGPUからプロフェッショナルなGPUに至るまで、様々な環境で人気のLLMをファインチューニングする支援を行う。 torchtuneはファインチューニングの全工程をサポート しており、モデルチェックポイントのダウン
「Meta AI」公開 ー AI×SNS時代の幕開け
4月19日、Meta社は新しいAIアシスタントである「Meta AI」を公開した。 このAIはMeta Llama 3技術を基に構築され、モバイルアプリに既に無料で組み込まれている。Meta AIはFacebook、Instagram、WhatsApp、Messengerなどで利用可能で、情報検索、創作活動、コミュニケーション支援など多岐にわたる機能を提供する。 4月19日、Meta社は新しいAIアシスタントである「Meta AI」を公開した。 このAIはMeta Llama 3技術を基に構築され、モバイルアプリに既に無料で組み込まれている。Meta AIはFacebook、Instagram、WhatsApp、Messengerなどで利用可能で、情報検索、創作活動、コミュニケーション支援など多岐にわたる機能を提供する。 Meta AIは英語版としてアメリカ以外の12か国以上で展開されてい
ChatGPT、記憶を持つように ー 「メモリー」機能がテスト中
ChatGPTが進化を遂げ、新たな機能「メモリ」が導入された。この新機能により、ChatGPTはユーザーとの対話から得た情報を記憶し、将来の対話で活用することが可能となる。 ChatGPTが進化を遂げ、新たな機能「メモリ」が導入された。 この新機能により、ChatGPTはユーザーとの対話から得た情報を記憶し、将来の対話で活用することが可能となる。 「メモリ」の基本的な機能は、ChatGPTが対話の中でユーザーが共有した情報を覚え、それを利用して対話の一貫性や効果を向上させるものだ。 例えば、ユーザーが以前「会議のメモは見出し、箇条書き、アクションアイテムのようにまとめるのが好きだ」と伝えた場合、ChatGPTはこの情報を覚え、今後の会話でそれに基づいたメモを生成するようになる。 ユーザーはChatGPTのメモリを柔軟にコントロールできる。オプションでメモリをオンまたはオフに切り替えたり、C
【BardがGeminiになりました】Google、有料版「Gemini Advanced」と新モバイルアプリもリリース
2月9日、Googleは、同社のAIチャットサービス「Google Bard」を「Gemini」にリブランディングするとともに、有料版「Gemini Advanced」と新しいモバイルアプリの発表を行った。40以上の言語、230以上の国と地域で「Pro 1.0」と呼ばれるAIモデルとチャットを行える。 Google Gemini 更にGeminiは、次の2つの新しいエクスペリエンスを提供している: Gemini Advanced: この新しいエクスペリエンスでは、「Pro 1.0」を超えたAIモデルである「Ultra 1.0」にアクセスできる。Gemini Advancedは、複雑なタスクの実行において非常に優れており、コーディングや論理的推論、クリエイティブプロジェクトにおいて高度なサポートを提供する。Gemini Advancedは、長く詳細な対話を可能にし、前回のプロンプトからの文脈
Google Bardが新機能搭載で大幅アップデート ー Gemini Proの提供拡大、画像生成も可能に！
2月2日、Googleは本日、Bardの最新機能を発表した。これには、Bard内でのGemini Proの提供拡大と画像生成機能が含まれている。 2月2日、Googleは本日、Bardの最新機能を発表した。これには、Bard内でのGemini Proの提供拡大と画像生成機能が含まれている。 すべての言語と地域でGemini Proを使用 昨年12月に導入されたGemini Proは、Bardに高度な理解力、論理的思考、要約、およびコーディング能力をもたらした。本日、Gemini Pro in Bardは40以上の言語と230以上の国と地域で提供され、より多くの人がこの高機能なバージョンで協力できるようになった。 大規模モデルシステム組織による評価では、Bard with Gemini Proが最も好まれるチャットボットの一つとして位置づけられ、その進化が「驚くべき飛躍」だとされている。サー
Google Bard の拡張機能が日本語でも利用可能になりました。アプリやサービスの情報にアクセスして取得 | HelenTech
Google は Bard 試験運用版の最新情報を更新し、英語だけでなく日本語でも Bard を使用して Google アプリやサービスの情報にアクセスして取得する拡張機能を利用できるようになったことを発表しました。 Bard の拡張機能を利用することで、YouTube、Google ホテル、Google フライト、Google マップからリアルタイムに情報取得できるようになります。さらに Gmail、Google ドキュメント、Googleドライブからも情報を取得して、コンテンツから検索できたり、概要を作成したり、回答を得ることも可能になりました。 ただし、この機能は個人の Google アカウントでの利用になるため、Google Workspace アカウントでは利用できません。Bardの拡張機能へのアクセスは上部メニューに表示されます。拡張機能のページでは、Bardがアクセスできるア
ChatGPTのプロンプト書き方のコツをOpenAIが公開 | スラド IT
OpenAIは、自社ウェブサイトでGPT-4を使いこなすためのプロンプトエンジニアリング（プロンプトの最適な使い方）についての入門テキストを公開した。このテキストでは、GPT-4を活用するための6パターンの戦略と、それぞれを実行する際の具体的なコツが記載されているという。主な内容としては、明確な指示の書き方やモデルへの個性（ペルソナ）の付与、エラー率を下げるための方法、コード実行を使用して、より正確な計算を実行したり、外部APIを呼び出すといった方法などが含まれている。現在のところドキュメントはすべて英語だが、効果的なプロンプトを探している人はひと通り目を通しておく価値があるとしている（Prompt engineering（OpenAI Documentation）、ASCII.jp）。
しゃべるようになったiPad miniに気持ちを整理してもらってます
しゃべるようになったiPad miniに気持ちを整理してもらってます2023.11.15 20:0028,969 照沼健太 これこそ｢未来は今｣。 今年最大のテックニュースといえば、ほぼ満場一致で｢ChatGPT｣なのではないでしょうか。 しかし、当初は｢すごい！｣｢エグい！｣｢ぜんぜん使えない！｣｢嘘をつかれた！｣｢それは使い方が悪い！｣なんて、いろんな意見が飛び交っていましたが、今ではすっかり活用している人と全然使っていない人に分かれてしまった印象があります。 そこで｢あまりChatGPTを活用できていない｣という人におすすめしたいのが、ChatGPTの｢音声対話機能｣です。これ、マジですごいですよ。 2023年もっとも驚いたテクノロジー。ChatGPTと話せる｢音声対話機能｣って？Photo: 照沼健太文字通り、ChatGPTと声で会話ができる機能です。 ユーザーはマイクを通じて質問
“オリジナルCopilot”が作れる「Copilot Studio」登場 スタンドアロン型にも対応 GPTとも連携
“オリジナルCopilot”が作れる「Copilot Studio」登場 スタンドアロン型にも対応 GPTとも連携：Microsoft Ignite 米Microsoftは、AIプラットフォーム「Microsoft Copilot Studio」を発表した。自身の好みにカスタマイズした生成AIツール「Copilot for Microsoft 365」（Copilot）をローコードで作成できる。 米Microsoftは11月15日（現地時間）、AIプラットフォーム「Microsoft Copilot Studio」を発表した。自身の好みにカスタマイズした生成AIツール「Copilot for Microsoft 365」（Copilot）をローコードで作成できる。同日から利用可能、Copilotとの統合はパブリックプレビューで提供している。
ChatGPTを超えるという大規模言語モデル「OpenChat」をローカルで動作させて実力を確かめてみた
OpenChatはオープンソースの大規模言語モデルです。OpenChatのうち2023年11月にリリースされたOpenChat-3.5-7Bモデルはパラメーター数が70億しかないにもかかわらず2023年3月時点のChatGPTを超えるベンチマーク結果を出すほど性能が高いモデルとのことなので、実際に使って試してみました。 imoneoi/openchat: OpenChat: Advancing Open-source Language Models with Imperfect Data https://github.com/imoneoi/openchat OpenChatにはすぐに性能を試せるようにデモが用意されています。デモサイトにアクセスすると下図のUIが出現するので、モデルが「Default (OpenChat Aura)」となっているのを確認して下部のメッセージウィンドウにメッ
ChatGPTでついに｢英語｣が習得できるようになる
コンテンツブロックが有効であることを検知しました。 このサイトを利用するには、コンテンツブロック機能（広告ブロック機能を持つ拡張機能等）を無効にしてページを再読み込みしてください。 ✕
ChatGPT開発企業 アルトマンCEO退任発表 ”内紛か”米メディア | NHK
生成AIのChatGPTを開発したアメリカのベンチャー企業「オープンAI」は、サム・アルトマンCEOが退任すると発表しました。事実上の解任とみられていて、アメリカのメディアは、背景にアルトマン氏と取締役会との内紛の可能性があると伝えています。 生成AIを開発するアメリカのベンチャー企業「オープンAI」は17日、アルトマンCEOが退任すると発表し、後任としてミラ・ムラティ最高技術責任者が暫定的なCEOを務めるとしています。 退任の理由について会社は、アルトマン氏が取締役会との意思疎通において率直さを欠き、取締役会が業務の責任を果たすことに支障をきたしていると結論づけたとしています。 また、アルトマン氏が会社を率いていく能力に取締役会が確信をもてないなどとしていて、事実上の解任とみられています。 アメリカの有力紙、ウォール・ストリート・ジャーナルは17日、「今回の決定についてアルトマン氏は、取
これ、かなり革命的。自分のChatGPTが作れる「GPTs」 (1/4)
OpenAIは11月6日、開発者向けイベント「OpenAI DevDay 2023」を開催した。 開発者向けというだけあり、発表内容は「GPT-4 Turbo」をはじめとする新モデルやAPIについてが多かったが、ChatGPTに関するものもいくつか発表された。 中でも注目はオリジナルのチャットボットを作れる「GPTs」および、作ったものを販売できる「GPT Store」ではないだろうか。 「GPT-4 All Tools」とは？ まずは「GPT-4 All Tools」について説明しておこう。 「DevDay」が終了した翌日、いつものように「ChatGPT Plus」にアクセスするとこのようなウィンドウが表示された。 「ChatGPTはウェブブラウズ、データ分析、画像生成ができるようになりました。これらの機能はGPT-4に組み込まれており選択する必要はありません。Plusユーザーはご利用い
AIにニュースの収集を任せている方法（GPT-4からSlack投稿） - toyoshiの日記
キーワードベースで情報収集をしているという下記の記事を読みました。私も似たようなことをしているのですがキーワードは使わない方法でニュースの収集をしていて、そのほうがLLMを活用できていると思うのでその方法を紹介します。 forest.watch.impress.co.jp キーワードではなく自分の目的や関心を伝える 以前私が手動でやっていたのはRSSリーダーにサイトを登録して、記事のタイトルと概要を読んで気になる記事を開いて読むということでした。こういうときに人間はキーワード検索をしていません。何をしているかというと自分の目的や関心があって、それに関連する記事をピックアップするということです。それと同じようなことをさせようというのが今回紹介する方法です。 ポイントは今回の場合は私の所属する会社について情報をプロンプトで与え、それに関連するニュースが何かをLLMに考えさせることです。 今回の
GPT-4、Bard、Claude2などの異なるLLMが円卓を囲み議論した結果の回答は品質が高いとの検証報告。円卓ツールも公開 | AIDB
異種LLM同士の議論 米ノースカロライナ大学の研究者らは、異なる種類の大規模言語モデル（LLM）同士に議論させるというアプローチを採りました。 このアイデアの背後には、異なるモデルがそれぞれの強みと弱みを持っているという認識があります。例えば、GPT-4は一般的なテキスト生成に優れている一方で、Bardは物語生成に特化しています。これらのモデルを組み合わせることで、より高度な推論が可能になると考えられています。 研究者らは、複数の異なるLLM（GPT-4、Bard、Claude2など）を円卓会議のような形で議論させるアイデアを形にしました。各モデルは独自の視点と推論能力を持ち寄り、最終的な回答や結論を出す過程が検証されました。 異種LLMs円卓会議ツール 研究者らはただ実験を行って報告するだけでなく、LLM同士に議論させて答えを提出させるプロセスを自動化するツールも提供しています。このツー
【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ
第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トークン長（GPTが文脈を意識できる過去の単語数）」やGPTの歴史的経緯について解説しました。第2回はGPTを支える自然言語処理 の分野で使用される深層学習モデル「Transformer」とその根幹となる「Attention機構（そのタスクにおいてどの単語の重要度が高く、注目すべきか決める仕組み）」についてです。TransformerとAttention機構の仕組みを定性的に把握し、それを踏まえてGPTの能力と可能性について考察したいと思います。テクノロジー領域に明るくない人でもわかる記事を目指します。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Google、Gemini 1.5 Proリリース ー JSONモードやFile APIなど、開発者向けの機能が大幅に強化
Google、Gemini 1.5をリリース ー MoEアプローチの採用、複数ファイルやコードリポジトリ全体を理解
ChatGPTが一時ダウン 平日朝からの障害で「仕事にならない」などの声も
グーグルの生成AI「Bard」は「ChatGPT」より悪用されやすい？ 海外企業の調査
