最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
GPT-4に日本語特化モデル OpenAI Japan始動会見で発表
米OpenAIは4月15日、大規模言語モデル「GPT-4」について、日本語に最適化したカスタムモデルを発表した。日本語のテキストを記述する能力が向上しており、「GPT-4 Turbo」より最大3倍高速とうたっている。今後数カ月以内にAPIをリリースするという。 関連記事 OpenAI、“怠けにくい”「GPT-4 Turbo」プレビューリリースや値下げを発表 OpenAIは、11月に発表した「GPT-4 Turbo」のプレビュー版をリリースすると発表した。「GPT-4」が怠け者になってきたという苦情を受け、怠けにくくしたという。公式版は数カ月中にリリースする計画だ。 マイクロソフト提供の“社内GPT基盤”もGPT-4 Turboなどに対応 米Microsoftが、大規模言語モデル「GPT-4」などのAPIをクラウドサービス「Microsoft Azure」経由で使える「Azure OpenA
Azure OpenAI Serviceの世界へようこそ｜父
はじめに賽は投げられた2022年11月にOpenAIが公開したAIチャットボットChatGPTは、それまでのチャットボットの常識を大きく凌駕するその余りの流暢な受け答えから瞬く間に技術系コミュニティで話題沸騰となり、わずか2ヶ月でアクティブユーザー数は1億人を超え、その影響範囲はすぐさま技術系コミュニティの内側にとどまるものではなくなりました。プログラマが、大学生が、研究者が、物書きがChatGPTを試してはその自然な回答に驚愕しました。翌23年4月には、東京大学理事・副学長で教育・情報担当の太田邦史博士がChatGPTやStable Diffusion等の「生成系AI」の急速な発展とその著しい品質の向上を受けて「人類はこの数ヶ月でもうすでにルビコン川を渡ってしまったのかもしれない」とする声明を発表しました。 人類はこの数ヶ月でもうすでにルビコン川を渡ってしまったのかもしれないのです。むし
Best practices for prompt engineering with OpenAI API | OpenAI Help Center
💡 If you're just getting started with OpenAI API, we recommend reading the Introduction and Quickstart tutorials first. Due to the way the instruction-following models are trained or the data they are trained on, there are specific prompt formats that work particularly well and align better with the tasks at hand. Below we present a number of prompt formats we find work reliably well, but feel fr
ChatGPTプラグイン の作成方法｜npaka
1. ChatGPTプラグインの作成手順「ChatGPTプラグイン」の作成手順は、次のとおりです。 (1) APIの実装 (2) マニフェストファイルの作成 (3) OpenAPIドキュメントの作成 2. マニフェストファイルの作成2-1. マニフェストファイルの基本構成「マニフェストファイル」は、「ChatGPTプラグイン」のメタデータを記述するファイルです。APIのドメインの「/.well-known/ai-plugin.json」でホストします。 「マニフェストファイル」の基本構成は、次のとおりです。 { "schema_version": "v1", "name_for_human": "TODO Plugin", "name_for_model": "todo", "description_for_human": "Plugin for managing a TODO list.
TypeScriptではじめるChatGPT API：入門から一歩進んだテクニックまで - Uzabase for Engineers
NewsPicks エンジニアの中村です。普段はデータ基盤や機械学習システムの開発、運用をやっています。 さて皆さん、すでにChatGPTは使っていらっしゃるでしょうか。エンジニア、非エンジニアを問わず世の中を席巻している感のある ChatGPT ですが、今月初めにいよいよ API も公開されて、アプリケーションやサービスに組み込みたいと考えている方も多いのではないでしょうか1。 というわけで、弊社でもこの新しい技術をより多くのエンジニアに使いこなせるようになってもらいたいと考え、ChatGPT API に関する社内勉強会を先日開催しました。本記事ではこの勉強会の内容を再構成してお届けします。 とりあえず使うだけなら簡単な ChatGPT ですが、本記事では、長文を扱ったり、ChatGPT と外部のシステムを連携させたりするテクニックなど、知っている人はすでに知っているが、まだそれほど広く
リクルートがAIをまさかの無料公開。さっそくすべてのAPIを試しまくってみた | Ledge.ai
サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。
［速報］Google、動画になにが映っているかを自動的に判断する「Video Intelligence API」発表。Google Cloud Next'17
［速報］Google、動画になにが映っているかを自動的に判断する「Video Intelligence API」発表。Google Cloud Next'17 Googleは米サンフランシスコでイベント「Google Cloud Next'17」を開催。1日目の基調講演で、動画を分析して、いつ、なにが映っているかを判断する「Video Intelligence API」を発表しました。 動画になにが映っているかをコンピュータが自動的に判断する Googleのチーフサイエンティスト Fei-Fei Li博士によると、動画をコンピュータに理解させることはこれまで何年ものあいだ大きな課題で、実際、画像研究者にとって動画はデジタルな世界のダークマター（暗黒物質）だとされてきた、と。 そうしたなかで、Googleは機械学習による新しいAPI「Video Intelligence API」を発表しまし
誰でも簡単に人工知能を使えるサービスがヤバすぎる！ | プログラミング教育ナビ
ここ数年、人工知能(AI)や音声認識を使ったサービスが急速に広まっています。「siri」、「OK,Google」など、あなたが呼ぶだけでインターネットにアクセスし用事をこなしてくれるパーソナルアシスタントはますます一般的になってきています。さらには、FacebookはMessengerアプリに「M」という名のパーソナルアシスタントを入れようとしています。世界中では、次々と最新のテクノロジーを活用したサービスが登場しているのです。もし、人工知能を搭載したサービスやIoTデバイスを使ったアプリなどを自分でプログラミングして作れたら・・と考えてる方も少なくないのではないでしょうか。 今回は、そんなあなたのためにアプリやIoTデバイス上で音声認識や人工知能を簡単に使えるようになるサービスをご紹介します。 また人工知能を勉強できるおすすめの書籍を紹介しています。 興味を持たれた方は下記からご覧くださ
Facebookのメッセンジャープラットフォームの本当の狙いは正しく報道されていないと（僕は）思う。｜決算が読めるようになるノート
（今回は完全に主観なので「オレ（私）は違うと思う」という方もいらっしゃるかもしれませんが、悪しからず。） さて、LINEに続き、Facebookもボットプラットフォームをリリースして、盛り上がっていますね。「F8カンファレンス：FacebookがMessengerのチャットボットのプラットフォームを発表」が詳しいので詳細はこちらをご覧ください。 がしかし、Facebookが本当に何を狙っているのか、というのが正しく報道されていない気がするので、僕の解釈を書いておこうと思います。（繰り返しますが、あくまで主観です。） メッセンジャープラットフォームにおける3つのリリース今回、f8カンファレンスで発表されたメッセンジャー関連の内容は、大きく分けて3つに分類できる。 #1 : ビジネスアカウントにもメッセンジャーを開放 #2 : メッセージを送受信するAPIを開放 #3 : メッセージを自動で送
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「Excel」上で「ChatGPT」を簡単に扱えるようにする方法が開発される！／「ChatGPT」のAPIキーをマクロに追記するだけで使える
pythonを使った株価の自動収集 - Qiita