最近ローカルLLMがアツいらしい
最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのような最先端AI企業のクローズなAIモデルに比べて、オープンに公開されているオープンなAIモデルの性能は今でもかなり後れを取っている。 だから去年の間はあくまでAIの本命はChatGPTのようなクローズモデルであって、オープンなAIモデルなんて眼中にありませんみたいな風潮が無くはなかった。だが最近は風向きが少々変わってきている。 GPTのAPI高い問題 ＆ OpenAIがAIベンチャー皆殺しにしてしまう問題 まず「結局GPTのAPIを叩いてサービス運営して成功し
性犯罪の加害者側の弁護士、生成ＡＩで謝罪文…「特に問題ない」と検察・被害者側に利用伝えず
【読売新聞】 生成ＡＩ（人工知能）が急速に普及する中、性犯罪の加害者側の弁護士が、被害者への謝罪文の作成に生成ＡＩを利用した事例があることがわかった。利用すれば誰もがたやすく文章を作成できる。この弁護士は「丁寧な謝罪文を作ることが目
OpenAIに対しイタリアの個人データ保護当局がGDPR違反を通知、最大で全世界年間売上高の4％または32億円の制裁金が課される可能性あり
イタリアの個人データ保護当局(DPA)がChatGPTなどのサービスを展開するOpenAIに対し、一般データ保護規則(GDPR)違反を通知しました。OpenAIには最大で全世界年間売上高の4％または2000万ユーロ(約32億円)の制裁金が課される可能性が存在しています。 ChatGPT: Garante privacy, notificato a OpenAI l’atto di contestazione... - Garante Privacy https://gpdp.it/home/docweb/-/docweb-display/docweb/9978020 ChatGPT is violating Europe’s privacy laws, Italian DPA tells OpenAI | TechCrunch https://techcrunch.com/2024/01/
GoogleのチャットボットAI「Bard」がついにベンチマークスコアでGPT-4を上回って第2位に浮上
カリフォルニア大学バークレー校・カリフォルニア大学サンディエゴ校・カーネギーメロン大学が協力して設立したオープンな研究組織・Large Model Systems Org(LMSYS Org)は、大規模な機械学習モデルのデータセットやオープンモデル、評価ツールを共同開発しています。LMSYS Orgが自身の開発した大規模言語モデルベンチマークプラットフォームで、GoogleのチャットボットAI「Bard with Gemini Pro」のベンチマークスコアがOpenAIのGPT-4の一部モデルを超えて2位にランクインしたと報告しました。 LMSys Chatbot Arena Leaderboard - a Hugging Face Space by lmsys https://huggingface.co/spaces/lmsys/chatbot-arena-leaderboard LM
LlamaIndexを使ってローカル環境でRAGを実行する方法 - 電通総研 テックブログ
こんにちは。電通総研コーポレート本部システム推進部の山下です。 最近はChatGPTなどのLarge Language Model(LLM)を利用したAIが話題ですね。 そのLLMを応用したRetrieval-Augmented Generation(RAG)という技術があります。 これは、LLMに文書検索などを用いて関連する情報を与えて回答させることで、 LLMが知識として持っていない内容を回答させたり誤った情報を答えてしまうハルシネーションを抑止する技術です。 今回はこのRAGをLlamaIndexというライブラリを使ってローカル環境で実装する方法について紹介します。 なぜローカル環境でLLMを利用したいのか 大変便利なツールのLLMですが、利用が難しいこともあります。 例えば、機密情報を取扱いたい、外部インターネットへの接続に制限が掛かっているといった場合です。 最終的にOpenAI
マイクロソフト、初心者向け生成AI学習教材「生成AIアプリケーションの開発を始めるために必要な全知識を学べる12講座」を無償公開
マイクロソフト、初心者向け生成AI学習教材「生成AIアプリケーションの開発を始めるために必要な全知識を学べる12講座」を無償公開 コースの内容には、大規模言語モデル（LLM）がどのように動くかを理解する。「生成 AI と大規模言語モデルの紹介」、ユースケースに適したAIモデルを選択できるようにする「様々なLLMの調査と比較」、プロンプトの構造と使用法の理解のための「プロンプト・エンジニアリングの基礎」、埋め込み技術を利用したデータ検索アプリケーションを構築する「Vector Databasesを利用した検索アプリケーションの構築」、外部APIからデータを取得するためFunction Callingを設定する「Function Callingとの統合」など、入門的な内容から高度なアプリケーションの開発まで多岐にわたるレッスンが用意されています。 レッスン内容は日本語による説明と図で構成 各レ
【令和最新版】何もわからない人向けのローカル LLM 入門
こんにちは、Saldraです。普段はPictoriaという会社でAIの美少女の錬成に励んでいるエンジニアです。この記事はローカルLLMの概要をつかむことを目的とします。対象読者は以下です。 なんとなく ChatGPT は使ったことある人 ローカル LLM を聞いたことあるけどやったことない人 ローカル LLM とは OpenAIがAPIを公開してから、大規模言語モデル（以降LLMとします）は大きく進化していきました。この進化はOpenAIのAPIだけでなく、ローカルLLMも進化をしています。 ローカルLLMとは「一般向けにファイルとして公開されたモデル」で推論させる遊びです。APIは便利ですが、インターネットの接続が必要であったり、API提供側に依存する問題があります。ローカルLLMは自前で運用ができるため、APIにはないメリットや魅力があります。一方で、環境構築やマシンスペック等、少し始
DALL-E3 (ダリスリー) の無料教科書:初級編｜プチpony
DALL-E3を実装日からほぼ毎日使用し面白さにとりつかれています。何となくで触っているため, いまいち思った画像が出来ないことも多々ありましたので今回まじめに作成法を勉強してみました。初級編と名前がついているのは高等テクニックを教えるほどの技術がないだけで後に上級編が控えているという意味ではないです。 0. はじめに DALL-E とはシンプルなテキストのみで画像がつくれるAIです。 簡単なテキストのみで画像生成語源は『ウォーリー探せ』と芸術家の『ダリ』から来ているみたいです。ウィーリーはある種の「探し物」をする, userが提示するテキストのプロンプトから隠された要素やまだ見ぬ画像を「探し出し」生成することらしいです。 ウォーリーをインスパイアした少年1. 問題点, 主に著作権やはり何と言っても著作権問題ではないでしょうか。現在法整備が進行しているところです。OpenAIはコンテンツポ
ChatGPT can now see, hear, and speak
We are beginning to roll out new voice and image capabilities in ChatGPT. They offer a new, more intuitive type of interface by allowing you to have a voice conversation or show ChatGPT what you’re talking about. We are beginning to roll out new voice and image capabilities in ChatGPT. They offer a new, more intuitive type of interface by allowing you to have a voice conversation or show ChatGPT w
ChatGPTをめちゃくちゃ便利にする“プラグイン”の使い方「こんな情報を探して！」編 (1/3)
プラグインの基本を知ろう ChatGPTの有料サブスクライブプラン「ChatGPT Plus」には、ChatGPTの機能を拡張するためのツール「プラグイン（Plugin）」が多数用意されている。プラグインを導入することで最新情報にアクセスしたり、サードパーティーのサービスを利用できるようになる。プラグインの導入方法については前回の記事を参照してほしい。 注：本記事はすべて筆者がChatGPT Plusでプロンプトを実行・検証している。 「結果はこちら（クリックで拡大表示）」のリンクをクリックすることで、すべてのプロンプトと生成されたChatGPTの回答を見ることができる。 なお、記事内で触れられていない質問や頓珍漢な回答も含まれているが、これはChatGPTとのリアルな対話記録であるため、その点をお楽しみいただければと思う。 知識ベース情報を取得できるプラグイン その1 前回はChatGP
Code Interpreterに自分のTweetを分析させたらだんだん怖くなってきた - toyoshiの日記
Twitterから離れるにあたり念の為データをバックアップしました。（方法）せっかく過去の全てのツイートのデータを取得できたのでCode Interpreterに入れてどんな人物か推定させてみました。 面白半分に分析を始めましたが思ってた以上に推測されてだんだん怖くなっていったという記録です。 読み込み もうこれぐらいでは驚きませんがアップロードしたら余分な行を削除してJSONだけを取り出して読み込みました。 分析内容を提案してもらう 分析内容を考えるなんて人間のすることではありません。考えてもらいます。 年別の時間帯別の投稿数 2013年に起業したのでツイートが減り、2019年に会社をやめたのでツイート数が増えています。2020年は学校に通っていたのでツイート数が増え、2021年にまた起業したのでツイートが減っています。 2017年は子会社社長として働いていたのでツイート数が特に減ってい
デジタル庁「ChatGPTを業務に組み込むための手引き」を公開
河野太郎デジタル相は8月25日、デジタル庁が作成した「ChatGPTを業務に組み込むためのハンズオン」をX（旧Twitter）にポストした。 デジタル庁で公開している「ChatGPTを業務に組み込むためのハンズオン」。 ぜひ、参考にしてください。https://t.co/zgC9j4eKGm — 河野太郎 (@konotarogomame) August 24, 2023 同資料は、デジタル庁が中央省庁向けに開催したワークショップの資料を8月4日に一般公開した物。テキスト生成AIへの入出力の設計方法を学ぶ内容で、OpenAIの「GPTモデル」に関する基礎知識に始まり、同モデルの特性や注意点、「GPT API」の仕組みなど、学習に必要とされる情報を全46ページに渡って扱っている。
［速報］マイクロソフト、企業向け「Bing Chat Enterprise」プレビュー開始、個人ユーザーも月額5ドルで利用可能。Inspire 2023
［速報］マイクロソフト、企業向け「Bing Chat Enterprise」プレビュー開始、個人ユーザーも月額5ドルで利用可能。Inspire 2023 マイクロソフトは、日本時間7月19日未明から開催中のパートナー向け年次イベント「Microsoft Inspire 2023」において、AIチャットサービス「Bing Chat」の企業向けとなる「Bing Chat Enterprise」プレビュー版の提供開始を発表しました。 Bing Chat Enterpriseは、従来のBing Chatと同様に自然言語での質問に対してAIがテキストやグラフ、チャート、画像などで回答してくれるサービスです。 ただしBing Chat Enterpriseでは、入力されたデータやAIによる回答は保護され組織外に出ないことが約束されます。 また、これらのデータは保存されることもなく、マイクロソフト自身も
画像生成系AI Stable Diffusionゲームグラフィックス自動生成ガイド｜柳井 政和
オリジナルの電書版から内容を整理して、いろいろと追加＆改良しています。また、情報も可能な限り最新の内容に改めています。 目次 第1部 環境構築と基礎知識 第1章 ローカルでの環境構築 第2章 オンラインでの環境構築 第3章 基礎知識 第4章 呪文理論 第2部 キャラクターの生成 第5章 キャラクターの生成 第6章 キャラクターにポーズを付ける 第7章 キャラクターを学習させる 第3部 背景の生成 第8章 背景の生成1 ファンタジー 第9章 背景の生成2 現代 第10章 背景の生成3 SF 第11章 背景の生成4 サイバーパンク 第4部 ゲーム素材の生成 第12章 武器や道具の生成 第13章 アイコンの作成 第14章 絵地図の生成 第15章 UI部品のテクスチャの生成 第5部 文章データの生成 第16章 ChatGPTとの連携1 画像に添える文書の生成 第17章 ChatGPTとの連携2 キ
ChatGPT上でコードを実行してデータ分析やグラフ化が可能な「コードインタプリタ」機能が追加、「誰でもデータアナリストになれる」時代の到来か
2023年7月上旬に、ChatGPT上でコードを実行したりアップロードしたファイルにアクセスしたりできる新機能「コードインタプリタ」が、ChatGPTの有料版であるChatGPT Plusのユーザー向けに展開されました。コードインタプリタを使用することで、コーディングの知識が少ない人でもデータを分析したり視覚的なチャートを作成したりできるようになり、「誰でもデータアナリストになれる」と評価されています。 ChatGPT — Release Notes | OpenAI Help Center https://help.openai.com/en/articles/6825453-chatgpt-release-notes Code Interpreter comes to all ChatGPT Plus users — 'anyone can be a data analyst now'
ChatGPTに共通テスト（旧センター試験）を解かせてみた｜usutaku@AI情報解説
最近流行りのChatGPT。 「色々な作業を自動化した」 「国家試験に合格した」 ニュースで目にする機会も最近は多いと思います。 では、ChatGPTは現段階でどのくらい賢いのでしょうか？ 「海外の司法試験で人間を超えた」などの情報をよく耳にしますが、実感が湧きませんよね。 今回は日本人に馴染みの深い大学入学共通テスト（旧センター試験）を題材に、その実力を検証してみました。 実験方法今回は、令和４年度の国語・英語（リーディング）・公民（倫理 / 政治・経済）の3科目について実験を行いました。 ※ 数学・理科等の科目については図表を読み取る問題が多く、正確に試験できないため今回は除外しました。 ポイント①： テキストになおす大学入試センターで公表されている試験問題がPDFのため、ChatGPTに読めるテキスト形式にする必要があります。 今回はGoogle Docsの機能を活用して文字起こしし
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ChatGPTの生成画像、AI生成示すC2PA準拠メタデータが自動付与
ChatGPTの新機能「GPTs」「Assistants」を試す。特別なツール不要でカスタムChatGPTを開発可能に！【イニシャルB】
OpenAI Platform
ChatGPTの「Code Interpreter」のスゴさ ノーコードでデータ分析＆画像生成
