LangChainとは？各モジュールの機能と活用事例まとめ | Hakky Handbook
LangChainとは何か LangChainとは、GPT-3 のような大規模言語モデル（Large Language Model: LLM）を用いたサービス開発時に役立つライブラリです。 LangChainを用いると、他のシステムと統合することで、最新情報の取得や複雑な計算処理にも対応したLLMサービスを容易に開発できるようになります。 例えば、OpenAIのAPIを用いて「最新の検索結果の内容も踏まえて AI に返答させるチャットアプリ」を開発するケースなどでLangchainは有効です。 このケースでは、LLMsとSerpApi （検索エンジンでの検索結果を API で返してくれるサービス）を組み合わせるLangchainの機能を使うことで実現できます。 このように、Langchainを使うことで様々なニーズに対応したサービスを柔軟に展開できるようになります。 Langchainが
【OpenDevin】無料で簡単にAI開発できる自動化ツール | WEEL
WEELメディア事業部LLMリサーチャーの中田です。 AIスタートアップ企業のCognitionが開発した完全自立型のエンジニアAI「Devin」の、オープンソース版である「OpenDevin」が公開されました。 あの話題のDevinを、ローカル環境で実行できるんです！ The OpenDevin open-source coding assistant is really taking shape! We now have a frontend that connects to a rudimentary agent that solves coding tasks, a docker sandbox, and other things. Next up is optimizing accuracy, we welcome contributions! https://t.co/3Gpb
Open Interpreter搭載のオープンソース「01」を試す｜ニケちゃん
こんにちは、ニケです。 色々あって最近 Open Interpreter のDiscordサーバーのMODになりました。 今回はその Open Interpreter から新しいオープンソースプロジェクトである「01」が発表されたので紹介したいと思います。 01 とは？Open Interpreterが搭載されたオープンソースプロジェクトで、2024年3月21日に発表されました。 「オーワン」と読むそうです。 Introducing the 01 Developer Preview. Order or build your own today: https://t.co/ROEcj9jVPX The 01 Light is a portable voice interface that controls your home computer. It can see your screen,
llama.cpp の動かし方と量子化手法
はじめに Turingアドベントカレンダー17日目です！今日は Research チームの柏谷が担当します。 Research チームでは、LLMによる完全自動運転を実現するための技術開発を行っています。その中で重要な技術の１つが量子化です。量子化によって少ビットでパラメータを表現できれば、LLM の膨大なパラメータのデータ圧縮が可能となります。量子化実装はいろいろと考えられますが、今回は実装にアクセス可能な llama.cpp とその量子化技術について見ていきましょう！ llama.cpp とは Georgi Gerganov さんが作った PC の CPU だけで LLM が動くプラットフォームです。その名の通り Llama, Llama2 が動くというだけでなく Bloom, StableLM などいくつかの LLM がサポートされています。LLM は従来、データセンターで大量のGP
ChatGPT APIで肥大化したプロンプトによるハルシネーションへの対策 - Qiita
概要 ChatGPT APIを活用したアプリケーションでは、要件が複雑化することで、システムプロンプトが肥大化していくことがあります。 しかしプロンプトが肥大化すると、ハルシネーションの起きる可能性が上がり、思ったような精度が出なくなってくることがあります。 以下を意識してプロンプトを改善させることで、精度向上できる可能性があります FunctionCallingを使って処理の分岐を行う １つのプロンプトには1つの命令に留める 精度が落ちるプロンプトとは 例えば、あなたの作っているアプリでは以下のようなシステムプロンプトのようになっていないでしょうか？ あなたはXXXです。 ルール: Aの時は、Xしてください。 Bの時は、Yしてください。 Cの時は、Zしてください。 # Bの時は以下のデータを使ってください <RAG用のデータ> 日本語で回答してください。嘘はつかないでください。etc e
LangGraph の マルチエージェントワークフロー｜npaka
以下の記事が面白かったので、かるくまとめました。 ・LangGraph: Multi-Agent Workflows 1. マルチエージェント「マルチエージェント」では、各エージェントは他のエージェントと連携するために、独自の「プロンプト」「LLM」「ツール」「カスタムコード」を持つことができます。つまり、さまざまなマルチエージェントワークフローを考える際には、主に2つの考慮事項があります。 (1) 複数の独立したエージェントとは何か (2) エージェントはどのように接続されているか この考え方は、「LangGraph」で提供されるグラフ表現に非常に適しています。各エージェントはグラフの「ノード」であり、それらの接続は「エッジ」として表します。 2. マルチエージェントの利点「マルチエージェント」の利点は、次のとおりです。 ・ツール / 責任をグループ化することで、より良い結果を得る 「エ
人間の存在など「どうでもいい」ーーAI推進派「効果的加速主義」のオカルティックな流行と蠱惑（池田 純一） @moneygendai
ネットのアングラから生まれた「イーアック」 前回記事〈「AGI」は、人類を凌駕して「生存リスク」になりえるか…「OpenAI騒動」の背景にあった世界的な懸念〉で扱ったOpenAIのお家騒動では、AI規制派とAI推進派の対立がその理由として報じられ、最終的には推進派の声が上回った形で決着した。だがOpenAIの社外に目をやれば権勢を伸ばしているのは、むしろAI規制派である効果的利他主義の支持者たちではないか。それが前回の趣旨だった。 対して今回は、推進派として報じられた、シリコンバレーのAI開発現場から湧き上がった通称「e/acc（イーアック）」、「効果的加速主義」と呼ばれる動きについて触れてみたい。 AI規制派の効果的利他主義は、英語ではEffective Altruismと表記され「EA」と略されることが多い。対してAI推進派の効果的加速主義はeffective acceleration
AIが社長の会社「FreeAI」を設立しました｜shi3z
僕は2003年に最初の会社を作って、以来20年で10社の設立に関わった。 しかし、今年は5社設立して、その全てで社長をやっていない。 なぜかというと、社長を僕がやるのはものすごく非効率的だからだ。 僕は著者で、YouTuberで、研究家で、配達員である。 それぞれが深く連関していて、不可分であり、社長などやっている暇はない。 社長という仕事がクソなのは「教養としてのAI講座」などで散々言及しているためここでは説明は避けるが、こんなクソな仕事は人間にやらせるべきではない。非人道的だからだ。 そこでAIが社長の会社を作ることにした。 社長はAIであるため、どんなにクソなことがおきても、社長の責任ではない。 ただし、現行法では社長は犬でもネズミでもなれるが、代取にはなれないため、便宜上、代表取締役社長秘書を設置することにした。 しかしあくまでも社長は「継之助つぐのすけ」ことAIスーパーコンピュー
大規模言語モデルの事前学習知見を振り返る
はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 横田研究室B4の藤井(@okoge_kaz)です。 2022年11月末にChatGPTがリリースされてから早1年、2023年は大規模言語モデル開発の領域において飛躍の１年となりました。国内でもCyberAgent, PFN, ELYZAを筆頭に3B〜13B程度のモデルが多数公開され、多くの方にとってLLMが身近になった1年であったかと思われます。 Turingでは完全自動運転の実現に向けた研究開発の一環としてLLMに早くから着目し、社内で研究開発を行ってきました。 また、私はLLM-jp 13Bの開発など国内の言語モデル開発に複数関わっている関係上、それらを通じて様々な生きた開発知見を多数得てきました。 そのような中で、実際に手を動かす実働部隊が「公開されている知見」をきちんと理解しておくことの重要性を日々
【switch-c-2048】GoogleがついにGPT-4レベルのLLMをオープンソースで公開！概要〜使い方まで | WEEL
ホーム生成AIずかんパラメーター数1兆以上【switch-c-2048】GoogleがついにGPT-4レベルのLLMをオープンソースで公開！概要〜使い方まで メディア事業部リサーチャーのいつきとメディア事業部AIエバンジェリストの藤崎です。この記事は専門的な内容を含むため、AIスペシャリストとの共同執筆となっています。 今回ご紹介するのは、Googleがオープンソース化したMOEモデルの「switch-c-2048」について。 なんと、こちらのMOEモデルは、1.6兆個のパラメーターと3.1TBサイズのデータでトレーニングされた大規模言語モデルで、あの「GPT 4」と同等のサイズだと話題になっています！ switch-c-2048を使用すれば、より高速な学習が可能になるとのことですが、新しく公開されたモデルなので使い方がわからないという方も多いでしょう。 そこで今回の記事では、switch
【GPT Crawler】URLを入れるだけでどんなサイトもGPTsにできる神AIを使ってみた | WEEL
メディア事業部AIライターのたけしとLLMリサーチャーの中田です。この記事は専門的な内容を含むため、AIスペシャリストとの共同執筆となっています。 2023年11月15日、Builder.ioより「GPT Crawler」がオープンソース化されました。 GPT Crawlを利用すれば、URLを指定するだけで、そのサイト独自のGPTsをたった2分で簡単に作れてしまうんです！ これは例えるなら、映画『スタートレック』に登場する”膨大な情報データベースにアクセスするためにコンピュータと対話するシーン”が、現実世界でも再現できるようなものですね。 というわけで今回は、GPT Crawlerの概要や使い方について詳しく解説します。 ぜひ最後までご覧いただき、お手元のPCでGPTsを作成してみてください！ なお弊社では、生成AIの開発について1時間無料相談を承っています。こちらからお気軽にご相談くださ
複数のキャラを会話させる – Vcotマニュアル
こちらは高度な機能です。 複数キャラ会話機能はVcotを複数起動して、それぞれのVcotが別のVcotの発言に反応するといった形式で動きます。キャラクターが何人いても動きます。2人でも3人でも50人でも動くはずです。話しかける先のVcotが複数の場合、会話はランダムに発生します。 初期設定が結構大変なので覚悟が必要です。新たにテキストファイルを作ったり、テキストの書き換えが必要となってきます。 バグ報告：ver1.01の段階で、VOICEVOXがインストールされていないと動かないとの指摘がありました。バグ修正までこの機能を使う場合はVOICEVOXのインストール、キャラのボイス設定をお願いします。（修正予定です。） 準備の流れ ■会話の回数を決める まずVcotフォルダ直下にあるglobal_setting.txtを書き換えます。 global_setting.txtの中に ぶいこっと複数
RAGを使った社内情報を回答できる生成AIボットで業務効率化してみた | DevelopersIO
はじめに 新規事業部 山本です。 ChatGPT（OpenAI API）をはじめとしたAIの言語モデル（Large Language Model：以下、LLM）を使用して、チャットボットを構築するケースが増えています。通常、LLMが学習したときのデータに含まれている内容以外に関する質問には回答ができません。そのため、例えば社内システムに関するチャットボットを作成しようとしても、素のLLMでは質問に対してわからないという回答や異なる知識に基づいた回答が（当然ながら）得られてしまいます。 この問題を解決する方法として、Retrieval Augmented Generation（以下、RAG）という手法がよく使用されます。RAGでは、ユーザからの質問に回答するために必要そうな内容が書かれた文章を検索し、その文章をLLMへの入力（プロンプト）に付け加えて渡すことで、ユーザが欲しい情報に関して回答
OpenAI、企業用のAIアシスタント「ChatGPT Enterprise」を提供開始
OpenAIは2023年8月28日（米国時間）、ChatGPTをシンプルで安全な方法で組織に取り入れることができるという「ChatGPT Enterprise」サービスの提供を開始した。 暗号化によって企業のプライバシーを保護 ChatGPT EnterpriseはSOC 2（Service Organization Control Type 2） に準拠しており、全ての会話は転送中および静止時に暗号化されるという。「企業のプライバシーは保護され、ChatGPT Enterpriseのビジネスデータや会話から学習することはない。新しい管理コンソールでは、チームメンバーを簡単に管理でき、ドメイン認証やSSO、利用状況のインサイトを提供し、企業への大規模な展開ができるようになる」（OpenAI） 関連記事 就活でも活躍するChatGPT、さらに重要性が増す「面接での見極め」 レバレジーズ レバ
ChatGPTを業務に組み込むためのハンズオン.pdf
ChatGPTを業務に組み込むためのハンズオン 2023/06/26 一般公開用 デジタル庁 Fact&Data Unit 大杉直也 ↑マイナンバー交付数のダッシュボードを作っているところです 「Microsoft でテストされたアイデアのうち、改善を示すメトリクスを実際に改善できたのは3分の1にすぎない」 (Microsoft社 元Vice President) 「もしあなたが実験主導のチームにいるなら、70%の仕事が捨てられることに慣れてください。それに応じてプロセスを構築しましょう」(Slack社 Director) A/Bテスト実践ガイド p14より 一方で 「アイデアの価値を見積もることは難しい。このケースでは、年間１億ドルの価値ある単純な変更が何か月も遅れていた。」(同著 p5より) こともあります 午前中のアイデアソンで出たアイデアはちゃんと検証するまで価値があるかは不明です
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Sagittarius
GPT-4 falls short of Turing threshold
GPUなサービスをそこそこな費用で運営する | Kai INUI
Reddit - Dive into anything
⚡ Quickstart - Embedchain