LangChainの「Chain」や「Agent」を使う時は注意が必要 「Chat APIの形式を活かした実装かどうか」の確認方法
「LangChainソースコードリーディング／テーマ：OpenAI Chat APIを『ちゃんと』使う」は、LangChainでOpenAI Chat APIを「ちゃんと」使うことをテーマとして、ソースコードリーディングを実施する勉強会です。ここで大嶋勇樹氏が登壇。続いて、Memory機能がChat APIをちゃんと使っているかを実際のソースコードから確認します。 LangChainにはなぜMemoryという機能があるのか 大嶋勇樹氏：続いて、OpenAI Chat APIを「ちゃんと」使うには、ということをもう少しやっていこうと思います。 ここではLangChainのMemory機能を扱おうと思いますが、LangChainにはMemoryという機能があります。なぜそんな機能があるのかの背景からいきます。 そもそも、LangChainなしのOpenAIのAPIというものは、前回のやり取りを
LLMのファインチューニング で 何ができて 何ができないのか｜npaka
LLMのファインチューニングで何ができて、何ができないのかまとめました。 1. LLMのファインチューニングLLMのファインチューニングの目的は、「特定のアプリケーションのニーズとデータに基づいて、モデルの出力の品質を向上させること」にあります。 OpenAIのドキュメントには、次のように記述されています。 ファインチューニングは、プロンプトに収まるよりも多くの例で学習することで、Few-Shot学習を改善します。一度モデルをファインチューニングすれば、プロンプトにそれほど多くの例を提供する必要がなくなります。これにより、コストを削減し、低レイテンシのリクエストを可能にします。 しかし実際には、それよりもかなり複雑です。 LLMには「大量のデータを投げれば自動的に解決する」ような創発的な特性があるため、ファインチューニングもそのように機能すると人々は考えていますが、必ずしもそうではありませ
OpenAI API の ファインチューニングガイド｜npaka
1. ファインチューニングの利点ファインチューニングの利点は、次のとおりです。 (1) プロンプトよりも高品質な応答 (2) プロンプトに収まりきらないより多くの例の適用 (3) プロンプトの短縮によるトークン数 (コスト) の節約 (4) プロンプトの短縮による処理時間の短縮 モデルは膨大な量のテキストで事前学習されており、このモデルを効果的に利用するため、プロンプトに手順や応答の例を指定する手法が使われます。この例を使用してタスクの実行方法を示すことを「Few-Shot」と呼びます。 ファインチューニングで、プロンプトに収まりきらないより多くの例で学習することにより、さまざまなタスクでより良い結果を達成できるようになります。プロンプトに多くの例を指定する必要はなくなります。これによりトークン (コスト) が節約され、処理時間も短縮されます。 2. ファインチューニングの使用料金ファイン
「Vector search」「PromptFlow」などのOrchestrationツールも拡充 「Microsoft Build 2023」現地参加者が解説する、注目アップデート
スタートアップの技術情報交換の場を提供することを目的として設立された「Microsoft Startup Tech Community」。「Microsoft Startup Tech Meetup #0 kick off」は、「Microsoft Build 2023」をテーマに開催されました。ここで登壇したのは、株式会社メルカリの大嶋悠司氏。生成系AI/LLM に関する注目アップデートについて発表しました。全2回。後半は、キーノート以外のセッションを紹介。前回はこちら。 GPTのトレーニングパイプラインが整理された「State of GPT」 大嶋悠司氏（以下、大嶋）：「Keynotesだけじゃない！ 深掘りセッションズ」ということで、キーノートで全体の地図を与えられたわけです。じゃあその地図の中で、それぞれどこにどういう話をしているかという深掘りセッションズをいくつか紹介できればなと
日本語大規模言語モデル OpenCALM の知識でクイズ王に挑戦する | Amazon Web Services
Amazon Web Services ブログ 日本語大規模言語モデル OpenCALM の知識でクイズ王に挑戦する 数十億を超えるパラメーターを持つ大規模言語モデルは、追加学習なしに人間も驚く知識を披露します。その知識で、クイズ王に輝くことはできるのでしょうか? 本記事では、株式会社サイバーエージェント様が公開した OpenCALM を用いてクイズを題材にした日本語 QA データセット JAQKET にどこまで正確できるか検証します。クイズに回答するのは、問い合わせ窓口での質問回答業務に近いタスクです。本記事の内容は、お客様対応等の業務を続々とオープンソースで公開される大規模言語モデルを利用してどのようにコスト効率良く改善するのかの検討にも活用頂けます。 OpenCALM は、株式会社サイバーエージェント様から 2023 年 5 月 11 日に公開された日本語大規模言語モデルです。Wik
Azure OpenAI Service を検証目的で使い始めるまでにやったことまとめ | DevelopersIO
Azure OpenAI Service を利用するための申請内容やチーム内の利用ルールを検討するために調べたことや対応したことをまとめました。作成した利用ルールの説明会の内容についても記載します。 以前に Azure OpanAI Service を検証目的で利用するための準備をする機会があったため、利用申請前に確認したことや利用のためにルール化したことを本ブログにまとめたいと思います。また、実施した利用ルールの説明会の内容についても記載します。 前提条件 導入・導入の前提条件は下記でした。 Azure AD は社内で導入済み Azure サブスクリプションは社内で払い出されたものを利用 チームの複数人が検証用途で Azure OpenAI Service を利用 Azure OpenAI を利用するサブスクリプションと Azure AD ユーザーとの信頼関係が既にある状態です。 もし組
Langchain・Semantic Kernel・guidanceでエージェント機能を実装して比較してみた。 - Qiita
guidance guidanceではエージェント機能は自前で実装する必要があります。 semantic kernelやlanchainではエージェント機能が用意されています。 自前実装可能なので実装の幅は広そうですが、今回は以下のような流れで実装しました。 実行すべき関数のリストをJSON形式で作成=実行計画 実行計画の作成を行うプロンプトにより実装しています。 JSONに含まれる関数を順に呼び出す pythonの関数として実装しています。 ユーザ側でプロンプトやpythonの関数を作成できるため、自由度が高いなと感じました。 あとはあまり抽象化されていないため、機能拡張・メンテナンスなどが楽そうです。 ①ソースコード全文 ソースコード全文 import os import json import guidance # テキスト生成モデル text_llm = guidance.llms
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ChatGPTの10ヶ月と開発トレンドの現在地