タグ

aiとLLMに関するmichael-unltdのブックマーク (28)

  • Retrieval-Augmented Generationシステムの改善方法の紹介 - AITC - ISID | AI トランスフォーメンションセンター コラム

    こんにちは、AI製品開発グループのファイサルです。 この記事では、Know Narrator Searchで使用されている文章参照手法、Retrieval-Augmented Generation(RAG)の精度向上方法について紹介します。 はじめに ChatGPTを始めとした大規模言語モデル(LLM)の登場により、AI業界、特に自然言語処理分野で多くの素晴らしい応用先が提案されるようになりました。 LLMは素晴らしい技術であることは間違いないですが、同時に幻覚(Hallucination)という問題を抱えています。 このHallucinationという問題は、LLMが事実と異なる情報をあたかも真実であるように回答するというもので、LLMの発表当初から指摘されていました。 この問題を解決するために、さまざまな手法が存在しますが、よく用いられるのが「Retrieval-Augmented G

    Retrieval-Augmented Generationシステムの改善方法の紹介 - AITC - ISID | AI トランスフォーメンションセンター コラム
    michael-unltd
    michael-unltd 2024/05/31
    “精度向上のためのさまざまな方法を紹介しましたが、どの方法を採用すべきかを判断するには、LLMの誤答の原因を分析する必要があります。 ISIDでは、Know Narrator Insightを開発し、RAGシステムのログを分析する機能を提供し
  • OpenAIのライバル:Cohereが最高にイケている件 - Qiita

    はじめに Cohere(コーヒア)とは、生成AI関連のスタートアップ企業であり、オラクル、エヌビディア(NVIDIA)、セールスフォース・ベンチャーズ(Salesforce Ventures)、センチネルワン(SentinelOne)などが支援しています。 これまでにCommand-R+などのモデルを公開しています。 今回はCohereのイケている部分について紹介させていただきます。 UIがイケている こちらCohereのダッシュボードです。実際に使ってみるとわかるのですが、全ての画面がわかりやすいです。この画面だけでもやりたいことがすぐ見つけられますし、サイドバー、ヘッダーの選択肢も適切です。(筆者の感想ですが) PlayGroundはChatだけではなく、ClassifyとEmbedも選択できます。 さらにConnectorsでWeb検索を有無を選択できます。 このUIの偉いところは、

    OpenAIのライバル:Cohereが最高にイケている件 - Qiita
    michael-unltd
    michael-unltd 2024/05/27
    “Cohere(コーヒア)とは、生成AI関連のスタートアップ企業であり、オラクル、エヌビディア(NVIDIA)、セールスフォース・ベンチャーズ(Salesforce Ventures)、センチネルワン(SentinelOne)などが支援しています。 これまでにComm
  • Claude3で記事要約・関連論文を教えてくれるChome Extensionで動くLLMエージェントをDify.aiでシュッと作る|r-kagaya

    difyで、小さなタスクに特化させたLLMエージェント・アシスタントBotをシュッと作れるのが結構嬉しい・楽しいなと言う話です。色々作って遊んでるのが楽しいので、仲間を増やすためにも簡易的ですがNoteにしました。 (色々作ってる最中、スクショ撮りつつ、それをそのまま載せただけなゆるい中身です) 一例として、タイトルの通りClaude3で要約・関連論文検索してくれるボットをChome Extensionで動かすのにDifyを使っています。 DifyでClaude3で記事要約・関連論文検索してくれるだけの小さなLLMエージェントを作って、Chrome Extensionで使ってるけど、割と便利 地味にLLM使ったChrome Extensionで作りたいものあったけど、自分でコード書くまでは。。。で止まってたので、Difyでカジュアルに作れるの良い pic.twitter.com/UAqyw

    Claude3で記事要約・関連論文を教えてくれるChome Extensionで動くLLMエージェントをDify.aiでシュッと作る|r-kagaya
    michael-unltd
    michael-unltd 2024/05/08
    “公開した後は、以下Chrome Extensionをインストールし、ChatBot URLをChrome Extensionの画面で入力するだけ”
  • 生成 AI による検索体験 (SGE) のご紹介

    Google は、20 年以上前に日Google 検索の提供を開始しました。それ以来、常により良い体験となるよう機能をアップデートしてきました。AI機械学習の進歩により、Google の検索システムはこれまで以上に人間の言語を理解することができるようになりました。そして日より、国内で Google 検索の新機能として生成 AI による検索体験 (SGE -Search Generative Experience) の日語版の試験運用を開始します。 Search Labs に Google アカウントを登録することで、デスクトップの Chrome ブラウザと スマートフォンの Google アプリ( Android および iOS )でご利用いただけます。 生成 AI による検索の進化生成 AI の新たな技術進歩により、検索エンジンの更なる可能性を再考することができ、新しいタイ

    生成 AI による検索体験 (SGE) のご紹介
  • Dify の ワークフロー の概要|npaka

    以下の記事が面白かったので、簡単にまとめました。 ・Workflow - Dify 1. ワークフロー1-1. ワークフロー「ワークフロー」は、複雑なタスクを小さな「ノード」に分割することで、LLMアプリケーションのモデル推論への依存を減らし、システムの説明可能性、安定性、耐障害性を向上させます。 「ワークフロー」の種類は、次のとおりです。 ・Chatflow :  顧客サービス、セマンティック検索など、応答作成に複数ステップのロジックを必要とする会話シナリオ用 ・Workflow : 高品質な翻訳、データ分析、コンテンツ作成、電子メールの自動化など、自動化・バッチ処理シナリオ用 1-2. Chatflow自然言語入力におけるユーザー意図認識の複雑さに対処するため、「質問分類」「質問書き換え」「サブ質問分割」などの問題理解ノードを提供します。さらに、LLMに外部環境との対話機能、すなわち「

    Dify の ワークフロー の概要|npaka
  • 生成AIによるプロダクトと生産性向上の舞台裏@2024.04.16

    2024.04.16「先達エンジニアに学ぶ 思考の現在地 Online Conference」での登壇スライドです event link: https://findy.connpass.com/event/313119/ 生成AIを使ってプロダクト作りをしていたり、社内の生産性向上をチャレンジしてる方に少しでも参考になれば幸いです。

    生成AIによるプロダクトと生産性向上の舞台裏@2024.04.16
  • LLMエージェントのデザインパターン、Agentic Design Patternsを理解する

    「Agentic Design Patterns」と呼ばれるLLMベースのAIエージェント(以下、LLMエージェント)の4つのデザインパターンについて紹介します。 まず、「Agenticワークフロー」について説明し、続いて4つのデザインパターンを説明します (Part5の前に公開してしまったので、後追いで更新予定です) Agentic Design Patterns Part 1 Agentic Design Patterns Part 2, Reflection Agentic Design Patterns Part 3, Tool Use Agentic Design Patterns Part 4, Planning Agentic Design Patterns Part 5, Multi-Agent Collaboration 動画もあります。 LLMエージェントについての説明

    LLMエージェントのデザインパターン、Agentic Design Patternsを理解する
    michael-unltd
    michael-unltd 2024/04/17
    “Agenticワークフローのインパクトを主張した上で、LLMエージェント開発の参考になる4つのデザインパターン(Reflection、Tool Use、Planning、Multi-agent collaboration)が提案されています。”
  • How we built Text-to-SQL at Pinterest

    Adam Obeng | Data Scientist, Data Platform Science; J.C. Zhong | Tech Lead, Analytics Platform; Charlie Gu | Sr. Manager, Engineering Writing queries to solve analytical problems is the core task for Pinterest’s data users. However, finding the right data and translating an analytical problem into correct and efficient SQL code can be challenging tasks in a fast-paced environment with significant

    How we built Text-to-SQL at Pinterest
  • FlowiseAI を Cloud Run でセキュアに動かす

    FlowiseAI を Cloud Run でセキュアに動かす 記事では、 GUI でカスタム LLM フローを簡単に作成することのできる Flowise の概要に加えて、Cloud Run 上で セキュアに動かす 方法を紹介していきます。 Flowise とは Flowise とは、GUI でカスタム LLM フローを作るためのツールです。 Flowise v1.3.3 からVertex AI の PaLM API for Text / Chat, Embeddings などに対応しています。 シンプルな LLM Chainから、QnA Retrieval Chain といった Vector store を使う少し複雑なものまで、GUI で作成することができます。 シンプルな LLM chain また、作成したカスタム LLM フローは API として利用することができ、利用する際に必

    FlowiseAI を Cloud Run でセキュアに動かす
  • Devin を含むAIソフトウェアエンジニアと周辺技術のざっくり紹介 - Algomatic Tech Blog

    こんにちは。LLM STUDIO 機械学習エンジニアの宮脇(@catshun_)です。 記事では最近注目を集めている AI ソフトウェアエンジニアに関するプロダクトについてざっくりと紹介します。 社内勉強会に向けたキャッチアップ資料として作成しており、加筆修正する可能性がありますが、記事を読んだ方の議論のネタ程度になってくれれば幸いです。 おことわり 記事では AI ソフトウェアエンジニアに関する 詳細な解説は含みません。 Devin を参考に AI ソフトウェアエンジニアと呼称していますが、主語が大きく曖昧性の高い表現を使用しています。詳細については 参照元をご確認ください。 不十分また不適切な言及内容がございましたらご指摘いただけますと幸いです。 プロダクト等の利用時は 必ずライセンスや利用規約を参照して下さい。 記事の目次 プログラム生成を伴う推論 Self-Refine (

    Devin を含むAIソフトウェアエンジニアと周辺技術のざっくり紹介 - Algomatic Tech Blog
  • 【Next Tokyo ’23 】生成 AI を中心とした魅力的なデモのハイライト!Expo、Innovators Hive から | Google Cloud 公式ブログ

    【Next Tokyo ’23 】生成 AI を中心とした魅力的なデモのハイライト!Expo、Innovators Hive から Next Tokyo ’23 では、Expo と Innovators Hive というゾーンで、さまざまなデモが行われていました。ここでは、その中でも 生成 AI を活用した魅力的なデモの一部を紹介します。 生成 AI 対応の新しい情報検索基盤 Vertex AI SearchVertex AI Search は企業内のさまざまな文書やデータベースから情報を収集し、AI による「意味検索」とキーワード検索を実現する検索エンジンで、生成 AI による要約や対話型検索(RAG)にも対応します。 PDF 文書、検索や生成 AI での対話型検索デモで、その機能を紹介します。 PaLM 活用 | 次世代 AI チャットアプリPaLM2 は テキストの分類や文章作成など

    【Next Tokyo ’23 】生成 AI を中心とした魅力的なデモのハイライト!Expo、Innovators Hive から | Google Cloud 公式ブログ
  • LLMマルチエージェントを俯瞰する

    社内のテックトークで紹介しました。

    LLMマルチエージェントを俯瞰する
  • Generative AIのビジネス動向を把握する20のレポート集|k1ito

    このNOTEの使い方◯ビジネス観点でGenerative AIの考え方を養うため ◯ファクト集・投資動向・インプリケーション ✗生成AIとは・技術解説・技術動向など 注:サマリーはすべて生成AIで要約し翻訳したものです。 とりあえずこれを読め

    Generative AIのビジネス動向を把握する20のレポート集|k1ito
    michael-unltd
    michael-unltd 2024/01/13
    “Generative AIのビジネス動向を把握する20のレポート集”
  • Claude 2の日本での使い方解説!料金体系やセキュリティ、ChatGPTとの違いについても解説 | WEEL

    Introducing Claude 2! Our latest model has improved performance in coding, math and reasoning. It can produce longer responses, and is available in a new public-facing beta website at https://t.co/uLbS2JNczH in the US and UK. pic.twitter.com/jSkvbXnqLd — Anthropic (@AnthropicAI) July 11, 2023 Anthropic社は、一般的なAIシステムと言語モデルの開発を専門としている、アメリカAIスタートアップ企業です。 GPT-2とGPT-3モデルの開発にも関与したOpenAI社の元メンバー・Daniela A

    michael-unltd
    michael-unltd 2024/01/07
    “Claude 2とChatGPTの違い”
  • Vertex AI Gemini ProとLangChainで実現するMultimodal RAG

    はじめに この記事は、Google Cloud Champion Innovators Advent Calendar 2023 18日目の記事です。 機械学習エンジニアをしています、原です。Google Cloud Champion Innovators(AI/ML)として選出いただき、活動しています。Google Cloud Innovatorsは、Google Cloud開発者/技術者のためのメンバーシッププログラムです。誰でも参加可能ですので、Google Cloudユーザーの方はぜひ参加をおすすめします! 先日、下記のような記事を公開し、Vertex AIにおけるGemini APIの概要と簡易的な実装例を紹介しました。 今回は少し実践寄りで、Vertex AIでのGemini APIとLangChainを組み合わせて、MultimodalなRAGを構築する一例を紹介します。実現

    Vertex AI Gemini ProとLangChainで実現するMultimodal RAG
    michael-unltd
    michael-unltd 2024/01/03
    “注意点として、unstructuredはpipなどでインストールするだけでは使用できません。 少し苦戦したので、私がPDFを読み取るために行った構築手順を記載しておきます。”
  • プロンプト設計戦略  |  Google AI for Developers

    フィードバックを送信 プロンプト設計戦略 コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。 プロンプト設計により、機械学習(ML)制御モデルの出力を初めて利用するユーザーでも、オーバーヘッドを最小限に抑えられます。プロンプトを慎重に作成することで、目的の結果を生成するようにモデルを調整できます。プロンプト設計は、特定のユースケースに合わせて言語モデルを適応させることをテストする効率的な方法です。 言語モデル、特に大規模言語モデル(LLM)は、単語間のパターンと関係を学習するために、膨大なテキストデータでトレーニングされています。テキスト(プロンプト)を受け取った言語モデルは、高度なオートコンプリート ツールのように、次に来ると思われるものを予測できます。したがって、プロンプトを設計する際は、モデルによる次の予測に影響を与える可能性のあるさまざまな要因を考慮し

    プロンプト設計戦略  |  Google AI for Developers
  • つくりながら学ぶ!AIアプリ開発入門 - LangChain & Streamlit による ChatGPT API 徹底活用

    つくりながら学ぶ!AIアプリ開発入門 - LangChain & Streamlit による ChatGPT API 徹底活用 このでは、LangChain と Streamlit を用いて、ChatGPT APIを活用するAIアプリを開発していきます。つくりながら学ぶことを重視し、簡単なチャットアプリ開発から始めて、Embeddingを活用するアプリ開発まで、ステップバイステップで学べます。 AIアプリをローカル環境で開発した後は、WEB上にデプロイする方法も学びます。クラウドの知識もほぼ必要なく、ランニングコストも掛からない方法で行うため、ぜひ作ったアプリを公開することにチャレンジしてみましょう。 500円と設定していますが投げ銭用です。文は全て無料で読めます。

    つくりながら学ぶ!AIアプリ開発入門 - LangChain & Streamlit による ChatGPT API 徹底活用
  • 大規模言語モデル(LLM)の作り方 GPT-NeoX編 Part 1

    はじめに Turing 株式会社のリサーチチームでインターンをしている東京工業大学 B4 の藤井(@okoge_kaz)です。 大規模モデルへの注目の高さを肌で感じる今日このごろですが、事前学習の知見については依然として十分に共有されているとは言い難いと個人的に感じています。 Turing株式会社では、次世代の自動運転技術を支える技術の1つとして大規模言語モデルに注目しており、独自に研究開発を行っています。今回は大規模言語モデルを学習する際、用いるライブラリ候補の1つに上がるであろうGPT-NeoXについて解説します。 以下で環境構築方法、学習を行う方法などについて詳しく解説します。 GPT-NeoXとは EleutherAIが管理しているNIDIA/Megatron-LM ベースの大規模言語モデル(Large Language Model: LLM)を学習するためのライブラリです。 Mi

    大規模言語モデル(LLM)の作り方 GPT-NeoX編 Part 1
    michael-unltd
    michael-unltd 2023/12/07
    “GPT-NeoXとは EleutherAIが管理しているNIDIA/Megatron-LM ベースの大規模言語モデル(Large Language Model: LLM)を学習するためのライブラリ”
  • もし明日、上司に「GPT-4を作れ」と言われたら? Stability AIのシニアリサーチサイエンティストが紹介する「LLM構築タイムアタック」

    オープンLLMの開発をリードする現場の視点から、開発の実情や直面する課題について発表したのは、Stability AI Japan株式会社の秋葉拓哉氏。Weights & Biasesのユーザーカンファレンス「W&Bカンファレンス」で、LLM開発のポイントを紹介しました。全2記事。前半は、LLM構築タイムアタック。 「GPT-4を作ってください」と言われたらどう答える? 秋葉拓哉氏:みなさん、こんにちは。秋葉と申します。それでは、発表させていただきたいと思います。 みなさん、さっそくですが、「GPT-4」ってすごいですよね。ここにいらっしゃっている方々はこれについては、もう疑いの余地なく、同意してくださるかなと思います。 では、質問なんですが、もし「GPT-4を作ってください。予算はあるんだよ」と上司に言われたら、どう答えますか? ということをちょっと聞いてみたいですね。 これはけっこう意

    もし明日、上司に「GPT-4を作れ」と言われたら? Stability AIのシニアリサーチサイエンティストが紹介する「LLM構築タイムアタック」
    michael-unltd
    michael-unltd 2023/12/07
    “LLMの作り方は、どうやって学ぶのがいいのか。いろいろな資料がありますが、やはり僕のお薦めはこれですね。Weights & Biasesさんが、「LLMをゼロからトレーニングするためのベストプラクティス」というPDFを無料で公開し
  • Google Cloud、生成AIトレーニングプログラムを12月限定で無料提供

    基礎的な内容としては、生成AIの概要を簡単に説明する60秒間の動画、動画や読み物、知識をテストするためのクイズを含むAIの基礎と独自のAIアプリ開発に役立つGoogle Cloudツールについて学べる22分間のコース、大規模言語モデル(LLM)、ユースケース、プロンプトチューニングを通じてLLMのパフォーマンスを向上させる方法についての基礎を学べる約30分のコースを用意しており、3つの基礎コースを修了すると、生成AIの基概念についての理解を証明する、Google Cloudスキルバッジが付与される。 ほかにも基礎コースでは、Generative AI Studioの使用方法を紹介する動画、Generative AI Studioの機能、オプション、使用方法をデモ形式で学習可能な動画、Vertex AIでトレーニングおよびデプロイできる拡散モデルについて学べる動画、責任あるAIの概要とGo

    Google Cloud、生成AIトレーニングプログラムを12月限定で無料提供