RAGでの回答精度向上のためのテクニック集（応用編-B）

はじめまして。株式会社ナレッジセンスの門脇です。普段はエンジニア兼PMとして、「社内データに基づいて回答してくれる」チャットボットをエンタープライズ企業向けに提供しています（一応、200社以上に導入実績あり）。ここで開発しているチャットボットは、ChatGPTを始めとしたLLM（Large Language Models）を活用したサービスであり、その中でもRAG（Retrieval Augmented Generative）という仕組みをガッツリ利用しています。本記事では、RAG精度向上のための知見を共有していきます。 はじめに この記事は何 この記事は、LlamaIndexのAndrei氏による『A Cheat Sheet and Some Recipes For Building Advanced RAG』[1]という記事で紹介されている「RAGに関するチートシート」について、And

[misshiki]

“ドキュメントから適切な回答を生成するテクニック”

[stealthinu]

RAGで一旦抽出してからそれを元にLLMでリランキングしてフィルタリングし、その結果からさらにLLMで結論出すと良いらしい。時間がさらにかかるけど精度あがるならありか。