「ChatGPTには一度言ったことを覚えていてほしい」 ベクターストアで社内向けChatGPTの頭をちょっと良くした話

「ChatGPT Meetup」は、プロンプティングからOpenAI API、さらには周辺のライブラリやHubのエコシステムまで広く活用の助けになる知見を共有し、みんなで手を動かして楽しむためのコミュニティです。1回目に登壇したのは、株式会社リンクアンドモチベーションの白田幹氏。社内向けのChatGPTを改善した時の開発について発表しました。 LLM推進担当の白田氏 白田幹氏：「Vector Storeを使って社内向けのChatGPTの頭を少しだけ良くした話」というところで、ちょっとお話できればと思っています。 はじめに、自己紹介をさせてください。株式会社リンクアンドモチベーションという会社におります、白田幹と申します。2020年新卒入社で、データサイエンティストとしてこれまで働いてきたのですが、「ChatGPT」の登場とともに今はLLM推進担当というところで、基本的には社内に向けてLLM

[shunkeen]

記憶の整理をしてあげないと、無駄な会話が後々逼迫しそうではある。人間の睡眠みたいに、夜間バッチで無加工の記憶を、整理、加工して格納したvectorstoreを用意できたら面白そう。どう整理、加工するかはわからんが。

[canadie]

古い、かつあまり参照されていないコンテキストをGPTモデルに要約・統合させてより「記憶らしい」挙動をさせる取り組みはありますね。先日Azure Cosmos DBがベクターストアに対応したのでクラウドでやるならこれ一択かな

[misshiki]

“LLMの出力をPineconeやVector Storeに格納して、次回以降似た質問が出た時は、そこを参照して回答するように変えました。”

[stealthinu]

過去の質問をvectorstoreに入れて似た会話内容を参照して答えるデモ。まさに同じことしようとしていたので参考に。

[nemoba]

答えの再調整を可能にしたら、社内FAQ作る時に便利かもね。多い質問とかも逆算できるし

[uunfo]

そうか、人は睡眠中に不要な情報を消してるのかもな。

[yoiIT]

これがもっと手軽にできるようになると生産性が爆上がりする＞“独自のデータ資産を増やそう、活用しよう”

[kei_1010]

どんどん情報が溜まっていくと、それを参照するのに時間がかかったりしないの？それともベクターストアはそれを回避できるソリューションなのかな？