ChatGPTに社内文書に基づいた回答を生成させる仕組みを構築しました - コネヒト開発者ブログ

はじめに はじめまして、8月にコネヒトに入社したy.ikenoueです。 突然ですがみなさん、生成AIは使っておりますでしょうか？ ChatGPTやStable Diffusionといった代表的な生成AIの発表から約1年が経過し、そろそろブームも落ち着くかと思っていたのですが、つい先日もOpenAI DevDayにてChatGPTに関する様々なアップデートが発表されるなど、相変わらず目まぐるしい日々が続いていますね。 弊社における生成AIの活用状況はというと、以前に下記の記事にて、Slack上でChatGPTと会話できる環境を社内提供しているという取り組みをご紹介しました。 tech.connehito.com 本日は、上記の社内ツールに新たに追加した「社内文書の参照機能」についてご紹介します。 「社内文書の参照機能」の概要と開発動機 まずは「社内文書の参照機能」の概要と開発にいたった動機

[miyabiryuryu]

僕も社内情報の検索AI作ったんだけど、GPTsの登場で一気に霞んだ感じがあるなぁ。。。

[hiroshe]

こういうことできる会社のセキュリティルールどうなってるのか本当に謎。普通の会社ではできないと思うんだが。

[aquarickn]

どんどんこういう事例増やしてほしいね。仕様も読まずにセキュリティ的に出来ないだろうおじさんを駆逐してほしい

[kiririmode]

ベクトルストアをS3上のオブジェクトとした、シンプルなRAGによる社内ナレッジの検索事例

[igni3]

chatGPTに渡しても保存はされてないかもしれんけど、社内文書を社外サーバに渡してるので普通は社内規約でアウトになると思われ。とはいえクラウド保存OKとかガバガバだったりするからな。

[dazz_2001]

うん、悪い事ではないんだけど、こういうのは大概しっかりとしたQ&A作っておけば良いんだよなぁ。それよりも問題なのはメンテされずに放置される事。

[xanaduuu]

たぶん、これが皆やりたいやつなんよ。GPTsでノンコードでいけそうだけど、どうなんやろか？結局、チャットボットなりのUI部分は必要だと思うけど。とすると、簡易にこのUI部分を作れるツールなりが今後流行るのかも

[yyuuzzuu]

“タイトル"]”

[ebibibi]

はてブでもセキュリティが気になるって意見が多いなぁ。残念。みんなクラウドサービス使ってるならその時点で同じでしょう。

[misshiki]

LlamaIndex

[progrhyme]

真似したい

[bosatsumiroku]

面白いと思うのだが、Notion上で検索するのと大差ない気もする。社内サイトが乱立している場合には意味があるのかな。その場合とっとと1箇所にまとめろよ、が先か。

[kyopeco]

セキュリティ気になる。ぱっと見、AWS Cloud外の外出しで、社内文書をChatGPTにあげているように見える。

[khtno73]

こういうのやりたいけどセキュリティの壁は高い

[denden_engineer]

社内のクラウドサーバーに学習済LLMを置いて使っているのかと思った。セキュリティは対策可能で仕組みはよいと思う。

[augsUK]

「ChatGPTが社内に存在する文書を参照したうえで、回答を生成する機能」「有料サービスを使用しない方法」これを構築するだけでなく会社ブログで公開しに行くのか。

[sh2]

実装を参考にする

[canadie]

でもEmbeddingのコスト 1000トークン$0.0001だからなあ…100万トークン（およそ100万文字）で15円なので、自前で計算するマシンのスペック落とした方が安上がりな気はする。GPTsは今のところパラメタいじれないので…

[mazemaze2017]

大変参考になりました

[shields-pikes]

資料のベクトル化の前処理段階での精度向上ノウハウなどが、もっと共有されていくといいのかもね。

[chopwave]

まだ読んでないけど、試してみよ。