[B! tips][chat] ko-ya-maのブックマーク

RAGの実案件に取り組んできた今までの知見をまとめてみた | DevelopersIO

はじめに新規事業部生成AIチーム山本です。 ChatGPT（OpenAI API）をはじめとしたAIの言語モデル（Large Language Model：以下、LLM）を使用して、チャットボットを構築するケースが増えています。通常、LLMが学習したときのデータに含まれている内容以外に関する質問には回答ができません。そのため、例えば社内システムに関するチャットボットを作成しようとしても、素のLLMでは質問に対してわからないという回答や異なる知識に基づいた回答が（当然ながら）得られてしまいます。この問題を解決する方法として、Retrieval Augmented Generation（以下、RAG）という手法がよく使用されます。RAGでは、ユーザからの質問に回答するために必要そうな内容が書かれた文章を検索し、その文章をLLMへの入力（プロンプト）に付け加えて渡すことで、ユーザが欲しい

ko-ya-ma 2024/02/07

リンク

ChatGPTでstep by stepもロールプレイもやめたらプロダクト開発で使える精度になったよ｜MRYY

プロダクトマネジメントのコーチをしています。プロダクト開発の中でもGPT4を使うケースが増え、相談されることが増えてきました。 ChatGPTのGPT4を用いた際の、専門家として信用できる精度で推論させるための工夫の一部を紹介します。精度が必要な専門職かつ中級者向けになると思います。「機密情報の入力をどうさけるか」といった運用の話は今回はしません。やったことと起きたこと一通り論文を読んで試したり、試行錯誤しました。その結果、専門家として業務レベルで使える程度のものができるようになってきました。クライアントのプロンプトを添削する仕事も増えつつあります。副作用として、日本語なのに日本語と感じられない自然言語に目覚めてきました。この片鱗についてお話しします。分かったこと分かったこととして、精度を業務レベルで用いるためにまずはじめにとりくむことは下記です。・接待モードを切る・指示の質が

ko-ya-ma 2023/04/14

リンク

AIが勝手に議論を深めてくれる弁証法エンジンの構築｜深津貴之 (fladdict)

AI哲学者ヘーゲルさんに、無限に議論を思索してもらえる穢土転生コードを書いてみた。GPT3.5でも4でも動きます。弁証法ってなに？ヘーゲルって哲学者おっさんが考えた、思索を深めるメソッド。ある意見（テーゼ）に対して、あえて反対意見（アンチテーゼ）をいって、それから意見と反対意見を統合（ジンテーゼ）することで議論が深まるよ…というもの。・筋トレは健康によい（命題 = テーゼ）・筋トレで体を壊すこともある（反対命題 = アンチテーゼ）・筋トレは健康によいが、やりすぎや間違った方法には注意しなければいけない（総合命題=ジンテーゼ）みたいな考えかた。以下、勝手に無限ループでヘーゲル先生が、弁証法を繰り返してくれるプロンプトです。弁証法エンジンのプロンプトあなたはヘーゲルの仮想人格として振る舞う、形而上の弁証法シミュレーターです。ユーザーの入力「仕事にいかずにゲームをしていたい」に

ko-ya-ma 2023/03/24

リンク

GPT4内のプログラム、地味に特許とろうと温めてたけど、間に合わなさそうなのでもう出しちゃお。以下みたいに書くと、雑なプロンプトでも勝手に高品質になる。

ko-ya-ma 2023/03/19

リンク

ChatGPTは馬鹿じゃない！真の実力を解放するプロンプトエンジニアリングの最前線

はじめに ChatGPTをはじめとしたLLMを使いこなすための必須スキル、プロンプトエンジニアリングについて解説します。最近は動きが早すぎてキャッチアップが難しくなっていますが、特に以下のような手法が注目されているようです。 In-context Learning (ICL) Chain-of Thought (CoT) Zero-shot CoT ReAct Self-Consistency Program-aided Language Model (PAL) 今回は、6つのテクニックの中からPart1として、ICL、CoT、そしてZero-shot CoTの3つを紹介します。これらのテクニックは、ChatGPTをはじめとするLLMのポテンシャルを最大限に引き出すために必要不可欠です。さらに、各テクニックを詳しく解説した論文も紹介していますので、是非ご一読ください。 In-con

ko-ya-ma 2023/03/12

リンク

ChatGPTが賢くなる！noteの深津さん考案「深津式汎用プロンプト」でChatGPTが劇的に使いやすくなった！ - ディレイマニア

ChatGPTは「手前の文に確率的にありそうな続きの文字を繋げるAI」まず最初にChatGPTの仕組みについて。深津さんによるとChatGPTは、「手前の文に確率的にありそうな続きの文字をどんどん繋げていくAIである」とのこと。例えば「昔々」という入力に対して、確率的にありそうな続きの文字は「あるところに」であるという具合に、続きそうな文字をただ出してくれるAIなんだそうです。これを誤解していると求めているような回答がなかなか得られないので、ChatGPTに自分が求めている回答してもらうためには、確率的にありそうな続きの文字を出す方向性を狭めていくような質問をする必要があるそうなんですね。

ko-ya-ma 2023/02/15

リンク

ChatOpsでOSのセキュリティアップデートを自動化出来るようにした - Glide Note

先日@naoya_itoさんが自身のブログ(インフラの継続的デリバリー)でKAIZEN platform Inc.のインフラについて書いていたやつの続編的な内容。 TL;DR Chat(Slack) + Hubot + CircleCI + GitHub を用いてセキュリティアップデートを自動化した GitHubのPull Requestを契機にセキュリティアップデートを実行できるようにした CircleCIが大変便利。インフラ系の作業を自動化するのに非常に合っている気がする背景 KAIZEN platform Inc.では、ネットワーク脆弱性スキャンアプリケーション脆弱性スキャンセキュリティアップデートの定期実行の3つをセキュリティ系タスクとして継続的にやっていこうという話になり、今回は私が担当した、「セキュリティアップデートの定期実行」の話。 RHEL系OSにはyumの自動更