LLMOpsを推進！Azure Log Analyticsを活用したLLMの継続的な監視と改善 - AITC - ISID | AI トランスフォーメンションセンター コラム
こんにちは！AIソリューショングループの太田です。 このコラムでは、Azure Log Analyticsを使ったLLMOpsの実現方法について紹介します。 昨年から大規模言語モデル（LLM）を製品やサービスに組み込む企業が増えています。 しかし、LLMサービスの品質を維持するには、その運用にも注意を払う必要があります。 具体的には、LLMの出力の品質管理や、ユーザーからのフィードバックを元にしたプロンプトの最適化など、継続的な監視と改善が求められています。 これらの運用上の活動にAzure Log Analyticsが役立ちます。 LLMOps（LLM（Large Language Model）+ Ops（Operations））とは LLMOpsは製品に組み込まれたLLMの運用に必要なベストプラクティスの概念を指します。 例えば、LLMの運用ではLLMの出力の監視と評価とプロンプト管理
生成AIを使って海外AIニュースの要約を社内Teamsに投稿してみた - AITC - ISID | AI トランスフォーメンションセンター コラム
こんにちは、AIソリューショングループの太田です。 昨年から引き続き生成AIブームが止まらない中、自主的に進めていた取り組みを紹介します。それは海外AIニュースの要約を、社内で使用しているTemasのチャネルに投稿する取り組みです。 投稿自体はPower AutomateやAzure Function、Azure OpenAI Serviceなどを活用することで自動的に投稿しており、数ヶ月運用した結果を踏まえて最近アルゴリズムの改善をおこなったので、改めて方法とノウハウをまとめたいと思います。 はじめに アーキテクチャ紹介 Power Automate Azure Functions Bing Search Azure OpenAI Service（AOAI） Log Analytics 海外ニュース要約 APIの処理フロー 検索ワードの翻訳 Bing 検索 HTMLの読み込み ニュース記
ChatGPTとデータベースを連携させるText to SQLの魅力と実用性とは？ - AITC - ISID | AI トランスフォーメンションセンター コラム
こんにちは、AIソリューショングループの太田です。 この記事では、生成AIのソリューション開発エンジニアの方やAI関連のDX担当者の方に向けてChatGPTとデータベースの連携を可能にするText to SQL技術ついてご紹介します。 昨年からChatGPTに代表される生成AIを導入する企業が増えています。生成AI活用の第一歩として、社内にあるPDFやテキスト文書を使用し生成AIの実用性を試すという方が多いですが、次のステップとして社内データベースとChatGPTを連携できないか検討され始めています。 こうしたニーズの背景にはデータ活用における、あるギャップが存在します。 これまで、データベースの管理や操作を実施してきたのは主にエンジニアであり、エンジニアはSQLと呼ばれる操作言語を使用してデータベースを操作します。 一方で、データを利用したいと考えてるビジネスユーザーでSQLを精通してい
ChatGPTの活用を加速するRAG: AITCによるRAGコラムまとめ - AITC - ISID | AI トランスフォーメンションセンター コラム
～ChatGPTとRAGの組み合わせで変わる業務効率化～ ※1/23に本まとめコラム後のRAGコラムを追加 昨年、AITCではChatGPTの業務活用コンサルティングを様々実施してきました。その中で、RAG（Retrieval-Augmented Generation：「検索強化型生成」）の仕組みを利用したコンサルティングを多く実施してきましたので、これらプロジェクトや、RAGに関するコラムを、2023年中に多く公開することができました。 本コラムはそれらのまとめコラムとなります。 その前に、そもそもRAGとは RAG（Retrieval-Augmented Generation）は、テキスト生成タスクにおいて情報検索を取り入れた手法です。この仕組みは、主に二つの部分から成り立っています。 1．情報検索（Retrieval）部分: まず、与えられた質問やプロンプトに対して関連する情報を文書
ChatGPTの新たな応用先が登場！LLMマルチエージェントは何ができるのか - AITC - ISID | AI トランスフォーメンションセンター コラム
こんにちは、AI製品開発グループの太田です。 この記事では巨大言語モデルに基づくマルチエージェント技術についてご紹介します。 近年、人工知能（AI）の進化は目覚ましいものであり、その中でも巨大言語モデル（Large Language Models、LLM）は注目を浴びています。 その中でもChatGPTは、その優れた自然言語処理能力により、様々な応用分野で高い評価を受けています。 本記事では、ChatGPTを基にした新たな応用技術である「LLMマルチエージェント」に焦点を当て、その可能性や機能についてご紹介いたします。 LLMエージェントとは？ まず初めに、「LLMエージェント」について簡単に説明します。 LLMエージェントは、巨大言語モデルをベースに構築されたAIエージェントです。 このエージェントは、自然言語でのコミュニケーションを通じてユーザーと対話し、自ら自身がすべきタスクを考える
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
