Azure AI Search: Outperforming vector search with hybrid retrieval and ranking capabilities
A common practice for implementing the retrieval step in retrieval-augmented generation (RAG) applications is to use vector search. This approach finds relevant passages using semantic similarity. We fully support this pattern in Azure AI Search (formerly Azure Cognitive Search) and offer additional capabilities that complement and build on vector search to deliver markedly improved relevance. In
ChatGPTでCAPTCHAを突破可能か検証してみた - Qiita
こんにちは、@okazu_dm です。 今回は、ChatGPTの画像認識機能1 (通称GPT-4V)の自動巡回との親和性を探る試みの一つとして、CAPTCHAをChatGPTで解くことが可能かどうかを検証しました。その結果について紹介します。 文中のCAPTCHAの定義 この記事ではCAPTCHA「サイトをbotアクセスから守る目的でアクセス元が人間であるかどうかを自動判別する仕組み全般」をCAPTCHAと呼びます。 音声を文字として入力させるものなどもありますが、今回行った検証で対象とするのは画像を識別させるタイプのCAPTCHAです。これの例としては、以下のように難読化された文字を識別して入力させるものが一般的かと思われます。 また、Googleが提供するreCAPTCHAは、現在v3まで出ていますが、v3はユーザインタラクトを必要としないため、この記事中ではv2を使って対応します。r
【GPT Crawler】URLを入れるだけでどんなサイトもGPTsにできる神AIを使ってみた | WEEL
メディア事業部AIライターのたけしとLLMリサーチャーの中田です。この記事は専門的な内容を含むため、AIスペシャリストとの共同執筆となっています。 2023年11月15日、Builder.ioより「GPT Crawler」がオープンソース化されました。 GPT Crawlを利用すれば、URLを指定するだけで、そのサイト独自のGPTsをたった2分で簡単に作れてしまうんです！ これは例えるなら、映画『スタートレック』に登場する”膨大な情報データベースにアクセスするためにコンピュータと対話するシーン”が、現実世界でも再現できるようなものですね。 というわけで今回は、GPT Crawlerの概要や使い方について詳しく解説します。 ぜひ最後までご覧いただき、お手元のPCでGPTsを作成してみてください！ なお弊社では、生成AIの開発について1時間無料相談を承っています。こちらからお気軽にご相談くださ
GPT-4を活用し、AI-OCR「DEEP READ」に機能追加
GPT-4を活用し、AI-OCR「DEEP READ」に機能追加あらゆる種類の書類から必要な情報をAIが自動抽出、企業のDXを推進 株式会社EduLab（エデュラボ、本社：東京都渋谷区、代表取締役社長兼CEO：廣實 学、以下「EduLab」)は、手書き文字の読み取りも可能なOCRサービス「DEEP READ」（AI-OCR）において、GPT-4を組み合わせた機能を追加したことをお知らせいたします。 GPT-4と独自の文字認識技術を組み合わせ、書類管理のDXを推進 当社グループは、高精度文字認識（OCR）サービス「DEEP READ」を、2018年１月より提供しております。「DEEP READ」では、AIを活用することにより、従来型のOCRの課題であった手書き文字も高精度で認識することが可能です。 これまで、保険・金融業界やBPO事業者、学校法人など、様々な企業・団体様に、書類管理業務のDX
日本語大規模言語モデル OpenCALM の知識でクイズ王に挑戦する | Amazon Web Services
Amazon Web Services ブログ 日本語大規模言語モデル OpenCALM の知識でクイズ王に挑戦する 数十億を超えるパラメーターを持つ大規模言語モデルは、追加学習なしに人間も驚く知識を披露します。その知識で、クイズ王に輝くことはできるのでしょうか? 本記事では、株式会社サイバーエージェント様が公開した OpenCALM を用いてクイズを題材にした日本語 QA データセット JAQKET にどこまで正確できるか検証します。クイズに回答するのは、問い合わせ窓口での質問回答業務に近いタスクです。本記事の内容は、お客様対応等の業務を続々とオープンソースで公開される大規模言語モデルを利用してどのようにコスト効率良く改善するのかの検討にも活用頂けます。 OpenCALM は、株式会社サイバーエージェント様から 2023 年 5 月 11 日に公開された日本語大規模言語モデルです。Wik
ChatGPT - LLMシステム開発大全
ChatGPTとLLMシステム開発について纏めた187ページ資料です。 2024/04 名称を改め資料を大幅にアップデートしました！ 今後も随時更新していきます。 データサイエンティスト協会での発表動画はこちら。 https://youtu.be/l9fpxtz22JU Build Japanでの発表はこちら。 https://youtu.be/UEZzx6a005g?si=Ot8EO2bv8yhQQEcy 2023/7/28 体裁修正、余計なページを削除 2023/12/12 RAG、API仕様、モデルのページを追加。また情報を最新化。 2024/04 名称を改め資料を大幅にアップデートしました！ 1. LLM - GPTの全体像 LLM - GPT とは何なのか ～チャットAIを例にした動作イメージ～ 大規模言語モデル(LLM)が持つ基礎能力 デジタルツールとLLMの連携 GPTに関す
Emerging Architectures for LLM Applications | Andreessen Horowitz
There are many different ways to build with LLMs, including training models from scratch, fine-tuning open-source models, or using hosted APIs. The stack we’re showing here is based on in-context learning, which is the design pattern we’ve seen the majority of developers start with (and is only possible now with foundation models). The next section gives a brief explanation of this pattern; experi
最近の改訂でGPT-4の精度が劣化したとの噂があったので検証してみた｜IT navi
最近、Twitterの投稿などで、5/12のバージョンアップ以降、ChatGPTのGPT-4モデルの精度が劣化したとの意見を見ましたので、実際に検証してみました。 以下は、同じプロンプトでGPT-4モデルが出力した文章です。どちらがバージョンアップ前でどちらがバージョンアップ後かわかりますか？ AIによる文章生成技術の概要 近年、AI技術の発展により、文章生成に関する研究が盛んに行われています。文章生成AIは、自然言語処理（NLP）と機械学習を活用し、人間のように文章を生成することができる技術です。これにより、ブログ記事やニュース、広告コピー、会話型AI（チャットボット）など、さまざまな分野での応用が期待されています。 AIによる文章生成技術の概要 AIによる文章生成技術は、人工知能の一分野であり、特定のテーマやスタイルに従って文章を自動的に生成する技術です。この技術は、自然言語処理（NL
Your 7 Biggest Questions About ChatGPT, Answered
Gartner experts weigh in on how it’s valuable and whether it’s safe to use. Chat Generative Pretrained Transformer or, as you may know it, ChatGPT, is a chatbot and generative AI language tool launched by OpenAI in November 2022. At times, it feels as if we’ve heard about nothing else since. But amidst all the excitement — about ChatGPT in particular and conversational artificial intelligence in g
Google Colab で BabyAGI を試す
「Google Colab」で「BabyAGI」を試したので、まとめました。 1. BabyAGI「BabyAGI」は、タスク駆動型自律エージェントのフレームワークです。ゴールに基づいてタスクの作成、優先順位付け、および実行を行います。主なアイデアは、前のタスク結果とゴールに基づいてタスクを作成することです。「Task-Driven Autonomous Agent」 (Mar 28, 2023)の簡易版になります。 「BabyAGI」は、次の手順を無限ループすることで機能します。 (1) タスクリストから最初のタスクを取得。 (2) タスクを実行エージェントに送信。実行エージェントは、「OpenAI API」を使用して、タスク結果を取得。 (3) 結果を充実させ、「Pinecone」に保存。 (4) 新しいタスクを作成し、ゴールと前のタスク結果に基づいてタスクリストの優先順位を付け直す。
「Auto-GPTとAgentGPTは別物です」という話
ChatGPTを皮切りとしたAIブーム。流石にちょっと過熱気味になってきた印象があります。 中でも気になるのは「AutoGPT」の話題。Twitter上だと、 他にも、AgentGPTを使って「AutoGPTすごい！AGIだ！」としている投稿を多く見かけました。 ですが、「AgentGPTはAuto-GPTのブラウザ版」ではありません（少なくとも2023年4月15日時点は）。 両者とも似たアプローチはとっていますが、Auto-GPTは 「GPT-4に情報探索・処理や長期記憶の手段を持たせている」 という点が大きく異なります。 AgentGPTは、 ユーザーが設定したゴールをAIにいくつかの問い（タスク）に分解させる それぞれの問いに回答を出させ、その結果を踏まえて追加で必要な問いを考えさせてタスクリストに追加する という自問自答のループを回すことで思考を深めています。 一方、Auto-GP
ChatGPTは安価な魅力か、高価な投資か？ - Qiita
OpenAIの最新の進化であるGPT-4は、AI業界の主要プレイヤーである。しかし、技術の高度さから、コストに関する懸念が多くの人々を悩ませている。この記事では、Business Insiderの報道に基づいて、ChatGPTが安価か高価かについて検討していきます。 AI技術の進化が著しい中、OpenAIが開発したChatGPTは、さまざまな用途で注目を集めています。しかし、その運用コストに対する懸念もあります。そこで今回の記事では、提供者（マイクロソフトやOpenAI）と利用者である企業の視点から、ChatGPTのコストについて検証し、その実態を明らかにしていきたいと思います。ChatGPTが安価か高価か、そしてどのように活用すべきか、皆さんにわかりやすく解説してまいります。 （OpenAIやマイクロソフトが）ChatGPTの提供にかかる費用 OpenAIのChatGPTの運用コストは1
Transparency Note for Azure OpenAI - Azure AI services
What is a Transparency Note? An AI system includes not only the technology, but also the people who use it, the people who are affected by it, and the environment in which it's deployed. Creating a system that is fit for its intended purpose requires an understanding of how the technology works, what its capabilities and limitations are, and how to achieve the best performance. Microsoft's Transpa
BLOOMはここ10年で最も重要なAIモデルだ | AI専門ニュースメディア AINOW
著者のAlberto Romero氏はスペイン在住のAI技術批評家で、同氏の鋭い洞察に満ちた記事のいくつかはAINOWでも紹介して来ました。同氏が2022年6月末にMediumに投稿した記事『BLOOMはここ10年で最も重要なAIモデルだ』では、大規模言語モデルBLOOMの開発経緯とその革新性が解説されています。 2022年7月12日に正式リリースされた言語モデルBLOOM（BigScience Language Open-science Open-access Multilingualの略称）は、アーキテクチャから見ればGPT-3と同じTransformerベースであり、パラメータ数は1750億のGPT-3より少し多い1760億である月並みなモデルです。 BLOOMの革新性を明らかにするために、まずRomero氏はGTP-3のような現代を代表する大規模言語モデルに共通する特徴をまとめます
ChatGPTを使った激ヤバサービスまとめ17選！生産性が爆上がりするサービス一覧 | WEEL
みなさんの会社はChatGPT賛成派ですか？それとも反対派？ 実はChatGPT導入済みの各企業でアンケートをとったところ、7割の従業員がそのメリットを肯定しています。 とはいえ業務に素のChatGPTを取り入れる場合、セキュリティや信頼性の面で抵抗がありますよね。 そこで当記事ではITのプロが手掛ける、ChatGPTを使ったサービスを17個紹介します。 最後まで目を通していただくと、ChatGPT導入までの心理的なハードルが下がるはずです。ぜひ最後までお読みください。 なお弊社では、生成AIツール開発についての無料相談を承っています。こちらからお気軽にご相談ください。 →無料相談で話を聞いてみる ChatGPTが組み込まれているサービス12個 まずはデフォルトでChatGPTが組み込まれているサービスを12個紹介します。用途別にカスタマイズされているので、なんでもでき過ぎるChatGPT
Prompt Engineering Guide – Nextra
Prompt Engineering Guide プロンプトエンジニアリングは、言語モデル（LMs）を効率的に使用するためのプロンプトを開発および最適化する比較的新しい学問分野です。プロンプトエンジニアリングのスキルを身につけることで、大規模言語モデル（LLMs）の能力と限界をより理解することができます。 研究者は、プロンプトエンジニアリングを使用して、質問応答や算術推論などの一般的なおよび複雑なタスクのLLMsの能力を向上させます。開発者は、LLMsやその他のツールとのインタフェースとなる強固で効果的なプロンプテクニックを設計するためにプロンプトエンジニアリングを使用します。 プロンプトエンジニアリングは、プロンプトの設計と開発に限らず、LLMsとのインタラクションおよび開発に役立つ幅広いスキルと技術を含みます。これは、LLMsとインタフェースすること、ビルドすること、能力を理解すること
OpenAIが言うにはGPTは汎用技術である – 大規模言語モデル(LLM)は2割の労働者の半分の業務に影響を与えると予測 | DevelopersIO
OpenAIのGPT-4、GoogleのPaLM、MetaのLLaMAなど、最近は大規模言語モデル(LLM)が話題沸騰です。 生産性を上げるための試行錯誤が猛烈なスピードで試されていますが、言い換えると、普段のタスクがAIに置き換え可能であることも示唆しています。 GPTはどこまで仕事にいかせるのか? そんな質問に答えてくれる論文がGPT-4/ChatGPT/DALL-EなどでおなじみOpenAIの研究者らによってプレプリントサーバーのarXivで公開されました。 Excited to have this working paper up on arxiv! https://t.co/y4iZ1yn5NB pic.twitter.com/KEtfuUyG8H — sam manning (@sj_manning) March 20, 2023 URL : https://arxiv.org
自然なブログを書いてしまうほど超高精度な言語モデル「GPT-3」はどのように言葉を紡いでいるのか？
OpenAIが開発する「GPT-3」は、ほとんど違和感のないブログ記事を生成できてしまうほど高い精度を誇る言語モデルです。そのGPT-3がテキストを生成する仕組みについて、オンライン学習プラットフォーム「Udacity」でAIや機械学習関連の講座を持つJay Alammar氏が解説しています。 How GPT3 Works - Visualizations and Animations – Jay Alammar – Visualizing machine learning one concept at a time. https://jalammar.github.io/how-gpt3-works-visualizations-animations/ The Illustrated GPT-2 (Visualizing Transformer Language Models) – Ja
行政の統計資料のような非構造化データをGPTで構造化データに変換する｜mah_lab / 西見 公宏
今朝方GPT-4が発表されて、みなさん死ぬほど盛り上がってますねー。 GPT-4を使えば一発でできそうなネタではありますが、GPT-4 APIのお値段は3.5よりもお高めの設定なので、これからはどのように上手くGPTのバージョンを使い分けていくかが問われていくと思います。 というわけで今日は非構造化データを構造化データに変換する話です。 問題の背景行政が定期的に公開している統計資料をご覧になったことはありますでしょうか。ディスる訳ではないですが、以下に示すのは私が住んでいる富士吉田市の統計資料です。 統計ふじよしだ令和元年度版 - 商業 このように分かりやすい表で情報を提供してくれるのはありがたいのですが、数値データにはなっていないので分析に活用することができません。 GPTのパワーを使って、このような非構造化データを構造化データに変換できないか？というのが本日のお題になります。 コードP
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Nejumi LLMリーダーボード
