タグ

LLMに関するkns_1234のブックマーク (216)

  • 話題のローコードツール「Dify」で生成AIアプリを作ってみよう! - Qiita

    Difyって何? 少し前から話題の、プログラミングなしで生成AIアプリケーションを開発できるOSSです。 「Dify すごい」 でSNSを検索すると、驚き屋さんがみんな驚いています。このゴールデンウィークはAmazon BedrockとDifyの話題でもちきりでしたね。 元々は「GPTビルダーのOSS版ね。はい解散」という感じだったのですが、最近追加された「ワークフロー」機能がすごく便利のようです。 ちょっとしたアプリなら、ローコードで簡単に作れてしまうとのこと。 最近は自分でPCやサーバー準備して動かさなくても、SaaS版が公式から準備されたようです。無料プランもあります。 やってみた サインアップ 公式サイト右上の「Get Started」からサインアップします。 GitHub連携すると、いきなり開発画面に辿り着きました!いいUX。 「(いち?)から作成」よりワークフローを作ってみまし

    話題のローコードツール「Dify」で生成AIアプリを作ってみよう! - Qiita
    kns_1234
    kns_1234 2024/05/07
  • 「面倒なことはChatGPTにやらせよう」の全プロンプトを実行した配信のリンクを整理しました|カレーちゃん

    Youtubeで配信しながら全プロンプトを実行しましたので、各節へのリンクを整理しました。時間のところにYoutubeへのリンクになっています。 もしずれていたら、その時間まで移動して視聴ください。 はじめに (4:00) 1章 ChatGPTの基礎知識 (5:50) 2章 ChatGPTの基的な使い方 (6:28) 3章 ChatGPT Plusのセットアップ (7:32) 4章 ファイルのアップロードとダウンロード (12:40)4.1 アップロード・ダウンロード (13:03) 4.2 扱うことができるファイル (16:02) 5章 繰り返し作業を一瞬で (16:55)5.1 文字列操作 (17:20) 5.2 正規表現でのパターンマッチ (25:36) →54ページの正規表現でできることの例の説明 (29:09) 5.3 ファイルの一括操作 (46:20) 5.4 QRコード作成

    「面倒なことはChatGPTにやらせよう」の全プロンプトを実行した配信のリンクを整理しました|カレーちゃん
  • AIに「物議を醸す話題」を拒否させるのは言論の自由に悪影響と専門家が警鐘

    Googleは2024年2月に、生成AIのGeminiが「人種的に多様なナチス」を生成したことを謝罪し、修正できるまで人物を生成できなくする一時措置を講じました。また、Geminiに限らずほとんどのチャットAIは、センシティブな話題を振ると回答を拒否します。このように、大手AI企業は微妙な問題に直面すると臭いものにフタをするようにそのテーマへの言及そのものを回避する傾向がありますが、そのような対応は言論の自由を害することになりかねないと、専門家が警鐘を鳴らしています。 Report: Freedom of Expression in Generative AI - A Snapshot of Content Policies - The Future of Free Speech https://futurefreespeech.org/report-freedom-of-expressi

    AIに「物議を醸す話題」を拒否させるのは言論の自由に悪影響と専門家が警鐘
    kns_1234
    kns_1234 2024/05/06
  • Dify の ワークフロー の概要|npaka

    以下の記事が面白かったので、簡単にまとめました。 ・Workflow - Dify 1. ワークフロー1-1. ワークフロー「ワークフロー」は、複雑なタスクを小さな「ノード」に分割することで、LLMアプリケーションのモデル推論への依存を減らし、システムの説明可能性、安定性、耐障害性を向上させます。 「ワークフロー」の種類は、次のとおりです。 ・Chatflow :  顧客サービス、セマンティック検索など、応答作成に複数ステップのロジックを必要とする会話シナリオ用 ・Workflow : 高品質な翻訳、データ分析、コンテンツ作成、電子メールの自動化など、自動化・バッチ処理シナリオ用 1-2. Chatflow自然言語入力におけるユーザー意図認識の複雑さに対処するため、「質問分類」「質問書き換え」「サブ質問分割」などの問題理解ノードを提供します。さらに、LLMに外部環境との対話機能、すなわち「

    Dify の ワークフロー の概要|npaka
    kns_1234
    kns_1234 2024/05/04
  • これから Dify の話をします…|Sangmin Ahn

    . @dify_ai を複合AIシステム(Compound AI System)と呼んでるのはチャットボットやRAGに加え、複数のツールを自由自在に組み合わせることができるからです。ツールの中にはWolfram Alphaも↓。APIキーを取得し認証を済ませば、月2000回まで無料で使えます。他にも、arXivやBing検索との連携も可👏。 https://t.co/2cP8wZDYnI pic.twitter.com/w2WQMYf5VV — sangmin.eth @ChoimiraiSchool (@gijigae) March 21, 2024

    これから Dify の話をします…|Sangmin Ahn
  • Yahoo!検索がさらに便利に! 生成AIが検索結果の回答力を強力サポート - Yahoo!検索ガイド - Yahoo! JAPAN

    いつもYahoo!検索をご利用いただき、ありがとうございます。 Yahoo!検索では、2024年5月頃より、一部の検索キーワードに対し、生成AIによる回答を表示する予定です。 回答が表示されることで、従来よりもスムーズかつ効率的な情報収集が可能になります。 ※試験提供として、一部のスマートフォンユーザーを対象に実施する予定です。 ※掲載されている画像はイメージであり、実際の画面や内容と異なる場合がございます。予めご了承ください。 ■ご注意事項 生成AI技術の品質は常に改善を目指しておりますが、不適切な表現や正確でない情報が表示される可能性があり、正確性および最新性を保証するものではございません。その他、生成AI機能のご利用に際しては、生成AIガイドライン(Yahoo!検索における生成AIを用いた回答生成機能の利用に関するガイドライン)をご確認ください。 ■生成AIモデルについて この機能は

    Yahoo!検索がさらに便利に! 生成AIが検索結果の回答力を強力サポート - Yahoo!検索ガイド - Yahoo! JAPAN
    kns_1234
    kns_1234 2024/05/01
    “5月頃より、一部の検索キーワードに対し、生成AIによる回答を表示する予定”
  • GitHub、「Copilot Workspace」テクニカルプレビューを開始。ほとんど全ての開発工程をAIで自動化

    GitHub、「Copilot Workspace」テクニカルプレビューを開始。ほとんど全ての開発工程をAIで自動化 テクニカルプレビューは上記のCopilot Workspaceのページからウェイトリストボタンをクリックして申し込みます。 Copilot Workspaceはほとんど全ての工程を自動化 Copilot Workspaceは、自然言語で書かれたIssue(課題)を基に、Copilotが仕様案と実装計画を示し、コーディングや既存のコードの修正を行い、ビルドをしてエラーがあればデバッグも行うという、プログラミングのほとんど全ての工程をCopilotが自動的に実行してくれる、というものです。 人間は各工程でCopilotから示される内容を必要に応じて修正するか、そのまま見守ることになります。 GitHub CEOのThomas Dohmke(トーマス・ドムケ)氏は、Copilot

    GitHub、「Copilot Workspace」テクニカルプレビューを開始。ほとんど全ての開発工程をAIで自動化
  • zero-gpu-explorers (ZeroGPU Explorers)

    kns_1234
    kns_1234 2024/04/29
  • LEIA: 言語間転移学習でLLMを賢くする新しい方法

    Studio Ousiaと理化学研究所に所属している山田育矢です。 この記事では、大規模言語モデル(LLM)の性能を向上させる新しい方法であるLEIA(Lightweight Entity-based Inter-language Adaptation)を紹介します。 LLMは言語によって性能に顕著な差があり、訓練に使われるテキストが最も多い英語において特に性能が高い傾向があることが知られています。LEIAは、LLMが蓄えている英語の知識を他の言語から使えるようにする訓練を施すことで、英語以外の言語でのLLMの性能を向上させる新しい手法です。 この度、英語・日語の2言語LLMであるSwallowの7Bと13Bのモデルに対してLEIAによる訓練を施して性能向上を行ったモデルを公開します。 ライセンスは、Swallowと同様のLlama 2 Community Licenseです。これらのモ

    LEIA: 言語間転移学習でLLMを賢くする新しい方法
    kns_1234
    kns_1234 2024/04/25
    「英語の知識を他の言語でもより有効に使える」
  • Morphic

    Why is Nvidia growing rapidly?Is the Apple Vision Pro worth buying?How does the Vercel AI SDK work?What is Groq?Tesla vs Rivian

    Morphic
    kns_1234
    kns_1234 2024/04/22
  • LLMプロダクト開発における独自評価基準とデータセットの作り方の考察

    - {place_name}の主要な観光スポットを網羅できているか - 各観光スポットの特徴や見どころを具体的に説明できているか - アクセス方法や所要時間など、実用的な情報を提供できているか - 主観的な意見を述べていないか - 明るく丁寧な口調を維持できているか [ { "input": { "place_name": "鎌倉" }, "output": "鎌倉は神奈川県にある人気の観光地です。以下のような見どころがあります。\n\n1. 鶴岡八幡宮: 源頼朝ゆかりの神社。殿や舞殿が国宝に指定されています。\n2. 高徳院: 有名な「鎌倉大仏」があります。高さ11.3mの銅造阿弥陀如来座像は圧巻。\n3. 長谷寺: 尊の十一面観音菩薩は高さ9.18mの木造で、日最大級です。\n4. 鎌倉文学館: 鎌倉ゆかりの文学者を紹介。歴史的建造物の中で作品を楽しめます。\n5. 江ノ島: 弁

    LLMプロダクト開発における独自評価基準とデータセットの作り方の考察
    kns_1234
    kns_1234 2024/04/22
  • いちばんやさしいローカル LLM|ぬこぬこ

    概要ローカル LLM 初めましての方でも動かせるチュートリアル 最近の公開されている大規模言語モデルの性能向上がすごい Ollama を使えば簡単に LLM をローカル環境で動かせる Enchanted や Open WebUI を使えばローカル LLM を ChatGPT を使う感覚で使うことができる quantkit を使えば簡単に LLM を量子化でき、ローカルでも実行可能なサイズに小さくできる 1. はじめに大規模言語モデル(LLM)の数は数年前と比べてたくさん増えました。有名な LLM を使ったチャットサービスとして、OpenAIChatGPT や Anthropic の Claude、Google の Gemini などがありますが、これらのサービスの中で利用されている大規模言語モデルは公開されていません。 現状、様々な評価指標により LLM の性能が測定されていますが、

    いちばんやさしいローカル LLM|ぬこぬこ
  • MinnadeChat

    カテゴリ別のタスク例それぞれの質問カテゴリにおけるタスク(指示内容)の例です。選択すると、そのタスクの質問を作成するページに飛ぶことができます。ここに含まれないタスクの質問を作成することも可能です。

    MinnadeChat
    kns_1234
    kns_1234 2024/04/20
  • 陰謀論者 vs. 生成AI──大規模言語モデルは陰謀論を説得できるか? 米MITなどが2000人以上で検証

    陰謀論は一度信じ始めると、反証によって覆すのが非常に難しい信念だと考えられている。しかし、この研究では従来の陰謀論に対する反証の試みが失敗してきたのは、単に各陰謀論者に合わせた説得力のある反証が不足していたためではないかという可能性を検討した。陰謀論者は自分の関心のある陰謀について非常に詳しいことが多く、反論する側が議論で劣勢に立たされるのである。 この課題に対処するため、この研究ではLLM(GPT-4 Turbo)を活用した。実験では、計2190人の陰謀論者がLLMと3ラウンドの対話を行った。参加者は自分が信じる陰謀論を詳細に説明し、AIにはそれぞれの陰謀論の信念を低下させるよう指示した。 その結果、参加者の陰謀論信念が21.43%低下した。さらに、参加者の27.4%が対話後に陰謀論を確信しなくなった。この効果は2カ月後も持続し、非常に広範な陰謀論で一貫して見られ、陰謀論信念が深く根付い

    陰謀論者 vs. 生成AI──大規模言語モデルは陰謀論を説得できるか? 米MITなどが2000人以上で検証
    kns_1234
    kns_1234 2024/04/19
  • 1BitLLMの実力を見る|shi3z

    1BitLLMは当に実現可能なのか?そして、実現されると予告されていることに意味はあるのか? ようやく再現実装に成功した人が現れたので僕も試してみた。 ちなみに1Bit(1.58bit) LLMについての考察はこのページが面白いので一読をお勧めする。 ただし、普通のHuggingFaceのお作法とはかなり違うので注意が必要。 まず、このHuggingFaceリポジトリを丸ごとgit cloneする $ git lfs install $ git clone https://huggingface.co/1bitLLM/bitnet_b1_58-3B $ cd bitnet_b1_58-3Bこれをやらずにいつもの凡例みたいにいきなりpipelineに読み込もうとすると謎のエラーが出て悩まされることになる。海外でも悩んでる人が何人もいるみたいだ。まあ個人的には「こんな説明で誰がわかる?」と思

    1BitLLMの実力を見る|shi3z
    kns_1234
    kns_1234 2024/04/18
  • 饒舌な日本語ローカルLLM【Japanese-Starling-ChatV-7B】を公開しました|Baku

    最近LLMコミュニティから生まれた小型MoEモデル「LightChatAssistant-2x7B」の日語チャット性能がとても良いため、モデル作者さんが用いた手法(Chat Vector+MoEマージ)を後追いで勝手に検証しています。 その過程で複数のモデルを試作したところ、7Bクラスとしてはベンチマークスコアがやたら高いモデルが出てきたので「Japanese-Starling-ChatV-7B」として公開してみました。 以下はこのモデルの簡単な説明です。 簡易評価日語によるinstruction-tuningを行ったモデルの評価用データセットとして知られる「ELYZA-tasks-100」を用いて、ほかの有力な7Bクラスの日語モデルとスコアを比較しました。 その結果、GPT-4による評価において既存の日語7Bモデルより大幅に高いスコア(3.42)を示すことが確認できました。単純に

    饒舌な日本語ローカルLLM【Japanese-Starling-ChatV-7B】を公開しました|Baku
    kns_1234
    kns_1234 2024/04/17
  • 生成AIで小説を書くためのプロンプト5選

    人類の皆さん、小説書いてますか? この記事について この記事に書いてあること この一ヶ月ほど、遅ればせながらLLMによる小説執筆の支援という試みを実地でやってみたので、その中で結構良かったなと思ったプロンプトを紹介する。 使用したモデルはClaude 3 Opus。 この記事で書かないこと 生成AI「で」小説を書くことについての記事であり、生成AI「に」小説を書かせることについての記事ではない。 具体的に言うと、LLMに小説文を出力させる話ではない。当のところを言うとちょっとは試したけど、ちょっと試したくらいでは全然使い物にならなかった。色々と工夫すれば違うかもしれないが、自分の場合、色々と工夫するほど興味を抱かなかった(だって、小説書くのが趣味なのに、そこは渡したくないだろ)。 一般的な注意事項 小説ないしはその原型となるアウトラインをテキストファイルにしてまるごとClaudeに読

    生成AIで小説を書くためのプロンプト5選
    kns_1234
    kns_1234 2024/04/17
  • HachiML/Swallow-MS-7b-v0.1-ChatSkill-LAB · Hugging Face

    Model Card for SkillTree Enhanced Model Model Details This model has been enhanced using the SkillTree approach, which applies specific skills extracted from advanced training or fine-tuning processes to improve the model's capabilities in targeted areas. Base Model: tokyotech-llm/Swallow-MS-7b-v0.1 Skill Tree: HachiML/SkillTree-Chat-LAB-Mistral-7B-v0.1 Language(s) (NLP): Japanese Functionality St

    HachiML/Swallow-MS-7b-v0.1-ChatSkill-LAB · Hugging Face
    kns_1234
    kns_1234 2024/04/16
    日本語LLMモデル
  • Iterate on LLMs faster | promptfoo

    # Compare prompts... prompts: - "Summarize this in {{language}}: {{document}}" - "Summarize this in {{language}}, concisely and professionally: {{document}}" # And models... providers: - openai:gpt-4-0125-preview - anthropic:claude-3-opus - mistral:mistral-large-latest # ... using these tests tests: - vars: language: French document: "To be or not to be, that is the question..." assert: - type: co

    Iterate on LLMs faster | promptfoo
    kns_1234
    kns_1234 2024/04/15
    LLMの品質測定ツール
  • - Your AI Product Needs Evals

    kns_1234
    kns_1234 2024/04/15
    LLMを搭載したAIプロダクトを成功させるには、評価システムを構築することが非常に重要である