タグ

ブックマーク / zenn.dev/karaage0703 (4)

  • OpenAI Assistants API(Playground)を使ってコーディングのアドバイスをしてくれるアシスタントを作る

    OpenAI Assistants API OpenAI Dev Day色々アップデートありましたね。 Visionとか、Turboとか着実にすごくて便利そうですが、ちょっとだけわかりづらそうなAssistants APIを使ってみました。 Assistants APIは、Playgroundで試してみるのが簡単でオススメです。ノーコードで機能を試せます。以下リンクから入ってください。 Assistant Playground Playgroundでコーディングのアドバイスをしてくれるアシスタントを作る さっそくアシスタントを作ってみます。比較的(?)実用的なものとしてコーディングのアドバイスをしてくれるアシスタントを作ってみます。 「+Create」ボタンでアシスタントを新規作成します。 以下のように設定します。Instructionsにプロンプトを入力して、モデルを選ぶだけです。オプシ

    OpenAI Assistants API(Playground)を使ってコーディングのアドバイスをしてくれるアシスタントを作る
  • オープンなLLMをDockerで動かす

    次々と発表されるオープンな日語大規模モデル どうなっているの??という感じですよね。 我らがnpakaさんは、さっそくGoogle Colabで動かしていらっしゃいます。 ただ、Google Colabだと毎回モデルのダウンロードが大変なので、ローカルでDocker使って手軽に動かせるといいな、ということでやってみました。 以下GitHubのリポジトリにDockerfileとサンプルプログラムをおいています。チャットっぽいことをできるようにしています。 上記で、サイバーエージェントとリンナのLLMが両方動きます。 使用環境 前提となる環境です。使用しているPCのスペックは以下です。 項目 内容

    オープンなLLMをDockerで動かす
  • 自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす

    自宅で動くChatGPTと噂のFlexGenを試す shi3zさんが興奮して動かしていたFlexGen 関係する記事は以下 ツヨツヨGPUが無いと動かないと思っていたのですが、タイムラインでミクミンPさんが、RTX3060でFlexGenを動かしているツイートを発見。 「RTX3060なら自分も持っている!」ということで、試してみることにしました。 追記: 私がこの記事で動かしているのは小さいモデルです。とりあえずお試しで動かしただけで、shi3zさんが動かしているモデルとは異なります。 性能の参考にする記事ではないので、ご承知ください。より大きいサイズのモデルの使用に関しては、FlexGenの公式リポジトリを参照ください。私も今後試したら追記していきます(現状、私の環境では動かせてないです)。 FlexGenをDockerで動かす 結果的には、Dockerを使うことで簡単に動かせました。

    自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす
    naggg
    naggg 2023/02/26
  • 機械学習の論文を探す場所まとめ

    論文を読んでみる 趣味9割、仕事1割くらいの割合で論文を読んでいます。 学生のときは「論文なんて、何の役に立つんだろ?」とか思っていたダメ学生でしたが、最近は「論文は最先端の研究にキャッチアップするための最高の知のアーカイブの一つ」と少しだけ思えるようになりました。 機械学習・ディープラーニング(AI)の分野では、無料で読める論文がたくさんありますし、コードが公開されているものも多く、(比較的)手元で再現実験しやすいのも良いですね。 いつもTwitterに流れている論文を適当に拾うことが多いのですが、それ以外の情報源をメモがてら個人的にまとめてみます。ガチ研究者ではないので、そういう方は近くの優秀な人に聞いてくださいね(そして、コメントとかで教えてください)。 arXiv 機械学習系では、最も有名かつ最大の論文アーカイブサイトです。機械学習系の論文を探すと、大体はここに行き着きます。 ar

    機械学習の論文を探す場所まとめ
  • 1