エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
AWSでLlama3を使えるようにする - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
AWSでLlama3を使えるようにする - Qiita
1. 初めに 誰しもLlama3を使ってAWSでChatbotを作りたいなと三日に一回は思っているはず。 Llama3をGroq... 1. 初めに 誰しもLlama3を使ってAWSでChatbotを作りたいなと三日に一回は思っているはず。 Llama3をGroq API経由で使えるようにしてみたので備忘録も兼ねて書く。 Chat GPTでいいやんと思ったそこのあなた LLama 3はChatGPTよりも数倍早く返ってくるかつ、Llama3の400bモデルが来た時にすぐ乗り換えられるように備えておくことは大切!なので、やっておいて損はないかなと思います。 2. 参考にしたもの AWS Lambda(Python)からOpenAIのGPT4のAPIを呼び出してみた とりあえず類似なものとして、ChatGPTをAWS Lambdaから呼び出すものを参考にした。感謝! GroqのAPI Documentを見てもわかるが大体ChatGPT構造と同じなので、参考にしやすいかなと思った。 3. レイヤーの設定 まず、AWSのLambd