Amazon Bedrock のプロビジョンドスループットにおける最小請求単位を調べてみた | DevelopersIO

いわさです。 Amazon Bedrock ではモデルをデプロイするための専用キャパシティを確保するためにトークンベースではない時間ベースの「プロビジョンドスループット」という概念があります。 本日時点では米国東部 (バージニア北部) リージョンと米国西部 (オレゴン)リージョンで利用可能です。 料金表には 1 時間あたりの料金単価が記載されています。 なかなかの料金。 そんな中、プロビジョンドスループットの検証を行う機会がありました。 通常のワークロードで使用するのであれば 1 時間以上プロビジョニングすることが想定されそうなので良いと思うのですが、検証の場合は一度きりとか数分とかもう少し短い使用時間の場合があります。 プロビジョンスループットはコミットメントなしでも利用が可能ですが、期間をコミットして割引を受けることも出来ます。 前者の場合は不要になったタイミングでいつでも削除が出来て

[sh19910711]

"Bedrock: 専用キャパシティを確保するためにトークンベースではない時間ベースの「プロビジョンドスループット」という概念があり / 削除は可能ですが、請求は 1 時間分の料金 + 2 つのモデルで確認したので 2 時間分"