Amazon Bedrock「Claude2.1」の最大20万トークンで何が変わるか確認してみた - Taste of Tech Topics

Amazon Bedrock Advent Calendar 2023 13日、 および Anthropic Claude Advent Calendar 2023 18日の記事です。 こんにちは、機械学習チーム YAMALEX の駿です。 YAMALEX は Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 （詳細はリンク先をご覧ください。） 先日、 Bedrock 上で Claude 2.1 が使えるようになりました。 aws.amazon.com このモデルは精度が高いことはもちろんですが、 20 万（ 200K ）トークンを一度に扱うことができる という特徴があります。 200K のトークンがあれば、約 15 万単語もしくは 500 ページの本を一度に扱える、と言われています。 とは言いますが、これは実際どれくらいイン

[pwatermark]

読書すらも肩代わりさせられちゃうんか....w

[misshiki]

“実際に本の要約タスクをさせてみて、トークンが大きいことの利点を確認します。”

[trick7star]

扱えるトークン数が大きければ、確かにできることも大きくなるよな。　でも、それを具体的に示せたと思う。　ガリバーが巡った最後の国しか要約に出ないのか、すべて出るのか、という違いで。