サクサク読めて、アプリ限定の機能も多数！
“鵜野 和也”
idk のブックマーク 2023/05/24 01:24
このブックマークにはスターがありません。 最初のスターをつけてみよう！
www.ogis-ri.co.jp2023/03/31
今回は Transformer 系のモデル、具体的には BERT, T5, GPT の推論を高速化してみます。高速化手法として FasterTransformer, Torch-TensorRT, AWS Neuron を用い、素 の transfomers に比べ、どの程度速くなるか...
4 人がブックマーク・1 件のコメント
＼ コメントが サクサク読める アプリです ／
“鵜野 和也”
このブックマークにはスターがありません。
最初のスターをつけてみよう！
はじめての自然言語処理 Transformer 系モデルの推論高速化の検証 | オブジェクトの広場
今回は Transformer 系のモデル、具体的には BERT, T5, GPT の推論を高速化してみます。高速化手法として FasterTransformer, Torch-TensorRT, AWS Neuron を用い、素 の transfomers に比べ、どの程度速くなるか...
4 人がブックマーク・1 件のコメント
＼ コメントが サクサク読める アプリです ／