AUTOMATIC1111版Stable Diffusion web UIにおけるTensorRTの利用について｜まゆひら

Last update 05-29-2023 現在はNVIDIAが公開した新しい拡張があるので、そちらをご利用ください。本記事は、参考のためそのまま残してあります。 0. 注意（必読） 本記事の内容について、一切サポートしません（質問にお答えできません）。また、既に利用中の環境に導入することは推奨されません（別途新規インストールする方法をとっています）。 手順の中では特に、TensorRT形式への変換時に多くのVRAMを消費するため、失敗しやすいです。初期設定（width=512, height=512, batch size=1, token count=75）の条件ではおよそ3GB程度、ただし瞬間的に7GB程度まで上がることがありました。 TensorRTが導入済みで環境変数Pathを設定している場合、TensorRT形式への変換時に失敗することがあります。PathにTensorRTの

[Imamura]

実際早くなったのじゃろうか。以前1111じゃないUIのでTensorRTを試したときは1.5倍くらい早くなったような記憶。ただパラメータを合わせたつもりでも従来版と異なる絵が出てくるので常用はしなかった