2 ВИДЕО | TensorRT Nvidia 2x | Automatic1111 | Stable Diffusion
🕑 Added 2023-11-15 08:00:00 +0000 UTC2 ВИДЕО | TensorRT Nvidia 2x | Automatic1111 | Stable Diffusion
С помощью TensorRT расширения и с обновленными драйверами от Nvidia мы можем получить двукратное ускорение при генерации и апскейле (увеличении) изображения с SDXL моделями и +50% к скорости при генерации и апскейле с моделями sd 1.5 в Automatic1111 (Stable Diffusion). И это еще не все. Мы можем снизить потребление видеопамяти, особенно это актуально при работе с SDXL моделями у кого мало видеопамяти.Comments
OreX
<div ><div><span class="text">Али Моо, я давно эту сборку не тестировал. Но с TensorRt не всё гладко. Знаю недавно появилась поддержка в ComfyUI официальная. Но я пока не тестировал. Если он ControlNet не поддерживает, то смысла в нем нет. Только если для сервиса генерации можно использовать, но там есть штука побыстрее Stable fast и она на Linux только работает. Если, что накопаю дам знать.</span></div><div></div></div>
Али Моо
<div ><div><span class="text">Видимо что-то не закачалось, потому что все, что было по этому расширению в инете потерли.</span></div><div><span class="text">Нвидиа 3060 12 гб, 32 оперативки</span></div></div>
Али Моо
<div ><div><span class="text">*** Error loading script: trt.pyTraceback (most recent call last):File "C:\NeuroHub-A1111\modules\scripts.py", line 515, in load_scriptsscript_module = script_loading.load_module(scriptfile.path)File "C:\NeuroHub-A1111\modules\script_loading.py", line 13, in load_modulemodule_spec.loader.exec_module(module)File "", line 883, in exec_moduleFile "", line 241, in _call_with_frames_removedFile "C:\NeuroHub-A1111\extensions\Stable-Diffusion-WebUI-TensorRT\scripts\trt.py", line 10, inimport ui_trtFile "C:\NeuroHub-A1111\extensions\Stable-Diffusion-WebUI-TensorRT\ui_trt.py", line 10, infrom exporter import export_onnx, export_trtFile "C:\NeuroHub-A1111\extensions\Stable-Diffusion-WebUI-TensorRT\exporter.py", line 3, inimport onnxModuleNotFoundError: No module named 'onnx'</span></div><div><span class="text"></span></div><div><span class="text">После этого в консоли ничего не происходит, то же самое после перезапуска.</span></div><div><span class="text">Модели во вкладке SD Unet нет</span></div><div><span class="text">закладка расширения отсутствует</span></div><div><span class="text">Дрова последние, гит и питон стоят. 👇</span></div></div>