Да там тренировать надо под каждую модель, а ещё ограничение на разрешение и размер пачки. И оно место жрёт много. Да, скорость генерации больше, но никаким Hires фиксом ты больше не воспользуешься ибо тренировать надо под него тоже, а в таки большие картинки оно не умеет из-за большого разрешения.
Ну не настолько там плохо. Размер пачки и разрешение можно задать динамическое под 90% типичных сценариев и при этом скорость все равно будет норм. Большие картинки все равно через ультимейт апскейл или тайлед делаются. А вот отсутствие контролнета для меня главная боль. Сейчас специально у себя проверил, там и скорость то не так чтобы сильно больше, порядка 30% профит.
Забыл упомянуть, тут Nvidia выпустила новый драйвер с плюшками для нейросетей. Теперь картинки станут выше разрешением и чище в генерации.
Сейчас специально у себя проверил, там и скорость то не так чтобы сильно больше, порядка 30% профит.
А, надо еще и перелив видеопамяти вырубить.
https://www.reddit.com/r/StableDiffusion/comments/17mam48/get_huge_sdxl_inference_speed_boost_with/
В панели nvidia настройка, отвечающая за более эффективное распределение памяти.
https://overclockers.ru/blog/molexandr/show/117954/v-drajverah-nvidia-poyavilas-opciya-dlya-zadach-s-intensivnoj-nagruzkoj-na-videopamyat