- Смена модели не работает. Выгружает, а потом дрочит 10 минут, ничего не делая, а потом загружает 4 гига видеопамяти из 24х
- acestep-5Hz-lm-4B не скачивается. Если скачать вручную, не работает.
- если зайти в расширенные настройки и выбрать вллм и 4б, нажать перезапуск он сбросит на pt и 0.6б. Никаким способом инициация вллм не работает.
Никаким способом заставить работать полную модель не выходит ни на каких настройках, 0.6, 1.7, 4. pt/вллм Без разницы. Всегда падает в ошибку.
Если в run.bat поменять модель на полную, старт идет ~ 10 минут на ссд 7200(!)
И модель не работает...
+Модель LM выбор никогда не запоминается, всегда 0.6б после рестарта
3090 + 128 памяти
Никаким способом заставить работать полную модель не выходит ни на каких настройках, 0.6, 1.7, 4. pt/вллм Без разницы. Всегда падает в ошибку.
Если в run.bat поменять модель на полную, старт идет ~ 10 минут на ссд 7200(!)
И модель не работает...
+Модель LM выбор никогда не запоминается, всегда 0.6б после рестарта
3090 + 128 памяти