Skip to content

Пачка ошибок #10

Description

@ptoxad
  1. Смена модели не работает. Выгружает, а потом дрочит 10 минут, ничего не делая, а потом загружает 4 гига видеопамяти из 24х
  2. acestep-5Hz-lm-4B не скачивается. Если скачать вручную, не работает.
  3. если зайти в расширенные настройки и выбрать вллм и 4б, нажать перезапуск он сбросит на pt и 0.6б. Никаким способом инициация вллм не работает.
    Никаким способом заставить работать полную модель не выходит ни на каких настройках, 0.6, 1.7, 4. pt/вллм Без разницы. Всегда падает в ошибку.

Если в run.bat поменять модель на полную, старт идет ~ 10 минут на ссд 7200(!)
И модель не работает...

+Модель LM выбор никогда не запоминается, всегда 0.6б после рестарта
3090 + 128 памяти

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions