Тема: железо
Что на чём живёт и сколько это стоит по ресурсам.
Записей: 1все темы
-
Локальный инференс на 8 ГБ: что реально влезает
Практическая таблица: какие модели и в каком сжатии живут на одной карте, и на чём приходится экономить.
Что на чём живёт и сколько это стоит по ресурсам.
Практическая таблица: какие модели и в каком сжатии живут на одной карте, и на чём приходится экономить.