Темы
Всё, о чём я пишу, разложено по темам. Список отсортирован по числу записей.
Всего тем: 13к записям
-
инференс
Запуск моделей: квантизация, скорость, память, железо.
-
инженерия
Практика вокруг моделей: наблюдаемость, тесты, процессы.
-
rag
Поиск по своим данным и ответы со ссылкой на источник.
-
агенты
Длинные цепочки шагов, инструменты, бюджеты и срывы.
-
архитектуры
Что и почему работает в самих моделях.
-
железо
Что на чём живёт и сколько это стоит по ресурсам.
-
квантизация
Сжатие весов без заметной потери качества.
-
обучение
Данные, режимы, воспроизводимость прогонов.
-
оценка
Как понять, что стало лучше, а не просто иначе.
-
поиск
Гибридные схемы, ранжирование, работа с чанками.
-
теория
Разборы без формул ради формул.
-
токенизация
Как текст превращается в токены и почему это важно для бюджета.
-
файнтюн
Донастройка моделей: адаптеры и полное обучение.