Статья
Какую модель выбрать
Жёсткое требование одно — окно не меньше 64 000 токенов; всё остальное выбирается по машине, а не по названию
База знаний
Тема: локальные модели
6 материалов в этой теме.
Материалы
6 на странице
Статья
Первый запуск
Мастер спрашивает язык и один вопрос про способ установки; рекомендуемый путь доводит до рабочей модели без аккаунта, ключа и второго демона
Статья
Локальная модель без Ollama: digit local
Digit сам скачивает llama.cpp, сам качает веса и сам поднимает OpenAI-совместимый сервер на 127.0.0.1:8127 — без второго демона и без домашнего задания на установку
Статья
Куда идёт Digit
Замысел по крупным шагам: что уже стоит, что строится и что остаётся нерешённым — без сроков, потому что сроки здесь были бы выдумкой
Статья
Что Digit умеет
Каталог из 95 утилит по запросу на русском, ответы по курсам дословными цитатами с якорем на абзац, проверка исполняемых спецификаций FTS — и отказ вместо выдумки, когда …
Статья
Локальные модели: llama.cpp, Ollama, vLLM, LM Studio, квантизация, требования к железу
Арифметика VRAM и пропускной способности памяти, честная экономика своего GPU против API, как устроена квантизация и что она ломает, четыре рантайма и их ниши, …
По этому запросу ничего не найдено.