Статья
Какую модель выбрать
Жёсткое требование одно — окно не меньше 64 000 токенов; всё остальное выбирается по машине, а не по названию
База знаний
Тема: llama.cpp
2 материалов в этой теме.
Материалы
2 на странице
Статья
Локальная модель без Ollama: digit local
Digit сам скачивает llama.cpp, сам качает веса и сам поднимает OpenAI-совместимый сервер на 127.0.0.1:8127 — без второго демона и без домашнего задания на установку
По этому запросу ничего не найдено.