Статья
Дообучение: LoRA, QLoRA, инструкционный тюнинг и когда оно вообще нужно
Как устроено дообучение LLM изнутри: арифметика памяти, низкоранговые адаптеры, 4-битная квантизация, сборка датасета, рабочие конфиги, оценка деградации и честная …