Статья
Как устроена LLM с точки зрения инженера: токены, контекст, температура, стоимость
Инженерная модель LLM: что такое токен и почему он ломает арифметику, как устроены prefill и decode, сколько стоит контекст, что делает температура и почему её убрали из …