Статья
Сетевая производительность: RTT, keep-alive, сжатие, батчинг
Почему в сети время тратит не код, а количество round-trip’ов: как разложить запрос на DNS/TCP/TLS/TTFB приборами curl и ss, чем keep-alive дешевле любой …
База знаний
Тема: латентность
2 материалов в этой теме.
Материалы
2 на странице
Статья
Как устроена LLM с точки зрения инженера: токены, контекст, температура, стоимость
Инженерная модель LLM: что такое токен и почему он ломает арифметику, как устроены prefill и decode, сколько стоит контекст, что делает температура и почему её убрали из …
По этому запросу ничего не найдено.