Латентность on Digitable courses https://courses.digitable.life/tags/%D0%BB%D0%B0%D1%82%D0%B5%D0%BD%D1%82%D0%BD%D0%BE%D1%81%D1%82%D1%8C/ Recent content in Латентность on Digitable courses Hugo ru-RU Sat, 01 Aug 2026 00:12:59 +0300 Как устроена LLM с точки зрения инженера: токены, контекст, температура, стоимость https://courses.digitable.life/post/ai-engineering/01-llm-basics-for-engineers/ Thu, 16 Jul 2026 10:00:00 +0300 https://courses.digitable.life/post/ai-engineering/01-llm-basics-for-engineers/ Инженерная модель LLM: что такое токен и почему он ломает арифметику, как устроены prefill и decode, сколько стоит контекст, что делает температура и почему её убрали из современных API. Сетевая производительность: RTT, keep-alive, сжатие, батчинг https://courses.digitable.life/post/performance/10-network-performance/ Thu, 16 Jul 2026 10:00:00 +0300 https://courses.digitable.life/post/performance/10-network-performance/ Почему в сети время тратит не код, а количество round-trip’ов: как разложить запрос на DNS/TCP/TLS/TTFB приборами curl и ss, чем keep-alive дешевле любой оптимизации, когда сжатие вредит, как батчинг превращает N×RTT в один RTT и почему бенчмарк на localhost врёт про всё сразу.