Продакшн on Digitable courses https://courses.digitable.life/tags/%D0%BF%D1%80%D0%BE%D0%B4%D0%B0%D0%BA%D1%88%D0%BD/ Recent content in Продакшн on Digitable courses Hugo ru-RU Sat, 01 Aug 2026 00:12:59 +0300 ИИ в продакшене: латентность, кэширование, роутинг моделей, стоимость, наблюдаемость https://courses.digitable.life/post/ai-engineering/13-production-and-cost/ Thu, 16 Jul 2026 10:00:00 +0300 https://courses.digitable.life/post/ai-engineering/13-production-and-cost/ Что меняется, когда LLM-прототип становится сервисом с SLO и счётом за инференс: из чего складывается латентность и как её резать, как считать и ловить деньги на кэшировании и роутинге, чем батч отличается от онлайна, как переживать 429 и 529, и что именно логировать, чтобы диагностировать деградацию качества.