DigitableCourses
База знаний

Тема: Ии-Инженерия

16 материалов в этой теме.

Материалы

12 на странице
Статья

Структурированный вывод: JSON-схемы, function calling, валидация и восстановление

Как превратить текстовый выход модели в типизированные данные: ограниченное декодирование, JSON Schema, strict tool use, проектирование схем и слоистая валидация с …

#ии-инженерия#структурированный вывод#json schema
23 мин
Статья

Продвинутый RAG: graph RAG, агентный поиск, контекстное сжатие, кэширование

Что делать, когда обычный RAG перестал вытягивать: обогащение чанков контекстом, графовое индексирование, агентные циклы поиска, каскад сжатия контекста и три уровня кэша …

#ии-инженерия#rag#поиск
22 мин
Статья

Продвинутые техники: chain-of-thought, self-consistency, tree-of-thoughts, chain-of-verification

Как заставить модель тратить больше вычислений на трудную задачу: рассуждение цепочкой, голосование по выборкам, поиск по дереву мыслей и самопроверка — с кодом, …

#ии-инженерия#prompt engineering#reasoning
22 мин
Статья

Оценка и бенчмарки: MMLU, SWE-bench, HumanEval, LLM-as-judge, свои датасеты

Как перестать выбирать модель по маркетинговым графикам: что на самом деле измеряют публичные бенчмарки и где они врут, как собрать собственный датасет из 50 примеров, …

#ии-инженерия#оценка качества#бенчмарки
22 мин
Статья

Мультиагентные системы: роли, оркестрация, критики, верификация

Когда несколько агентов действительно лучше одного, а когда это дорогой способ размножить ошибки: топологии оркестрации, роли и критики, протокол передачи контекста, …

#ии-инженерия#агенты#мультиагентные системы
22 мин
Статья

Локальные модели: llama.cpp, Ollama, vLLM, LM Studio, квантизация, требования к железу

Арифметика VRAM и пропускной способности памяти, честная экономика своего GPU против API, как устроена квантизация и что она ломает, четыре рантайма и их ниши, …

#ии-инженерия#локальные модели#квантизация
22 мин
Статья

Как устроена LLM с точки зрения инженера: токены, контекст, температура, стоимость

Инженерная модель LLM: что такое токен и почему он ломает арифметику, как устроены prefill и decode, сколько стоит контекст, что делает температура и почему её убрали из …

#ии-инженерия#llm#токены
18 мин
Статья

ИИ-инженерия: карта трека, что умеют модели и что от них ждать

Обзорная карта прикладного трека по LLM: чем ИИ-инженерия отличается от ML, что модели реально умеют и где ломаются, лестница от промпта до мультиагента, экономика и …

#ии-инженерия#llm#промпт-инжиниринг
18 мин
Статья

ИИ в продакшене: латентность, кэширование, роутинг моделей, стоимость, наблюдаемость

Что меняется, когда LLM-прототип становится сервисом с SLO и счётом за инференс: из чего складывается латентность и как её резать, как считать и ловить деньги на …

#ии-инженерия#продакшн#производительность
21 мин
Статья

ИИ в жизненном цикле разработки: кодинг-агенты, ревью, тесты, документация

Как встроить кодинг-агентов, ИИ-ревью, генерацию тестов и документации в реальный SDLC: рабочие конфиги и промпты, честные цифры по производительности из RCT и DORA, …

#ии-инженерия#кодинг-агенты#code review
26 мин
Статья

Дообучение: LoRA, QLoRA, инструкционный тюнинг и когда оно вообще нужно

Как устроено дообучение LLM изнутри: арифметика памяти, низкоранговые адаптеры, 4-битная квантизация, сборка датасета, рабочие конфиги, оценка деградации и честная …

#ии-инженерия#дообучение#lora
19 мин