Тема: нейросети

Статья

Эмбеддинги и обучение представлений

Как сеть превращает объекты в векторы, на каких задачах учатся хорошие представления (word2vec, контрастное обучение, CLIP, self-supervised), как их измерять и как …

#нейросети#глубокое обучение#эмбеддинги

Статья

Свёрточные сети и компьютерное зрение

Почему на изображениях полносвязная сеть безнадёжна, как устроена свёртка изнутри, что такое рецептивное поле, как эволюционировали архитектуры от LeNet до ConvNeXt и что …

#нейросети#компьютерное зрение#cnn

Статья

Рекуррентные сети, LSTM и GRU

Как сеть обрабатывает последовательности произвольной длины: развёртка во времени, BPTT, проблема исчезающих градиентов и почему вентильные архитектуры LSTM и GRU её …

#нейросети#глубокое обучение#последовательности

Статья

Распределённое обучение: от одной видеокарты до кластера

Что делать, когда модель не влезает в память, а обучение идёт месяц: бюджет памяти шага оптимизатора, коллективные операции и их цена, DDP, ZeRO и FSDP, тензорный и …

#нейросети#глубокое обучение#распределённое обучение

Статья

Перцептрон, функции активации и обратное распространение ошибки

От одного нейрона Розенблатта до алгоритма, который считает градиент по миллиардам параметров за один проход: линейная разделимость, зоопарк активаций, правило цепочки на …

#нейросети#глубокое обучение#backpropagation

Статья

Обучение сетей: оптимизаторы, инициализация, нормализация, регуляризация

Полный разбор того, что происходит между «есть архитектура» и «есть работающая модель»: ландшафт потерь, SGD и Adam, learning rate schedule, инициализация весов, …

#нейросети#глубокое обучение#оптимизация

Статья

Нейросети: как обучают модель

Что физически происходит при обучении: веса как массив чисел, подбор параметров вместо написания правил, режимы с учителем и без, дистилляция и RLHF, человек в контуре и …

#основы ии#нейросети#обучение с учителем

Статья

Нейронные сети: карта трека, интуиция и место среди ML

Что такое нейронная сеть с первых принципов, чем она отличается от классического ML, почему работает глубина — и как устроен весь трек: от перцептрона до деплоя и …

#нейросети#глубокое обучение#машинное обучение

Статья

Мультимодальные модели: речь, зрение и язык в одной сети

Как одна сеть работает со звуком, картинкой и текстом сразу: токенизация любой модальности, стратегии слияния и выравнивания пространств, распознавание речи через CTC, …

#нейросети#мультимодальность#распознавание речи

Статья

Инференс и деплой: квантизация, дистилляция, сервинг

Как превратить обученную модель в дешёвый и предсказуемый сервис: roofline-анализ узких мест, квантизация от математики до INT4, дистилляция, прунинг, компиляция графа, …

#нейросети#инференс#квантизация

Статья

Интерпретируемость, устойчивость и безопасность моделей

Почему модель приняла такое решение, что с ней будет при сдвиге данных и атаке, и как выстроить эшелонированную защиту в проде: атрибуция и механистическая …

#нейросети#интерпретируемость#безопасность

Статья

ИИ для инженера: карта трека и текстовая версия лекции

Вводный трек по искусственному интеллекту: от предсказуемости и цепей Маркова до LLM, промптинга, диффузии, RAG, MCP и оркестрации агентов. Текстовая версия часовой …

#основы ии#llm#нейросети