Статья
Эмбеддинги и обучение представлений
Как сеть превращает объекты в векторы, на каких задачах учатся хорошие представления (word2vec, контрастное обучение, CLIP, self-supervised), как их измерять и как …
База знаний
Тема: Нейросети
17 материалов в этой теме.
Материалы
12 на странице
Статья
Свёрточные сети и компьютерное зрение
Почему на изображениях полносвязная сеть безнадёжна, как устроена свёртка изнутри, что такое рецептивное поле, как эволюционировали архитектуры от LeNet до ConvNeXt и что …
Статья
Рекуррентные сети, LSTM и GRU
Как сеть обрабатывает последовательности произвольной длины: развёртка во времени, BPTT, проблема исчезающих градиентов и почему вентильные архитектуры LSTM и GRU её …
Статья
Перцептрон, функции активации и обратное распространение ошибки
От одного нейрона Розенблатта до алгоритма, который считает градиент по миллиардам параметров за один проход: линейная разделимость, зоопарк активаций, правило цепочки на …
Статья
Обучение сетей: оптимизаторы, инициализация, нормализация, регуляризация
Полный разбор того, что происходит между «есть архитектура» и «есть работающая модель»: ландшафт потерь, SGD и Adam, learning rate schedule, инициализация весов, …
Статья
Нейронные сети: карта трека, интуиция и место среди ML
Что такое нейронная сеть с первых принципов, чем она отличается от классического ML, почему работает глубина — и как устроен весь трек: от перцептрона до деплоя и …
Статья
Инференс и деплой: квантизация, дистилляция, сервинг
Как превратить обученную модель в дешёвый и предсказуемый сервис: roofline-анализ узких мест, квантизация от математики до INT4, дистилляция, прунинг, компиляция графа, …
Статья
Интерпретируемость, устойчивость и безопасность моделей
Почему модель приняла такое решение, что с ней будет при сдвиге данных и атаке, и как выстроить эшелонированную защиту в проде: атрибуция и механистическая …
Статья
Графовые нейронные сети
Как обучать нейросети на данных без сетки и без порядка: перестановочная симметрия, передача сообщений, GCN/GraphSAGE/GAT/GIN, пределы выразительности, переглаживание и …
Статья
Генеративные модели: VAE, GAN, диффузия
Как научить сеть порождать новые данные: вариационная нижняя граница и VAE, минимаксная игра GAN, диффузионные модели и их связь с оценкой score-функции — с выводами, …
Статья
Внимание и трансформеры
Механизм внимания с первых принципов: от узкого места seq2seq до scaled dot-product, многоголовости, RoPE, полного блока трансформера, KV-кэша и продакшн-инференса.
Статья
Большие языковые модели: предобучение, дообучение, инференс
Как из предсказания следующего токена вырастает LLM: токенизация, архитектура decoder-only, законы масштабирования, SFT и LoRA, выравнивание через RLHF и DPO, а также …
По этому запросу ничего не найдено.