Тема: нейросети

Статья

Графовые нейронные сети

Как обучать нейросети на данных без сетки и без порядка: перестановочная симметрия, передача сообщений, GCN/GraphSAGE/GAT/GIN, пределы выразительности, переглаживание и …

#нейросети#глубокое обучение#графы

Статья

Генеративные модели: VAE, GAN, диффузия

Как научить сеть порождать новые данные: вариационная нижняя граница и VAE, минимаксная игра GAN, диффузионные модели и их связь с оценкой score-функции — с выводами, …

#нейросети#глубокое обучение#генеративные модели

Статья

Внимание и трансформеры

Механизм внимания с первых принципов: от узкого места seq2seq до scaled dot-product, многоголовости, RoPE, полного блока трансформера, KV-кэша и продакшн-инференса.

#нейросети#трансформеры#внимание

Статья

Большие языковые модели: предобучение, дообучение, инференс

Как из предсказания следующего токена вырастает LLM: токенизация, архитектура decoder-only, законы масштабирования, SFT и LoRA, выравнивание через RLHF и DPO, а также …

#нейросети#llm#трансформеры

Статья Рекомендуем

Диффузионные модели и как они работают

Диффузионные модели и как они работают

#нейросети#ai#audio

Статья Рекомендуем

SDD

SDD

#нейросети#ai#sdd

Видео Рекомендуем

Все что нужно знать про ИИ айтишнику алгоритмы, промптинг и мышление

В этом видео:

#искусственный интеллект#нейросети#llm

Статья

Здесь кратко описывается основная мысль

Здесь кратко описывается основная мысль

#нейросети#llm#advancedprompting

Статья

Сделал шпаргалку по промптингу для начинающих

Сделал шпаргалку по промптингу для начинающих Большинство людей используют LLM примерно так: “Напиши мне текст.” И получают средний результат. Но качество …

#нейросети#llm#advancedprompting