Статья
Рекуррентные сети, LSTM и GRU
Как сеть обрабатывает последовательности произвольной длины: развёртка во времени, BPTT, проблема исчезающих градиентов и почему вентильные архитектуры LSTM и GRU её …
База знаний
Тема: nlp
2 материалов в этой теме.
Материалы
2 на странице
Статья
Внимание и трансформеры
Механизм внимания с первых принципов: от узкого места seq2seq до scaled dot-product, многоголовости, RoPE, полного блока трансформера, KV-кэша и продакшн-инференса.
По этому запросу ничего не найдено.