J
Jay Alammar
Технический писатель
Технический писатель, специализирующийся на визуализации и объяснении концепций машинного обучения. Автор популярных постов о трансформерах и механизмах внимания.
ИИ и нейросетиКак работает KV cache в трансформерах: второй токен и переиспользование кэша
Понимание работы KV cache для второго токена во втором слое трансформеров. Почему возможно переиспользование кэша при изменении векторов полносвязными слоями и влияние маскирования.
4 ответа• 1 просмотр