KV-кэш за 7 минут

Если ты думаешь, что трансформер просто пересчитывает слова — ты ошибаешься. Он кэширует реальность. Разбираем фундаментальный механизм KV Cache: почему без него генерация текста была бы в 100 раз медленнее и почему именно он — «бутылочное горлышко» современных систем. Prefill против Decoding, Grouped-Query Attention и механика vLLM. Всё, что нужно знать разработчику и энтузиасту о памяти современных языковых моделей.