Видео с ютуба Megakernal

Лекция 112: Промышленные мегаядра для инференса в реальных задачах

Лекция 112: Промышленные мегаядра для инференса в реальных задачах
Мегакернелы для продакшена в реальных задачах инференса

Мегакернелы для продакшена в реальных задачах инференса
Лекция 79 Mirage (MPK): Компиляция LLM в мегаядра

Лекция 79 Mirage (MPK): Компиляция LLM в мегаядра
Секрет CUDA, позволяющий ускорить работу LLM и снизить энергопотребление (реальные результаты)

Секрет CUDA, позволяющий ускорить работу LLM и снизить энергопотребление (реальные результаты)
Event Tensor: Faster LLM Inference via Megakernels

Event Tensor: Faster LLM Inference via Megakernels
Постоянные ядра — объяснение динамического распределения работы графического процессора.

Постоянные ядра — объяснение динамического распределения работы графического процессора.
Where to Stop Fusing GPU Kernels: The Megakernel Dilemma

Where to Stop Fusing GPU Kernels: The Megakernel Dilemma
How vLLM's Megakernel Cuts MoE Decode Latency by 50% (Kimi K3 Breakdown)

How vLLM's Megakernel Cuts MoE Decode Latency by 50% (Kimi K3 Breakdown)
«Смесь котят»: объясняем, как мегаядро GPU в Cursor ускоряет обучение MoE

«Смесь котят»: объясняем, как мегаядро GPU в Cursor ускоряет обучение MoE
700 tok/s on a 2.8 Trillion Model: The 92-Layer TPU Megakernel

700 tok/s on a 2.8 Trillion Model: The 92-Layer TPU Megakernel
Mirage (MPK): компиляция LLM в мега-ядра

Mirage (MPK): компиляция LLM в мега-ядра
Luce Megakernel — в 25 раз быстрее, чем PyTorch на одном графическом процессоре — протестируйте л...

Luce Megakernel — в 25 раз быстрее, чем PyTorch на одном графическом процессоре — протестируйте л...
Я использовал функцию автоматического поиска Karpathy для написания собственного ядра для графиче...

Я использовал функцию автоматического поиска Karpathy для написания собственного ядра для графиче...
CUDA Agent: High-Performance GPU Kernel Generation

CUDA Agent: High-Performance GPU Kernel Generation
How to Run a Trillion-Parameter AI at 1,000 Tokens a Second

How to Run a Trillion-Parameter AI at 1,000 Tokens a Second
Mycron 2000 v2

Mycron 2000 v2