KernelAgent: аппаратная оптимизация GPU-ядер посредством... Каймин Чен, Джек Ку и Лора Ван

Описание: Не пропустите! Присоединяйтесь к нам на следующем мероприятии KubeCon + CloudNativeCon в Солт-Лейк-Сити, США (9–12 ноября 2026 г.). Познакомьтесь с нашими текущими проектами, находящимися на стадии завершения разработки, инкубации и тестирования, пока сообщество собирается вместе для дальнейшего обучения и развития облачных вычислений. Узнайте больше на https://kubecon.io

KernelAgent: Аппаратная оптимизация ядра GPU с помощью многоагентной оркестровки — Кайминг Ченг, Джек Хуу и Лаура Ванг, Meta

Недавно команда PyTorch выпустила KernelAgent, открытую агентную систему, достигающую 100% корректности во всех 250 задачах KernelBench L1/L2/L3. Мы расширяем эту работу, добавляя слой аппаратной оптимизации к существующей структуре. Основываясь на предыдущем конвейере, ориентированном на корректность, KernelAgent интегрирует сигналы производительности оборудования GPU в замкнутый многоагентный рабочий процесс для управления оптимизацией ядер Triton.

Мы оцениваем ядра, сгенерированные KernelAgent, на всех 100 задачах KernelBench уровня L1. В целом, он достиг 2,02-кратного ускорения по сравнению с ядрами, сгенерированными в более ранних версиях. В среднем KernelAgent обеспечил 1,56-кратное ускорение по сравнению со стандартным torch.compile, превзойдя 65 из 100 задач KernelBench уровня L1 и достигнув 89% эффективности аппаратного обеспечения на H100.

Код оптимизации находится в репозитории KernelAgent, где также есть документация для начала работы. Мы также делимся подборкой сквозных артефактов оптимизации KernelAgent в репозитории с открытым исходным кодом.