Сотня бэкендов PyTorch: Марк Саруфим на хакатоне Modular GPU Kernel

Описание: Посмотрите видео с лучшими моментами и другие доклады с этого мероприятия:    • Open GenAI on AMD: Ramine Roane at the Mod...  

Марк Саруфим, соучредитель GPU MODE и инженер-программист в команде PyTorch в Meta, в этом динамичном и побуждающем к размышлениям докладе с хакатона Modular GPU Kernel обосновывает необходимость создания 100 бэкендов PyTorch.

Он объясняет, почему архитектура API PyTorch выдержала испытание временем, почему некоторые операции следует писать вручную, а другие лучше доверить компиляторам, и как новые инструменты, такие как Triton и Mojo, открывают новые возможности для оптимизации производительности. Марк также делится практическими советами по написанию собственных операций, интеграции новых бэкендов и повышению эффективности работы без необходимости вносить изменения в PyTorch.

Присоединяйтесь к нашему сообществу 🤝:
Форум — https://forum.modular.com/
GitHub — https://github.com/modular
X (он же Twitter) — https://x.com/modular
LinkedIn —   / modular-ai  
Reddit —   / modularai  

#gpu #programming #ml