Как работает пакетная обработка на современных графических процессорах?

Автор: PyTorch

Загружено: 2024-11-13

Просмотров: 3272

Описание: Вебинар PyTorch Expert Exchange: Как работает пакетная обработка на современных графических процессорах? С Финбарром Тимберсом, исследователем в области искусственного интеллекта, который пишет для Artificial Fintelligence и работал в различных крупных исследовательских лабораториях, включая DeepMind и Midjourney.

Пакетный вывод — это самый простой способ оптимизации, который можно применить для повышения эффективности использования графического процессора. Его часто упускают из виду и неправильно понимают из-за его распространённости. Здесь мы подробно объясним, почему именно пакетная обработка работает, и поможем вам развить интуитивное понимание того, что именно происходит внутри вашего графического процессора.

Не удается загрузить Youtube-плеер. Проверьте блокировку Youtube в вашей сети.
Повторяем попытку...

Как работает пакетная обработка на современных графических процессорах?

Доступные форматы для скачивания:

Скачать видео

Информация по загрузке:

Скачать аудио

Похожие видео

DistServe: дезагрегирование предварительного заполнения и декодирования для оптимизированного по ...

DistServe: дезагрегирование предварительного заполнения и декодирования для оптимизированного по ...

Understanding the LLM Inference Workload - Mark Moyou, NVIDIA

Understanding the LLM Inference Workload - Mark Moyou, NVIDIA

PyTorch 2.5 Live Q&A

PyTorch 2.5 Live Q&A

verl: Flexible and Scalable Reinforcement Learning Library for LLM Reasoning and Tool-Calling

verl: Flexible and Scalable Reinforcement Learning Library for LLM Reasoning and Tool-Calling

LLM fine-tuning или ОБУЧЕНИЕ малой модели? Мы проверили!

LLM fine-tuning или ОБУЧЕНИЕ малой модели? Мы проверили!

Экспертный обмен PyTorch: Эффективные генеративные модели: от разреженного к распределенному выводу

Экспертный обмен PyTorch: Эффективные генеративные модели: от разреженного к распределенному выводу

ИИ - ЭТО ИЛЛЮЗИЯ ИНТЕЛЛЕКТА. Но что он такое и почему совершил революцию?

ИИ - ЭТО ИЛЛЮЗИЯ ИНТЕЛЛЕКТА. Но что он такое и почему совершил революцию?

Understanding LLM Inference | NVIDIA Experts Deconstruct How AI Works

Understanding LLM Inference | NVIDIA Experts Deconstruct How AI Works

Stanford Seminar - NVIDIA GPU Computing: A Journey from PC Gaming to Deep Learning

Stanford Seminar - NVIDIA GPU Computing: A Journey from PC Gaming to Deep Learning

How DeepSeek Rewrote the Transformer [MLA]

How DeepSeek Rewrote the Transformer [MLA]

Освоение оптимизации вывода LLM: от теории до экономически эффективного внедрения: Марк Мойу

Освоение оптимизации вывода LLM: от теории до экономически эффективного внедрения: Марк Мойу

Первый ИИ- Пузырь ЛОПНУЛ: Крах CoreWeave На $33 Млрд

Первый ИИ- Пузырь ЛОПНУЛ: Крах CoreWeave На $33 Млрд

Уоррен Баффет: Если вы хотите разбогатеть, перестаньте покупать эти 5 вещей.

Уоррен Баффет: Если вы хотите разбогатеть, перестаньте покупать эти 5 вещей.

NVAITC Webinar: Automatic Mixed Precision Training in PyTorch

NVAITC Webinar: Automatic Mixed Precision Training in PyTorch

Я взломал свой мозг: 5 методов из нейронауки, которые превратили жизнь в кино.

Я взломал свой мозг: 5 методов из нейронауки, которые превратили жизнь в кино.

Exploring the Latency/Throughput & Cost Space for LLM Inference // Timothée Lacroix // CTO Mistral

Exploring the Latency/Throughput & Cost Space for LLM Inference // Timothée Lacroix // CTO Mistral

Самая сложная модель из тех, что мы реально понимаем

Самая сложная модель из тех, что мы реально понимаем

Inside Helion: Live Q&A with the Developers

Inside Helion: Live Q&A with the Developers

Как Сделать Настольный ЭЛЕКТРОЭРОЗИОННЫЙ Станок?

Как Сделать Настольный ЭЛЕКТРОЭРОЗИОННЫЙ Станок?

Это снова повторяется, и никто об этом не говорит.

Это снова повторяется, и никто об этом не говорит.