Графические процессоры в Kubernetes: что на самом деле происходит при запросе Nvidia... Гюлькан Т...

Описание: Не пропустите! Присоединяйтесь к нам на следующих мероприятиях KubeCon + CloudNativeCon в Мумбаи, Индия (18-19 июня 2026 г.), Йокогаме, Япония (29-30 июля 2026 г.) и Шанхае, Китай (8-9 сентября 2026 г.). Познакомьтесь с нашими текущими проектами, находящимися в стадии разработки, и проектами-песочницами, поскольку сообщество собирается вместе для дальнейшего обучения и развития облачных вычислений. Узнайте больше на https://kubecon.io

GPU в Kubernetes: что на самом деле происходит, когда вы запрашиваете Nvidia.com/gpu: 1 — Гюлькан Топчу и Даниэле Поленчич, LearnKube

Вы пишете `nvidia.com/gpu: 1` в спецификации вашего пода, и каким-то образом ваш контейнер может использовать GPU. Но что на самом деле происходит?

В этом докладе мы приоткроем завесу тайны над планированием GPU в Kubernetes.

Мы проследим за рабочей нагрузкой GPU от начала до конца. Вы увидите, как плагины устройств объявляют о наличии графических процессоров планировщику, как среда выполнения контейнеров монтирует файлы устройств в ваш контейнер и почему драйвер NVIDIA выполняет всю основную работу, в то время как ядро ​​Linux остается в неведении.

Попутно вы узнаете, почему графические процессоры нарушают все предположения Kubernetes об изоляции ресурсов. Затем мы рассмотрим дорогостоящую проблему: ваша команда хочет использовать один графический процессор несколькими подами, но Kubernetes понимает только целые числа.

Мы сравним практические подходы, такие как разделение по времени, аппаратное разделение MIG и программное обеспечение. Вы узнаете, когда каждый из них имеет смысл и почему метрики «использования графического процессора» часто вводят в заблуждение.

Знания о графических процессорах не требуются. Просто проявите любопытство к тому, как все работает «под капотом».