Рабочие нагрузки с ускорением на GPU в KubeVirt: масштабирование машинного обучения и искусственн...

Описание: Рабочие нагрузки с GPU-ускорением в KubeVirt: Масштабирование машинного обучения и искусственного интеллекта в Kubernetes — Амандип Сингх и Шивани Тивари

KubeVirt меняет подход к запуску виртуальных машин в Kubernetes, но что происходит, когда этим виртуальным машинам требуется GPU-ускорение для ресурсоёмких задач ИИ/МО? В этом кратком докладе я расскажу, как включить виртуальные машины с GPU-поддержкой в ​​KubeVirt и почему этот подход набирает популярность для безопасных, масштабируемых и изолированных конвейеров вывода. Мы рассмотрим различия между выделением ресурсов GPU на основе контейнеров и виртуальных машин, а также интегрируем KubeVirt с инструментами CNCF, такими как Prometheus и Kubernetes Scheduler, для мониторинга и оптимизации производительности. Если вы хотите расширить возможности KubeVirt за пределы типичных сценариев использования виртуальных машин и перейти к рабочим нагрузкам машинного обучения и искусственного интеллекта, готовым к эксплуатации, этот доклад даст вам техническую основу и вдохновит на начало работы.

Не пропустите! Присоединяйтесь к нашей следующей флагманской конференции: KubeCon + CloudNativeCon North America в Атланте (10–13 ноября). Узнайте о наших текущих проектах, включая выпускные, инкубационные и песочницы, и о том, как сообщество объединяется для дальнейшего обучения и развития облачных вычислений. Узнайте больше на сайте https://kubecon.io