Alibaba сокращает использование графических процессоров Nvidia на 82% с помощью Aegaeon: прорыв в...
Автор: CÕI ÂM AUDIO
Загружено: 2025-10-21
Просмотров: 9
Описание:
Узнайте, как Alibaba Cloud произвела революцию в обслуживании моделей ИИ с помощью своей новой системы Aegaeon! В этом видео мы подробно расскажем о революционной технологии, которая сократила использование графических процессоров Nvidia на целых 82%. Узнайте, как Aegaeon, протестированная на платформе Alibaba Cloud, оптимизирует распределение ресурсов и повышает эффективность рабочих нагрузок ИИ. Мы рассмотрим основные выводы исследования, представленного на 31-м симпозиуме по принципам операционных систем (SOSP) в Сеуле, Южная Корея.
Основные моменты:
Решение Aegaeon
Сокращение использования графических процессоров с 1192 до 213
Проблема обслуживания одновременных рабочих нагрузок LLM
Неэффективность использования ресурсов в облачных сервисах
Будущее ИИ и облачных вычислений
Повторяем попытку...
Доступные форматы для скачивания:
Скачать видео
-
Информация по загрузке:
