Сколько воды потребляет центр обработки данных? Объясняет Скотт Гатри из Microsoft.

Описание: Что нужно для создания инфраструктуры, которая обеспечивает работу передовых моделей ИИ с триллионами параметров?

В этом эпизоде ​​подкаста The Neuron Кори Ноулз беседует со Скоттом Гатри, исполнительным вице-президентом группы облачных вычислений и ИИ Microsoft, чтобы изучить инженерные аспекты суперфабрики ИИ Azure.

Скотт возглавляет направление гипермасштабных облачных вычислений Microsoft, включая Azure, сервисы генеративного ИИ, платформы данных и бизнес-приложения. С момента прихода в Microsoft в 1997 году он сыграл важную роль в формировании облачных, серверных и разработческих технологий компании.

Мы изучаем инновационную архитектуру Fairwater от Microsoft, включающую плоские сети, плотные кластеры графических процессоров и выделенную магистраль ИИ WAN протяженностью более 120 000 миль. Скотт рассказывает о важнейших компромиссах в проектировании, касающихся задержки, плотности, охлаждения и энергопотребления, в том числе о том, как Microsoft управляет стойками, потребляющими около 140 кВт, с помощью систем жидкостного охлаждения замкнутого контура.

От обучения масштабных моделей до тонкой настройки и вывода результатов на периферии — узнайте, как Microsoft адаптирует свою архитектуру для разнообразных рабочих нагрузок агентного ИИ, одновременно решая вопросы устойчивости, управления данными и рисков, связанных с моделями. Независимо от того, являетесь ли вы руководителем предприятия, разработчиком или энтузиастом ИИ, вы получите представление о том, как агенты и гипермасштабируемая инфраструктура трансформируют будущее вычислительной техники.

Сегодняшний эпизод представлен компьютерами DELL PRO MAX!
Обновите свою рабочую станцию ​​до Dell Pro Max, созданной для серьезного творчества и ресурсоемких задач, — в паре с профессиональными графическими процессорами NVIDIA RX-серии для плавной работы в требовательных приложениях. Готовы улучшить свою систему? Приобретайте Dell Pro Max прямо сейчас и найдите подходящую конфигурацию для вашего рабочего процесса.

Обновите свою систему для запуска локального ИИ уже сегодня: https://www.dell.com/en-us/plcp/lp/de...

Ключевые ресурсы:
• Microsoft объединяет центры обработки данных для создания своей первой суперфабрики ИИ: https://news.microsoft.com/source/fea...
• Новая платформа Microsoft Agent 365: https://www.microsoft.com/en-us/micro...
• Больше новостей с Microsoft Ignite 2025: https://news.microsoft.com/ignite-202...

• Подпишитесь на рассылку The Neuron: https://theneuron.ai

➤ РАЗДЕЛЫ
0:00 - Введение
1:11 - Стратегия Microsoft Переход от облачных вычислений к ИИ
3:13 - Стратегия Microsoft против партнерской инфраструктуры
4:45 - СПОНСОР: Dell Pro Max с GB10
6:16 - От обучения к выводу: эволюция рабочих нагрузок
8:15 - Рост наблюдаемости в системах ИИ
8:33 - Демонстрация бизнес-ценности и предотвращение сбоев ИИ
13:04 - Обеспечение доступности гипермасштабируемого ИИ для предприятий
14:16 - Переход к инфраструктуре: основа ИИ
15:29 - Архитектура Fairwater и AI WAN (плотность, плоская сеть, низкая задержка)
17:11 - Компромиссы в проектировании: скорость света и топология сети
17:53 - Масштабное охлаждение: жидкостные системы и вторая по величине холодильная установка
19:34 - Этика, управление и устойчивое развитие ИИ (100% возобновляемая энергия)
21:09 - Самые распространенные заблуждения об Гипермасштабируемый ИИ (сообщество и вакансии)
23:26 - Будущее облачных платформ и ИИ (2027-2030)
28:36 - Приложения, которые мы пока не можем себе представить: за пределами сегодняшних сценариев использования
31:11 - Заключительные мысли

Ведущий: Кори Ноулз
Гость: Скотт Гатри (исполнительный вице-президент группы облачных технологий и ИИ, Microsoft)
Опубликовано: Обри Зиглер
Редактировано: Куш Фелисильда