Как я настраиваю Ryzen AI Halo (Strix Halo) для ускорения локального инференса на 10-15%
Автор: Donato Capitella
Загружено: 2026-07-14
Просмотров: 51346
Описание:
#Партнер_AMD. Это видео спонсируется компанией AMD.
Программа AMD для разработчиков ИИ
----------------------------------------------
Присоединяйтесь к программе AMD для разработчиков ИИ, чтобы получить бесплатные облачные кредиты, доступ к экспертам и премиальное обучение по ИИ — все, что вам нужно для создания, оптимизации и масштабирования на платформах AMD.
Начните создавать сегодня: https://www.amd.com/en/developer/ai-d...
----------------------------------------------
Обзор Ryzen AI Halo, новой компактной платформы AMD, построенной на базе APU Ryzen AI Max+ 395 (Strix Halo) со 128 ГБ унифицированной памяти LPDDR5X. В центре внимания — настройка в качестве безмониторного сервера ИИ для максимизации доступности памяти и пропускной способности при выполнении выводов.
Видеоролик описывает работу Linux «из коробки», встроенный программный стек (llama.cpp, vLLM, ComfyUI, Lemonade, LM Studio) и проект AMD AI Playbooks. Затем рассматриваются конкретные шаги по оптимизации: переключение в многопользовательский режим для освобождения памяти рабочего стола, установка выделения GTT на 124 ГБ, включение режима производительности через tuned и отключение IOMMU в BIOS для уменьшения накладных расходов на доступ к памяти в общем пуле памяти. В результате на некоторых моделях наблюдается улучшение скорости обработки запросов на 10-15%.
В разделе бенчмарков показаны показатели пропускной способности до и после оптимизации для данной конфигурации. В заключительном разделе демонстрируется рабочий процесс с использованием агента кодирования: подключение по SSH к безмониторной системе Halo с основной машины и использование агента кодирования ds4 внутри VSCode с конечными точками llama.cpp.
Временные метки
00:00 | Введение
01:16 | Работа «из коробки»
02:16 | Технические характеристики оборудования
03:30 | Оптимизация производительности
06:28 | Тесты производительности
10:42 | Практическая демонстрация агента программирования
19:55 | Заключение
Ссылки и ресурсы
AMD Ryzen AI Halo:
https://www.amd.com/en/products/proce...
Плейбуки AMD AI:
https://developer.amd.com/playbooks/
Инструменты и руководства Strix Halo:
https://strix-halo-toolboxes.com
Поддержать меня:
https://buymeacoffee.com/dcapitella
Повторяем попытку...
Доступные форматы для скачивания:
Скачать видео
-
Информация по загрузке: