Как сжать ИИ-модель для запуска на телефоне (объяснение квантования)

Описание: 🔥 Размер моделей ИИ может превышать 30 ГБ…
Так как же инженеры ИИ заставляют их работать на смартфонах всего с несколькими ГБ оперативной памяти?
В этом видео мы разберем один из важнейших методов оптимизации в современной разработке ИИ: квантизацию.

Вы узнаете:
✅ Что такое квантование на самом деле
✅ Как модели ИИ уменьшаются с 30 ГБ до 4 ГБ
✅ Объяснение FP32, FP16, INT8 и INT4
✅ Почему сжатые модели по-прежнему работают на удивление хорошо
✅ Математика, лежащая в основе сжатия моделей ИИ
✅ Как локальные модели обучения работают на телефонах
✅ Обучение с учетом квантования (QAT)
✅ Оптимизация мобильного ИИ и вывода на периферии
✅ Почему квантование критически важно для масштабируемости ИИ

Это та же технология, которая используется в:
📱 ИИ на устройствах
📱 Локальных моделях обучения
📱 Мобильных помощниках
📱 Периферийных системах ИИ
📱 Автономных ИИ-ассистентах

🚀 Идеально подходит для:

Инженеров ИИ
Инженеров машинного обучения
Разработчиков локальных моделей обучения
Разработчиков мобильного ИИ
Инженеров периферийного ИИ
Энтузиастов GenAI
Подготовки к собеседованию по системному проектированию