Google выпустила Gemma 4 MTP Drafters — сравнение локального запуска и работы с DFlash.

Описание: Сегодня Google выпустила официальные модели MTP-драфтеров для семейства Gemma 4. В этом видео мы запускаем Gemma 4 31B локально на H100 с включенным новым MTP-драфтером и сравниваем его с DFlash.

🔥 Получите 50% скидку на аренду любой видеокарты A6000 или A5000, используйте следующую ссылку и купон:

https://bit.ly/fahd-mirza
Код купона: FahdMirza

🔥 Поддержите канал, купив мне кофе: https://ko-fi.com/fahdmirza

#gemma4mtp #gemmamtp #dflash #SpeculativeDecoding

ПОЖАЛУЙСТА, ПОДПИСЫВАЙТЕСЬ НА МЕНЯ:
▶ LinkedIn:   / fahdmirza  
▶ YouTube:    / @fahdmirza  
▶ Блог: https://www.fahdmirza.com

0:00 Вступление
1:31 Установка
2:00 Что такое MTP и спекулятивное декодирование
3:40 Сравнительная таблица скоростей
4:25 Код Пошаговое руководство
5:05 Демонстрация в реальном времени
7:05 Результаты

РЕСУРСЫ:

▶ https://huggingface.co/google/gemma-4...

Все права защищены © Фахд Мирза