Скачать
Qwen3.6 : 27B - MTP - ускорение в 2 раза на RTX 5090
Автор: MrGips • LLM
Загружено: 2026-05-17
Просмотров: 7473
Описание: В этом видео хочу протестировать новую технологию MTP (Multi-Token Prediction) при которой модель учится предсказывать сразу несколько следующих слов (токенов) за один шаг, а не только одно, как это делалось раньше. Тестировать буду в llama.cpp на модели от Unsloth - Qwen 3.6 27B UD Q6_K_XL GGUF с RTX 5090 под капотом.
Не удается загрузить Youtube-плеер. Проверьте блокировку Youtube в вашей сети.
Повторяем попытку...
Повторяем попытку...
Доступные форматы для скачивания:
Скачать видео
-
Информация по загрузке: