Скачать
苹果Mac本地跑千问3.5,速度直接翻倍!DFlash-MLX神级推测解码实测,Qwen3官方4倍加速太离谱了!
Автор: 鲲鹏Talk
Загружено: 2026-04-15
Просмотров: 682
Описание:
苹果用户福音来了!今天我实测了一个超级硬核的开源项目——dflash-mlx,它在Apple Silicon上实现了精确的Block Diffusion推测解码,让本地大模型推理速度发生质的飞跃!我在视频里录制了项目演示: 官方千问3模型上,速度直接提升4倍!
我自己本地部署千问3.5-4B后,也轻松实现了2倍以上的提速,生成体验丝滑很多!
这个项目完全基于MLX原生实现,输出和普通解码完全一致(exact greedy decoding),不需要任何妥协。无论是写代码、聊天还是长文本生成,都能明显感觉到快感!
Не удается загрузить Youtube-плеер. Проверьте блокировку Youtube в вашей сети.
Повторяем попытку...
Повторяем попытку...
Доступные форматы для скачивания:
Скачать видео
-
Информация по загрузке: