Fine-tuning GPT-OSS-20B with QLoRA → MXFP4 → vLLM Deployment

lunchandcode

llama

fine tuning

finetuning

llms

agents

ai agents

machine learning

deep research

Автор: Gareth Jones

Загружено: 2025-09-13

Просмотров: 465

Описание: GPT-OSS-20B from open weights and “pls don’t OOM my GPU” to production: fine-tuned with QLoRA, merged, re-exported to MXFP4, and now serving with @vllm_project on @modal

Не удается загрузить Youtube-плеер. Проверьте блокировку Youtube в вашей сети.
Повторяем попытку...

Fine-tuning GPT-OSS-20B with QLoRA → MXFP4 → vLLM Deployment

Доступные форматы для скачивания:

Скачать видео

Информация по загрузке:

Скачать аудио

Похожие видео