Тонкая настройка БЕЗУМНОЙ модели местного Mistral 7B — шаг за шагом — together.ai

Описание: Тонкая настройка СУПЕР местной модели Mistral 7B — шаг за шагом — together.ai

👊 Станьте участником и получите доступ к GitHub:
   / allaboutai  

📧 Подпишитесь на рассылку:
https://www.allabtai.com/newsletter/

🌐 Мой сайт:
https://www.allabtai.com

В этом видео я настраиваю модель Mistral 7B с помощью самостоятельно сгенерированного набора данных. Мы пошагово разберём, как создать набор данных, преобразовать его в JSONL, загрузить, начать тонкую настройку, скачать модель, преобразовать её в .gguf и протестировать.

GH llama.cpp:
https://github.com/ggerganov/llama.cpp

Reddit:
https://www.reddit.com/r/LocalLLaMA/c...

00:00 Введение в локальную тонкую настройку
00:18 Блок-схема
01:14 Создание набора данных Mistral 7B
05:59 Проверка набора данных
06:56 Загрузка набора данных
07:26 Запуск задания тонкой настройки
10:58 Конвертация модели в GGUF
12:39 Тестирование нашей настроенной модели
16:09 Заключение