Полное руководство по запуску локального ИИ на Mac для начинающих

Описание: █▀█ █▀▀ ▄▀█ █▀▄ █▀▄▀█ █▀█ █▀█ █▀▀
█▀▄ ██▄ █▀█ █▄▀ █ ▀ █ █▄█ █▀▄ ██▄

Эпоха аренды интеллекта у Кремниевой долины закончилась. Это видео представляет собой исчерпывающее руководство для генеральных директоров и основателей компаний по настройке локальных агентов ИИ на Mac, переходя от модели подписки SaaS к личному владению программным обеспечением. Мы рассматриваем все аспекты, от технических характеристик оборудования до нюансов локального обслуживания моделей.

Основные выводы:
Приоритет оборудования: почему оперативная память важнее процессора для локальных задач ИИ.

Выбор модели: работа с Hugging Face и понимание квантизации MLX.

Стек: как использовать Ollama, LM Studio и OMLX для запуска моделей.

Настройка агентов: настройка Open Code и Claude Code для локальных рабочих процессов.

Реальность производительности: управление температурой и понимание компромиссов между скоростью локальной и облачной работы.

Примеры кода и конфигурация + шпаргалка по терминалу: https://samuelgregory.co.uk/videos/to...

Ollama: https://ollama.com/
LM Studio: https://lmstudio.ai/
oMLX: omlx.ai
Warp: https://samuelgregory.co.uk/warp
Huggingface: https://huggingface.co/

Сотрудничество со мной: https://samuelgregory.co.uk

Оборудование:
14-дюймовый MacBook Pro M5 Max, 128 ГБ ОЗУ, 40-ядерный графический процессор, 2 ТБ SSD
Подключение: OpenCode / Claude Code
Сервер: oMLX

---
Поддержите контент:   / 0x5am5  
Twitter: @0x5am5

$ cat tools.txt
─────────────────────────────────
Kilo: https://samuelgregory.co.uk/kilo-code
Replit (любимый инструмент для создания Vibe Code): https://samuelgregory.co.uk/replit
Perplexity (глубокое исследование): https://samuelgregory.co.uk/perplexity
Claude Code: https://claude.ai/api/referral/jZ9vnM...
Warp Terminal: https://samuelgregory.co.uk/warp
⚒️ Подробнее на https://samuelgregory.co.uk/tools

$ cat services.txt
─────────────────────────────────
Доменные имена: https://samuelgregory.co.uk/namecheap
Хостинг: https://www.hostg.xyz/aff_c?offer_id=...
Онлайн-хранилище (кредит 200$): https://samuelgregory.co.uk/digital-o...
⚒️ Подробнее на https://samuelgregory.co.uk/tools

$ cat gear.txt
─────────────────────────────────
Sony A7c II: https://amzn.to/40qaYEJ
Объектив Sigma 16-28mm: https://amzn.to/3IaDzqx
Микрофон Samson QU2: https://amzn.to/3TkshCE
Macbook Pro M1 Max: https://amzn.to/48736M6

$ cat books.txt
────────────────────────────────
The Full Stack Agency: https://flowst8.dev/store
Lingo: Agile: https://thefullstackagency.gumroad.co...
Lingo: Startup: https://thefullstackagency.gumroad.co...

$ cat timestamps.txt
──────────────────────────────────
00:00 Начало работы с локальным ИИ на Mac
01:10 Какой Mac купить (чип, ОЗУ, форм-фактор)
01:54 Сколько оперативной памяти нужно получить
05:06 Чипы серии M (базовая, Pro или Max?)
07:49 Начало работы с моделями с открытым исходным кодом
08:16 Размер параметров модели
08:50 Квантование
09:56 Варианты плотной выборки и смешанной выборки экспертов (MoE)
11:20 Контекст
12:22 Форматы моделей (MLX против (GGUF против AWQ)
14:40 Выбор модели
16:13 Загрузка и запуск модели
16:48 Ollama
17:38 Варианты размера модели
19:14 LM Studio
20:46 oMLX
21:15 MLX LM (способ Apple для запуска моделей MLX)
21:45 Загрузка вашей LLM в oMLX
22:41 Настройка параметров модели (окно контекста, TopP, температура, рекомендуемые настройки)
23:26 Снижение контекста для запуска больших моделей
23:50 Запуск локальной модели в oMLX
25:15 Настройка локального ИИ в среде разработки
25:54 Настройка OpenCode
29:38 Терминал
33:20 Использование нашей модели OpenCode
34:07 Обработка подсказок, использование ОЗУ,
35:20 Настройка локального ИИ в среде разработки (Pi)
36:57 Использование вашего локального ИИ модель
37:16 Учет температуры и открытых приложений
38:02 Мне нужна ваша помощь, чтобы улучшить этот урок!

#LocalAI #Mac #LocalLLM