Главная проблема локального ИИ... они её решили?
Автор: NetworkChuck
Загружено: 2026-10-30
Просмотров: 1138920
Описание:
Получите скидку 600 долларов на любую версию WiCi One, первой беспроводной видеокарты, используя мою ссылку: https://ntck.co/wici_gpu
Я запускал DeepSeek V4.1 Flash, модель с 750 миллиардами параметров, которая обычно требует более 500 ГБ памяти, на устройстве всего с 32 ГБ видеопамяти. Через Wi-Fi. По цифрам, это не должно работать. Устройство — это WiCi One, видеокарта, которую может использовать каждое устройство в вашем доме. В этом видео вы узнаете, почему большие локальные модели не помещаются на потребительских видеокартах, и как WiCi всё-таки запустила такую модель.
☕☕ КОФЕ и ТОВАРЫ: https://ntck.co/coffee
*Спонсор: WiCi
РЕСУРСЫ / ССЫЛКИ:
🖥️ WiCi One (версия RTX 5060 Ti или версия RTX 5090, которую я тестировал), скидка 600 долларов по моей ссылке: https://ntck.co/wici_gpu
🧠 InferSSD, открытый движок WiCi для запуска моделей размером больше, чем ваша видеопамять, с SSD: https://github.com/wici-ai/inferssd
🤖 DeepSeek V4.1 Flash на Hugging Face: https://huggingface.co/deepseek-ai/De...
🎨 Lovart (генерация изображений и видео с помощью ИИ): https://www.lovart.ai
🎨 Figma: https://www.figma.com
Figma и Lovart Облачные приложения. Для этой демонстрации запросы на генерацию ИИ были перенаправлены на модель, работающую локально на WiCi One.
ВРЕМЕННЫЕ МЕТКИ:
0:00 - Первый Wi-Fi-графический процессор: RTX 5090, который мой ноутбук считает своим собственным
0:38 - Что такое Wi-Fi One и что внутри коробки
2:15 - Почему Wi-Fi должен быть слишком медленным для графического процессора
4:37 - Протокол Wi-Fi: как они заставили игру и графический процессор меньше взаимодействовать
5:36 - От облачного гейминга Tencent до беспроводного графического процессора
6:05 - Две проблемы, сдерживающие развитие локального ИИ
7:32 - Почему вы не можете запускать модели ИИ масштабов «передового опыта» дома
9:57 - Математика запуска модели с 750 миллиардами параметров
11:59 - Сочетание экспертов, объясненное с помощью бадминтона
13:50 - Четыре трюка, которые делают DeepSeek V4.1 Flash пригодным для использования на 32 ГБ видеопамяти
15:16 - Запуск DeepSeek V4.1 Flash в реальном времени на Wi-Fi One
17:36 - Почему Видеокарты не любят делиться
19:41 - Тестирование планировщика WiCi: переключение моделей ИИ с ним и без него
21:06 - Семейство видеокарт: мой вердикт, цены и доставка
22:18 - Молитва за вас
*Спонсор: WiCi*
ПОДДЕРЖИТЕ NETWORKCHUCK:
☕☕ КОФЕ и ТОВАРЫ: https://ntck.co/coffee
ГОТОВЫ УЧИТЬСЯ??
🔥🔥Присоединяйтесь к Академии NetworkChuck!: https://ntck.co/NCAcademy
📚 Курс CCNA: https://ntck.co/ccna
СЛЕДИТЕ ЗА МНОЙ ВЕЗДЕ:
Instagram: / networkchuck
X/Twitter: https://x.com/networkchuck
Facebook: / networkchuck
Присоединяйтесь к серверу Discord: https://ntck.co/discord
Некоторые ссылки в этом описании являются партнерскими. Если вы совершите покупку по ним, я могу получить небольшую комиссию без дополнительных затрат с вашей стороны. #sponsored
#wici #localai #networkchuck
Повторяем попытку...
Доступные форматы для скачивания:
Скачать видео
-
Информация по загрузке: