Qwen3.8-27B: режим мышления Low против xHigh + спекулятивная декодировка DFlash2 на M5 Max ⚡️

Описание: В этом видео я тестирую Qwen3.8-27B локально на Apple M5 Max, сравнивая различные уровни обработки информации и рассматривая, как меняется количество токенов в секунду (TPS) по мере того, как модели предоставляется больше времени на обработку информации.

Я также тестирую спекулятивное декодирование DFlash2, чтобы посмотреть, насколько оно может ускорить вывод Qwen3.8-27B и можно ли найти оптимальный практический уровень производительности, комбинируя спекулятивное декодирование с различными уровнями обработки информации.

Мои курсы по искусственному интеллекту, которые помогут вам развиваться уже сегодня:
Пройдите мой последний курс, запущенный на этой неделе, по тестированию ИИ без кода: Автоматизация тестирования программного обеспечения простым языком: https://www.udemy.com/course/zero-cod...

Используйте код: LEARN_AUG_26 для скидки 85% (ограниченное время)

Другие мои курсы по искусственному интеллекту, которые помогут вам развиваться уже сегодня:
Чтобы узнать больше о создании собственных агентов ИИ и тестировании агентов ИИ, пройдите курсы, доступные на Udemy, с купонами на скидку, указанными ниже.

Используйте промокод: LEARN_AUG_26

🤖 Автоматизация тестирования на основе ИИ: Playwright, Selenium, LLM и многое другое
https://www.udemy.com/course/ai-test-...

🤖 https://www.udemy.com/course/genai-mu...

🤖 Тестирование приложений ИИ и LLM с помощью DeepEval, RAGA и других инструментов с использованием Ollama
https://www.udemy.com/course/ai-testi...

🤖 Создание и тестирование агентов ИИ, чат-ботов, RAG с помощью Ollama и Local LLM
https://www.udemy.com/course/build-ai...

🤖2025 - Понимание, тестирование и тонкая настройка модели ИИ с помощью HuggingFace
https://www.udemy.com/course/ai-with-...

🤖2025 - Использование генеративного ИИ в автоматизированном тестировании программного обеспечения
https://www.udemy.com/course/generati...

🤖AgentQL:    • AgentQL: How Deepseek & OpenAI Supercharge...  
🌐 Локальный Deepseek R1 для использования в браузере -    • Local Deepseek R1 for Browser Use: Does It...  
🌐 Использование браузера -    • 🔥 89% Accuracy in AI Browser Automation wi...  

➜ Купоны на скидку для всех курсов: LEARN_AUG_26

► [Курс по разработке продвинутых фреймворков на Selenium C#] https://www.udemy.com/course/framewor...

► [Курс по разработке продвинутых фреймворков на Playwright C#]
https://www.udemy.com/course/framewor...

#Qwen #Qwen3 #Qwen3.8 #AppleSilicon #LocalLLM #M5Max #LLMBenchmark #ExecuteAutomation

► [Udemy] https://www.udemy.com/user/karthik-kk/

► [XUnit с Selenium]    • XUnit with Selenium  
► [Основы Git]    • Git Basics - Everyday Commands  
► [SpringBoot для тестирования]    • Spring Boot for Automation testing  

Selenium и C#
► [C# для автоматизированного тестирования]    • C# for Automation Testing  
► [Selenium с C#]    • Introduction to Selenium in C# -- Part 1 (...  
► [BDD с Specflow]    • BDD and Specflow  
► [BDD с Selenium]    • BDD with Selenium and Specflow  
► [Selenium .NET Core]    • Плейлист  

Selenium и Java
► [Cucumber с Selenium]    • Section 1 - Cucumber with Selenium (Cucumb...  
► [Cucumber с Selenium]    • Section 2 - Cucumber With Selenium (Seleni...  
► [Обновление Cucumber 4]    • Section 3 - Upgrade to Cucumber 4  
► [Selenium Grid]    • Selenium Grid  
► [Разработка с использованием фреймворка Selenium]    • Selenium Framework Design and Development  
► [Selenium 4]    • Selenium 4  
► [Selenium Grid с Docker]    • Selenium Grid with Docker