NVIDIA выпустила Nemotron 3: гибридные модели Mamba Transformer с использованием скрытого модуля ...

Описание: NVIDIA Nemotron 3 — это открытое семейство гибридных моделей Mamba Transformer MoE, разработанных для агентного ИИ с длительным контекстом и высокой эффективностью. В линейку входят Nano, Super и Ultra, все они используют гибридную архитектуру Mamba Transformer Mixture of Experts, многосредовое обучение с подкреплением и собственное контекстное окно с 1 миллионом токенов для многоагентных рабочих процессов. В версиях Super и Ultra добавлены LatentMoE, многотокенное предсказание и 4-битное обучение NVFP4 для повышения точности и производительности, в то время как Nemotron 3 Nano уже доступен с открытыми весами, наборами данных и инструментами RL на основе NeMo Gym для разработчиков, желающих создавать и настраивать специализированные агентные системы на графических процессорах NVIDIA и распространенных стеках вывода...

Полный анализ: https://www.marktechpost.com/2025/12/...

Статья: https://research.nvidia.com/labs/nemo...

Весы модели: https://huggingface.co/collections/nv...

@NVIDIA @NVIDIADeveloper @NVIDIA-Studio #искусственныйинтеллект #ИИ #языковыемодели #нейронныесети