[Подкаст] Немотрон 3 Супер скачать в хорошем качестве

[Подкаст] Немотрон 3 Супер

https://research.nvidia.com/labs/nemo... Nemotron 3 Super: Гибридная модель MoE для агентного рассуждения В техническом отчете NVIDIA представлена ​​модель Nemotron 3 Super, модель со 120 миллиардами параметров, разработанная для высокопроизводительного агентного рассуждения. Она использует уникальную гибридную архитектуру Mamba-Transformer и масштабирование LatentMoE для достижения высокой точности при значительном снижении вычислительных затрат. Благодаря интеграции Multi-Token Prediction, модель ускоряет вывод за счет нативного спекулятивного декодирования, обеспечивая до 7,5 раз большую пропускную способность по сравнению с конкурирующими моделями. Предварительно обученная на 25 триллионах токенов, система демонстрирует замечательную стабильность в форматах NVFP4 с низкой точностью. Проект делает акцент на доступности открытого исходного кода, предоставляя исследовательскому сообществу общедоступные контрольные точки и специализированные синтетические наборы данных. Эта разработка представляет собой важный шаг вперед в создании эффективного ИИ с длительным контекстом, способного к сложному использованию инструментов и разработке программного обеспечения. #ai #nvidia #nemotron #research