Кратко

Новая открытая модель Nemotron 3 Ultra от NVIDIA заявлена с 550 млрд параметров и контекстным окном свыше 500 тыс. токенов. Модель работает на платформе СуперИнтеллект без VPN, ориентирована на оркестрацию длинных агентных цепочек и взаимодействие с инструментами. В тексте разбор архитектуры, доступности и сопоставления с Nemotron 3 Super, а также перспектив применения.

НVIDIA объявила Nemotron 3 Ultra, флагман линейки Nemotron 3. По официальному заявлению, модель имеет 550 миллиардов параметров и активирует примерно 10% активных весов за проход. Такой режим работы реализован через смесь экспертных модулей внутри гибридной архитектуры и ориентирован на долгие агентные цепочки. Контекстное окно модели превышает 500 000 токенов и позволяет держать в памяти значительный объем истории и документов. В некоторых сторонних материалах упоминается возможность контекстов до 1 миллиона токенов, однако официальная конфигурация указывает свыше 500 000 токенов.

Главные параметры Nemotron 3 Ultra

Архитектура и контекст

  • Гибрид Transformer и Mamba-2 с LatentMoE и MTP слоями. Это сочетание рассчитано на эффективную обработку длинных последовательностей и ускорение генерации за счет мульти-token предсказаний.
  • Активность параметров составляет примерно 10% на каждом проходе, что обеспечивает баланс между точностью и расходом вычислительных ресурсов.
  • Контекстное окно свыше 500 000 токенов; в сторонних источниках встречаются упоминания о контекстах до 1 млн токенов, что свидетельствует о потенциальной вариативности в трактовке параметров в разных материалах.

Роль и сценарии использования

Nemotron 3 Ultra позиционируется как ядро для оркестрации длинных агентных пайплайнов: она планирует задачи, вызывает внешние инструменты, делегирует подагентам части работы и интегрирует результаты. Важной частью является способность восстанавливаться после сбоя без полного перезапуска цепочки и работать с накапливаемой историей через большой контекст.

Доступность и сравнение

Модель доступна без VPN на платформе СуперИнтеллект и может разворачиваться в одном окне с другими ИИмоделями и агентными инструментами. По независимым оценкам, Nemotron 3 Ultra показывает заметные преимущества по скорости инференса на агентных сценариях, хотя в некоторых задачах открытые аналоги продолжают замещать флагманы по другим метрикам. В частности, независимые обзоры отмечают, что скорость отклика и экономия токенов расхода вычислений являются сильными сторонами Ultra, при этом баллы в общих рейтингах часто зависят от конкретного набора задач и тестов.

Что дальше и применимость

Открытая экосистема вокруг Nemotron 3 Ultra создает условия для локального развертывания и дообучения на собственных данных, что полезно для организаций, желающих сохранить данные внутри своей инфраструктуры. В контексте инженерных задач это позволяет балансировать между стоимостью инференса и качеством рассуждений на длинных цепочках, делая Ultra конкурентоспособной опцией для агентных проектов.

Проверка фактов Частично подтверждено

Не подтверждено: 1, подтверждено: 3.

Источники и обновления
Показать все источники Скрыть источники