На что способна новая модель NVIDIA — Nemotron 3 Super 120B. Бенчмарки, тесты и интеграция в Luxms BI
120 миллиардов параметров, длинный контекст и запуск на одной видеокарте — LLM-модели начинают менять экономику BI-аналитики.
В статье Саид Мухамад, который занимается развитием Luxms Data Boring и ИИ в Luxms, делится практическим опытом тестирования модели NVIDIA Nemotron 3 Super 120B, развернутой на одной RTX PRO 6000 и интегрированной с Luxms BI.
Автор показывает, где модель действительно работает в реальных аналитических сценариях — от обработки длинного контекста до агентных задач — а где упирается в ограничения, такие как скорость инференса и избыточные итерации.