Nvidia и Microsoft объявили о совместной работе по ускорению ИИ на ПК с видеокартами RTX. Генеративный ИИ теперь будет работать ещё быстрее — от цифровых ассистентов до игровых технологий. Готовьтесь к новым возможностям! 💻🔥
Nvidia и Microsoft объявили о партнерстве по оптимизации производительности ИИ-обработки на ПК с графикой RTX. Новое решение TensorRT для RTX AI PC обещает революцию в работе генеративного ИИ — от цифровых ассистентов до творческих инструментов.
Технический прорыв: TensorRT для RTX AI PC
Компании представили переработанную версию TensorRT — фреймворка для оптимизации нейросетей. Ключевые инновации:
- Just-in-time компиляция моделей под конкретное железо (вместо предварительной генерации)
- Уменьшение размера библиотек в 8 раз
- Нативная интеграция с Windows ML — новым стеком вывода Microsoft
- Прирост производительности до 1.6x по сравнению с DirectML
Архитектурные особенности
Герардо Дельгадо, директор по продуктам AI PC в Nvidia, объяснил техническую реализацию:
- Квантование моделей: снижение точности для оптимизации
- Автоподбор ядер Tensor Core под конкретное поколение GPU
- Генерация исполняемого графа непосредственно на устройстве
«TensorRT анализирует математические операции в модели и подбирает оптимальные ядра Tensor Core для их выполнения. Это двухэтапный процесс оптимизации», — отметил Дельгадо.
Экосистема разработки
Для упрощения интеграции представлены:
- Nvidia NIM: предварительно оптимизированные модели (FLUX.1-schnell, FLUX.1-dev)
- Project G-Assist: фреймворк для создания голосовых ассистентов
- Windows ML: единый API для аппаратно-независимого вывода моделей
Практическое применение
Ведущие приложения уже используют новые технологии:
- Topaz: улучшение качества видео через CUDA
- Autodesk VRED: DLSS 4 для 3D-рендеринга
- Bilibili: интеграция Nvidia Broadcast для стримеров
Для разработчиков
Доступны:
- TensorRT SDK (релиз в июне)
- AI Blueprints — шаблоны проектов
- Контейнеризованные NIM-модели
Этот шаг значительно упрощает разработку ИИ-приложений, устраняя необходимость ручной оптимизации под разные GPU.
