NVIDIA democratiza la IA generativa con RTX

NVIDIA anunció hoy las GPU de escritorio GeForce RTX SUPER para un rendimiento de IA generativo sobrealimentado, nuevas computadoras portátiles con IA de todos los principales fabricantes y nuevas herramientas y software de IA acelerados por NVIDIA RTX para desarrolladores y consumidores.

Aprovechando décadas de liderazgo en PC, con más de 100 millones de sus GPU RTX impulsando la era de las PC con IA, NVIDIA ofrece ahora estas herramientas para mejorar las experiencias de PC con IA generativa: Aceleración NVIDIA TensorRT  del popular modelo Stable Diffusion XL para envío de texto. flujos de trabajo de imágenes, NVIDIA RTX Remix con herramientas de texturas de IA generativa, microservicios NVIDIA ACE y más juegos que utilizan la tecnología DLSS 3 con Frame Generation.

AI Workbench, un conjunto de herramientas unificado y fácil de usar para desarrolladores de IA, estará disponible en versión beta a finales de este mes. Además, NVIDIA TensorRT-LLM (TRT-LLM), una biblioteca de código abierto que acelera y optimiza el rendimiento de inferencia de los últimos modelos de lenguajes grandes (LLM), ahora admite más modelos preoptimizados para PC. Acelerado por TRT-LLM, Chat with RTX , una demostración técnica de NVIDIA que también se lanzará este mes, permite a los entusiastas de la IA interactuar con sus notas, documentos y otro contenido.

«La IA generativa es la transición de plataforma más importante en la historia de la informática y transformará todas las industrias, incluida la de juegos», afirmó Jensen Huang, fundador y director ejecutivo de NVIDIA. «Con más de 100 millones de PC y estaciones de trabajo RTX AI, NVIDIA es una enorme base instalada para que los desarrolladores y jugadores disfruten de la magia de la IA generativa».

Ejecutar IA generativa localmente en una PC es fundamental para la privacidad, la latencia y las aplicaciones sensibles a los costos. Requiere una gran base instalada de sistemas preparados para IA, así como las herramientas de desarrollo adecuadas para ajustar y optimizar los modelos de IA para la plataforma de PC.

Para satisfacer estas necesidades, NVIDIA está ofreciendo innovaciones en toda su tecnología, impulsando nuevas experiencias y basándose en más de 500 aplicaciones y juegos para PC habilitados para IA que ya están acelerados por la tecnología NVIDIA RTX.

PC y estaciones de trabajo RTX AI

Las GPU NVIDIA RTX, capaces de ejecutar una amplia gama de aplicaciones con el máximo rendimiento, liberan todo el potencial de la IA generativa en las PC. Los Tensor Cores en estas GPU aceleran drásticamente el rendimiento de la IA en las aplicaciones más exigentes para trabajar y jugar.

Las nuevas tarjetas gráficas GeForce RTX 40 SUPER Series , también anunciadas en CES, incluyen GeForce RTX 4080 SUPER, 4070 Ti SUPER y 4070 SUPER para un rendimiento de IA superior. La GeForce RTX 4080 SUPER genera vídeo con IA 1,5 veces más rápido (e imágenes 1,7 veces más rápido) que la GPU GeForce RTX 3080 Ti. Los Tensor Cores en las SUPER GPU ofrecen hasta 836 billones de operaciones por segundo, brindando capacidades transformadoras de IA a los juegos, la creación y la productividad diaria.

Los principales fabricantes, incluidos Acer, ASUS, Dell, HP, Lenovo, MSI, Razer y Samsung, están lanzando una nueva ola de portátiles RTX AI, que ofrecen a los usuarios un conjunto completo de capacidades de IA generativa desde el primer momento. Los nuevos sistemas, que ofrecen un aumento de rendimiento que oscila entre 20 y 60 veces en comparación con el uso de unidades de procesamiento neuronal, comenzarán a distribuirse este mes.

Las estaciones de trabajo móviles con GPU RTX pueden ejecutar el software NVIDIA AI Enterprise , incluidos TensorRT y NVIDIA RAPIDS para un desarrollo de ciencia de datos e inteligencia artificial generativa simplificado y seguro. Se incluye una licencia de tres años para NVIDIA AI Enterprise con cada GPU activa NVIDIA A800 de 40 GB , lo que proporciona una plataforma de desarrollo de estaciones de trabajo ideal para IA y ciencia de datos.

Nuevas herramientas de desarrollo de PC para crear modelos de IA

Para ayudar a los desarrolladores a crear, probar y personalizar rápidamente modelos de IA generativa y LLM previamente entrenados utilizando un rendimiento y un uso de memoria de clase PC, NVIDIA anunció recientemente NVIDIA AI Workbench.

AI Workbench, que estará disponible en versión beta a finales de este mes, ofrece acceso optimizado a repositorios populares como Hugging Face, GitHub y NVIDIA NGC, junto con una interfaz de usuario simplificada que permite a los desarrolladores reproducir, colaborar y migrar proyectos fácilmente.

Los proyectos se pueden escalar prácticamente a cualquier lugar, ya sea el centro de datos, una nube pública o NVIDIA DGX Cloud , y luego regresar a los sistemas RTX locales en una PC o estación de trabajo para realizar inferencias y personalizar la luz.

En colaboración con HP, NVIDIA también está simplificando el desarrollo de modelos de IA al integrar los modelos y puntos finales de NVIDIA AI Foundation, que incluyen modelos de IA acelerados por RTX y kits de desarrollo de software, en HP AI Studio, una plataforma centralizada para ciencia de datos. Esto permitirá a los usuarios buscar, importar e implementar fácilmente modelos optimizados en PC y la nube.

Después de crear modelos de IA para casos de uso de PC, los desarrolladores pueden optimizarlos utilizando NVIDIA TensorRT para aprovechar al máximo los Tensor Cores de las GPU RTX.

NVIDIA recientemente extendió TensorRT a aplicaciones basadas en texto con TensorRT-LLM para Windows, una biblioteca de código abierto para acelerar LLM. La última actualización de TensorRT-LLM, disponible ahora, agrega Phi-2 a la creciente lista de modelos preoptimizados para PC, que se ejecutan hasta 5 veces más rápido en comparación con otros backends de inferencia.

La IA generativa acelerada por RTX impulsa nuevas experiencias de PC

En CES, NVIDIA y sus socios desarrolladores están lanzando nuevas aplicaciones y servicios impulsados ​​por IA generativa para PC, que incluyen:

• NVIDIA RTX Remix, una plataforma para crear impresionantes remasterizaciones RTX de juegos clásicos. Lanzado en versión beta a finales de este mes, ofrece herramientas de inteligencia artificial generativa que pueden transformar texturas básicas de juegos clásicos en materiales de renderizado físicos modernos con resolución 4K.
• Microservicios NVIDIA ACE, incluidos modelos de animación y voz generativos impulsados ​​por IA, que permiten a los desarrolladores agregar avatares digitales dinámicos e inteligentes a los juegos.
• Aceleración TensorRT para Stable Diffusion XL (SDXL) Turbo y modelos de consistencia latente, dos de los métodos de aceleración de Stable Diffusion más populares. TensorRT mejora el rendimiento de ambos hasta en un 60 % en comparación con la implementación anterior más rápida. Ahora también está disponible una versión actualizada de la extensión Stable Diffusion WebUI TensorRT , que incluye aceleración para SDXL, SDXL Turbo, LCM – Low-Rank Adaptation (LoRA) y compatibilidad mejorada con LoRA.
• NVIDIA DLSS 3 con Frame Generation, que utiliza IA para aumentar la velocidad de fotogramas hasta 4 veces en comparación con el renderizado nativo, aparecerá en una docena de los 14 nuevos juegos RTX anunciados, incluidos Horizon Forbidden West , Pax Dei y Dragon’s Dogma 2 .
• Chat with RTX, una demostración técnica de NVIDIA disponible a finales de este mes, permite a los entusiastas de la IA conectar fácilmente los LLM de PC a sus propios datos mediante una técnica popular conocida como generación aumentada de recuperación (RAG). La demostración, acelerada por TensorRT-LLM, permite a los usuarios interactuar rápidamente con sus notas, documentos y otro contenido. También estará disponible como proyecto de referencia de código abierto, para que los desarrolladores puedan implementar fácilmente las mismas capacidades en sus propias aplicaciones.