NVIDIA ha presentado nuevos modelos básicos que se ejecutarán localmente en computadoras con NVIDIA RTX™ AI, diseñados para mejorar la creación de contenido, productividad, desarrollo y la interacción con seres humanos digitales. Estos modelos, disponibles como microservicios NVIDIA NIM™, se procesan con las GPUs GeForce RTX™ Serie 50, que ofrecen un rendimiento de hasta 3.352 billones de operaciones por segundo en IA y 32 GB de VRAM. Las GPUs RTX 50 son las primeras de consumo en incluir soporte para cálculos FP4, mejorando el rendimiento de inferencias de IA y permitiendo ejecutar modelos generativos localmente en espacios de memoria más pequeños.
NVIDIA ha sido clave en el desarrollo de IA, con la GeForce GTX™ 580 siendo utilizada para entrenar AlexNet en 2012. Actualmente, cualquier persona puede ser desarrollador gracias a herramientas de bajo código y sin código, como AnythingLLM, ComfyUI, Langflow y LM Studio. Los microservicios NIM facilitarán la implementación de los modelos de IA generativa, mientras que los AI Blueprints ofrecerán flujos de trabajo fáciles para crear contenido, humanos digitales y más.
Además, los PC con GPU GeForce RTX Serie 50 preparados para NIM estarán disponibles de los principales fabricantes, permitiendo a desarrolladores y entusiastas explorar nuevas posibilidades en la IA generativa.
NVIDIA hará que la IA sea más accesible con el lanzamiento de microservicios NIM para PC RTX AI, que permitirán ejecutar modelos de IA generativa de grandes desarrolladores como Black Forest Labs, Meta, Mistral y Stability AI. Estos modelos incluyen desde grandes modelos de lenguaje (LLM) hasta generación de imágenes, habla, visión por computadora y más.
Gracias al cálculo FP4 de las GPUs GeForce RTX 50, los modelos que antes solo podían ejecutarse en grandes centros de datos ahora estarán disponibles para PCs, lo que acelerará la implementación de la IA y permitirá que más usuarios experimenten su rendimiento.
NVIDIA también presentará la familia de modelos abiertos Llama Nemotron, especialmente precisos en tareas de IA agentic como seguimiento de instrucciones y chat. Los microservicios NIM, optimizados para GPUs NVIDIA, estarán disponibles para PCs, estaciones de trabajo RTX y la nube, facilitando su uso y despliegue.
Desarrolladores y entusiastas podrán utilizar fácilmente los microservicios NIM en PC con Windows 11 mediante Windows Subsystem for Linux (WSL), lo que acelerará el despliegue de capacidades de IA. Estos microservicios están optimizados para Windows y son compatibles con marcos de desarrollo populares como AI Toolkit para VSCode, AnythingLLM, ComfyUI, LangChain, y más, permitiendo integrar modelos de IA en aplicaciones mediante puntos finales estándar.
Para demostrar cómo utilizar NIM en la creación de agentes de IA, NVIDIA presentó el proyecto R2X, un avatar de PC con visión artificial que interactúa con el usuario, asiste en aplicaciones de escritorio y videoconferencias, entre otras tareas. El avatar se genera usando el algoritmo NVIDIA RTX Neural Faces, que mejora la rasterización tradicional, y se anima con Audio2Face™-3D para un movimiento más realista. Además, R2X puede conectarse a servicios de IA en la nube y microservicios NIM mediante marcos como CrewAI y Langflow.
Los microservicios NIM estarán disponibles a través de AI Blueprints, flujos de trabajo de IA que se ejecutan localmente en PC RTX. Estos blueprints permitirán a los desarrolladores crear podcasts a partir de documentos PDF, generar imágenes guiadas por escenas 3D, entre otras tareas. Por ejemplo, el blueprint de PDF a podcast convierte textos, imágenes y tablas de un PDF en un guión que puede ser grabado y editado, y los usuarios podrán interactuar en tiempo real con el presentador del podcast. El blueprint para IA guiada por 3D permitirá a los artistas tener un control preciso sobre la creación de imágenes usando objetos 3D en programas como Blender.
Los microservicios NVIDIA NIM y los AI Blueprints estarán disponibles a partir de febrero, inicialmente con soporte para las GPUs GeForce RTX 50 Series, GeForce RTX 4090 y 4080, y NVIDIA RTX 6000 y 5000. En el futuro, se añadirán más GPUs. Los PC RTX AI preparados para NIM estarán disponibles a través de varios fabricantes como Acer, ASUS, Dell, MSI, Samsung, y más.
