GTC Nvidia: IA hasta para el planeta

GTC Nvidia: IA hasta para el planeta

Jensen Huang, CEO de Nvidia.

En la conferencia, GTC, Nvidia presentó su nueva plataforma Blackwell y anunció alianzas, nubes, proyectos y ecosistemas.

En la conferencia anual de Nvidia, GTC, su CEO Jensen Huang, presentó la nueva plataforma Blackwell, renovó alianzas y presentó proyectos avanzados.

Dijo que Blackwell está diseñada para crear y ejecutar inteligencia artificial (IA) generativa en tiempo real,en modelos de lenguaje de gran tamaño con billones de parámetros a un costo y consumo de energía hasta 25 veces menor que su solución predecesora.

Te puede interesar leer: nVidia: Perspectivas y Oportunidades en el Mercado de Tecnología

Nombrada en honor a David Harold Blackwell, un matemático especializado en teoría de juegos y estadística, y el primer académico negro incluido en la Academia Nacional de Ciencias de Estados Unidos, esta nueva arquitectura sucede a NVIDIA Hopper lanzada hace dos años.

La tecnología detrás de Blackwell

Huang detalló que trabaja con seis tecnologías transformadoras para el cómputo acelerado, que permiten el entrenamiento de IA y la inferencia LLM en tiempo real.

Para modelos que escalan hasta 10 billones de parámetros, al incluir:

  • El chip más potente del mundo: con 208 mil millones de transistores, las GPU con arquitectura Blackwell se fabrican mediante un proceso 4NP TSMC personalizado con matrices de GPU con límite de dos retículas conectadas mediante un enlace de chip a chip de 10 TB/segundo en una única GPU unificada.
  • Motor Transformer de segunda generación: impulsado por el nuevo soporte de escalado de microtensores y algoritmos avanzados de gestión de rango dinámico, por lo que admitirá el doble de tamaños de cálculo y modelado.
  • NVLink de quinta generación: para acelerar el rendimiento de los modelos de IA con múltiples billones de parámetros y un rendimiento bidireccional de 1,8 TB/s por GPU.
  • Motor RAS: dedicado para brindar confiabilidad, disponibilidad y facilidad de servicio. 
  • IA segura: las capacidades confidenciales avanzadas protegen los modelos de IA y los datos de los clientes sin comprometer el rendimiento, con soporte para nuevos protocolos de cifrado de interfaz nativos.
  • Motor de descompresión: un motor de descompresión dedicado admite los formatos más recientes, acelerando las consultas de bases de datos para ofrecer el mayor rendimiento en análisis y ciencia de datos.

Los productos estarán disponibles a través de sus socios a partir de finales de este año.

Blackwell hará realidad la promesa de la IA

“Durante tres décadas hemos buscado la computación acelerada, con el objetivo de permitir avances transformadores como el aprendizaje profundo y la IA”.

“Blackwell es el motor que impulsará esta nueva revolución industrial. Al trabajar con las empresas más dinámicas.

“Haremos realidad la promesa de la IA para todas las industrias”, afirmó Jensen Huang.

En alianza con los magníficos

Al tiempo que adelantó, que ya tiene acuerdos y alianzas para su adopción con: Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI, Oracle, Tesla y xAI.

“Esperamos llevar las capacidades innovadoras de la GPU Blackwell (…), incluido Google DeepMind, para acelerar descubrimientos futuros”, mencionó Sundar Pichai, director ejecutivo de Alphabet y Google.

A 13 años de colaboración con AWS. “Hoy ofrecemos la gama más amplia de soluciones de GPU disponibles en cualquier lugar de la nube

Además de, desarrollar en conjuntó el Proyecto Ceiba, combinando los superchips Grace Blackwell.

La virtualización avanzada del sistema Nitro de AWS y la conexión en red ultrarrápida del adaptador Elastic Fabric, para la investigación y el desarrollo de IA”, indicó Andy Jassy, ​​presidente de Amazon.

La IA ya impulsa todo, desde nuestros grandes modelos lingüísticos hasta nuestras recomendaciones de contenido, anuncios y sistemas de seguridad. 

“Esperamos utilizar Blackwell para ayudar a entrenar nuestros modelos Llama de código abierto y construir la próxima generación de Meta AI y productos de consumo”, dijo Mark Zuckerberg, fundador de Meta.

Llevaremos el procesador GB200 Grace Blackwell a nuestros centros de datos en todo el mundo.

Aprovecharemos nuestra larga historia de optimización de GPU NVIDIA, para nuestra nube”, citó Satya Nadella, CEO de Microsoft.

Sam Altman, director ejecutivo de OpenAI describió que Blackwell ofrece enormes avances en el rendimiento y acelerará nuestra capacidad para ofrecer modelos de vanguardia”.

En las nubes

Durante el encuentro también se presentó NVIDIA DGX Cloud , una plataforma diseñada en conjunto con proveedores líderes de servicios en la nube.

La cual, brindará a los desarrolladores empresariales acceso dedicado a la infraestructura y el software necesarios para construir e implementar modelos avanzados de IA generativa.

Con el objetivo de acelerar su software para diseñar y simular sistemas y piezas eléctricas, mecánicas y de fábrica. 

Para el planeta Earth-2

Durante el evento, en San José, California se presentó la plataforma de nube gemela digital climática Earth-2, para simular y visualizar el tiempo y el clima a una escala sin precedentes.

Como parte de los microservicios también está CUDA-X que permite a cualquier usuario crear simulaciones interactivas de alta resolución.

Que van desde la atmósfera global, nubosidad local, hasta tifones y turbulencias.

Esta nube emplea el modelo de IA generativa, llamado CorrDiff, que utiliza el modelado de difusión de última generación.

El cual, genera imágenes con una resolución 12.5 veces mayor que los modelos numéricos actuales, mil veces más rápido y 3 mil veces más eficiencia energética.

El comunicado destaca que CorrDiff es el primer modelo de IA generativa.

Que ofrece superresolución, sintetiza nuevas métricas de interés y aprende la física del clima local a escala final.

Soluciones empresariales

Para el entorno empresarial, la firma también desarrolla microservicios para crear e implementar aplicaciones personalizadas en sus propias plataformas.

En el caso del sector del transporte han adoptado la computadora centralizada, DRIVE Thor, para impulsar las flotas comerciales y de consumo de próxima generación.

Robots humanoides

Así mismo, dio a conoce el proyecto GR00T, un modelo básico de propósito general para robots humanoides.

Diseñado para promover los avances entre robótica e inteligencia artificial incorporada.

Con la nueva computadora, Jetson Thor, para robots humanoides basada en el sistema en chip (SoC) NVIDIA Thor.

Así como actualizaciones de la plataforma robótica Isaac, que incluye modelos básicos de IA generativa y herramientas para simulación e infraestructura de flujo de trabajo.

“Construir modelos básicos para robots humanoides generales es uno de los problemas más interesantes de resolver en la IA hoy en día.

Las tecnologías habilitadoras se unen para que se den pasos de gigante hacia la robótica general artificial”, afirmó Huang.

Impulsa la computación cuántica

También presentó una nube que permite a investigadores y desarrolladores ampliar los límites de la exploración de la computación cuántica en dominios científicos como: la química, biología y ciencia de materiales.

NVIDIA Quantum Cloud se basa en la plataforma de computación cuántica CUDA-Q™ de código abierto.

Como microservicio, permite a los usuarios por primera vez crear y probar en la nube nuevos algoritmos y aplicaciones cuánticos.

Incluidos potentes simuladores y herramientas para la programación híbrida cuántica-clásica.

¿Cómo fue el resultado de tus ventas en el Buen Fin?